AI21 Labs - Jamba

Jamba d'AI21 Labs est une famille de modèles de langage basée sur une architecture hybride Joint Attention & Mamba (Transformer‑Mamba) conçue pour concilier qualité, débit et très long contexte. Le nom Jamba regroupe des variantes (Large, Mini, 3B) optimisées pour la vitesse, la gestion de séquences longues et la déployabilité privée, avec des poids publiés sous licence permissive.

Fonctionnalités clés

• Architecture hybride Transformer + Mamba (SSM) pour efficacité et précision.
• Mixture-of-Experts (MoE) pour augmenter la capacité tout en limitant les paramètres actifs.
• Support de contexte étendu jusqu'à 256K tokens pour RAG et documents volumineux.
• Poids open‑source et options de déploiement : cloud, on‑premises, VPC et Hugging Face.
• Optimisations d'inférence (ExpertsInt8) pour réduire l'empreinte mémoire et accélérer le throughput.

Cas d'usage

Idéal pour équipes R&D, entreprises cherchant déploiement privé, intégration de retrieval-augmented generation (RAG), assistants internes à long contexte, outils d'analyse documentaire et agents autonomes. Convient aux développeurs, chercheurs et organisations réglementées souhaitant contrôler leurs données.