Laboratoires AI21 (AI21 Studio) Gratuit

AI21 Labs est la première société israélienne de modèles de base en IA. Son AI21 Studio fournit un accès API et un déploiement privé de la série de grands modèles Jamba. Jamba utilise une architecture hybride innovante Mamba-Transformer pour maintenir une efficacité de raisonnement extrêmement élevée dans un contexte ultra-long de 256 Ko. Il prend en charge l'appel de fonctions, le schéma JSON, la récupération et le réglage précis de documents, ce qui en fait un choix rentable pour le déploiement LLM au niveau de l'entreprise.

Laboratoires #AI21 (AI21 Studio)

Paramètres et statistiques de base

AI21 Labs fournit un accès API à la série de grands modèles Jamba via la plateforme AI21 Studio. La principale compétitivité de la famille Jamba réside dans son architecture hybride Mamba-Transformer unique - tout en conservant la haute qualité du mécanisme d'attention du Transformer, elle introduit le modèle spatial d'état Mamba (SSM) pour gérer les longues séquences, réduisant ainsi la complexité informatique du raisonnement contextuel ultra-long de 256 000 jetons du quadratique au linéaire, et le débit dans les mêmes conditions matérielles est nettement supérieur à celui de l'architecture Transformer pure.

Caractéristiques	Jamba Grand (1.7)	Jamba Mini (v2)	Jamba 3B (v2)
Paramètres totaux	398B	52B	3B
Taille du paramètre d'activation	94B	12B	3B (dense)
Type d'architecture	MoE hybride Mamba-Transformer	MoE hybride Mamba-Transformer	Transformateur dense
Fenêtre contextuelle	256 000 jetons	256 000 jetons	256 000 jetons
Sortie maximale	4096 jetons	4096 jetons	—
Date limite de connaissance	2024-08-22	2024-08-22	2024-08-22
Points de terminaison de l'API	jamba-grand	jamba-mini	Non disponible via API
Tarification (entrée/sortie/million de jetons)	2 $ / 8 $	0,2 $ / 0,4 $	Téléchargement gratuit open source
Langues prises en charge	9 (dont anglais, espagnol, français, portugais, italien, néerlandais, allemand, arabe, grec)	Tongzuo	Tongzuo

Valeur réelle du contexte 256K : par rapport aux fenêtres 128K ou 8K-32K des modèles grand public, le 256K de Jamba signifie qu'un document PDF d'environ 400 pages ou un manuel technique complet de longueur moyenne peut être traité en un seul passage sans avoir besoin de stratégies de partitionnement ou de fenêtre coulissante. Combinée à ses caractéristiques architecturales de complexité linéaire, la courbe de croissance des délais de Jamba est beaucoup plus plate que celle des modèles d'attention pure dans des scénarios tels que le résumé de documents longs, l'analyse complète de la base de code et la récupération de l'historique des conversations à plusieurs tours. Mais lorsque la tâche nécessite uniquement un contexte en 4K, la fenêtre 256K n'apporte pas automatiquement d'avantages supplémentaires, mais peut introduire une légère dilution de l'attention car le modèle doit couvrir un codage de position plus long - un compromis courant pour les modèles à contexte très long.

Référence de performances et de débit : AI21 Labs n'a pas divulgué les valeurs précises de contrôle de fréquence TTFT (délai du premier mot) et TPM/RPM. Selon les commentaires de la communauté tierce, le délai du premier mot de Jamba Large dans une concurrence moyenne est d'environ 500 à 1 200 ms, et celui du Jamba Mini est d'environ 200 à 500 ms. Les performances réelles sont affectées par l'impact global de la longueur d'entrée, de la longueur de sortie et de la concurrence. En termes de contrôle de fréquence, le quota d'API par défaut fluctue en fonction du package, et les scénarios à haute fréquence doivent demander une extension via un plan personnalisé. Les valeurs spécifiques sont soumises à la page officielle en temps réel d'AI21 Studio.

Intensité et coût d'inférence facultatifs : AI21 Studio ne fait pas de distinction entre les modes « réflexion » et « direct », mais contrôle la certitude et la diversité de la sortie via les deux paramètres « température » (0,0-2,0) et « top_p » (0,0-1,0). Pour les scénarios d'entreprise qui nécessitent une grande certitude (génération de clauses contractuelles, classification des données), il est recommandé d'utiliser « température=0.1 » avec le schéma JSON ; pour les tâches créatives (rédaction, brainstorming), une « température = 0,7-0,9 » est recommandée. L'absence d'un « mode de raisonnement » indépendant signifie que pour les tâches logiques complexes, vous devez vous appuyer sur une ingénierie rapide pour guider le CoT (pensée en chaîne) au lieu du commutateur de raisonnement profond intégré au modèle.

Reconnaissance des utilisateurs et du marché

Le positionnement d'AI21 Labs sur le marché se concentre sur « l'IA contrôlable au niveau de l'entreprise ». Il ne recherche pas d'effets d'échelle sur le marché des consommateurs C-end, mais s'adresse en profondeur aux moyennes et grandes organisations qui ont des besoins rigides en matière de souveraineté des données, d'audit de conformité et de flexibilité de déploiement.

Pénétration des clients d'entreprise : les clients divulgués publiquement d'AI21 Labs couvrent plusieurs secteurs verticaux tels que la finance, les soins médicaux, la défense nationale et la vente au détail de technologies. Les cas clients typiques incluent de grands détaillants utilisant Jamba pour le traitement et l'analyse des documents de la chaîne d'approvisionnement, et des institutions financières qui l'utilisent pour l'examen de la conformité et la génération de rapports sur les risques. Dans le domaine de la défense et du gouvernement, les capacités d'auto-hébergement de Jamba et la certification de conformité ISO/SOC2 constituent des arguments de vente essentiels : les modèles peuvent être déployés dans un VPC ou sur site, et les données de formation ne sont pas accessibles aux tiers.

Influence de la communauté Open Source : Le modèle Jamba est open source téléchargeable sur Hugging Face, et les poids de Jamba Large et Jamba Mini sont disponibles gratuitement (sous réserve des conditions d'utilisation des modèles AI21). Selon les données publiques de Hugging Face, la série de modèles Jamba a été téléchargée des millions de fois au total. Ils appartiennent au deuxième échelon de « haute attention mais pas au sommet » dans la communauté open source - moins connu que Llama et Mistral, mais il a formé une perception différenciée en termes d'efficacité à long terme et de capacités de déploiement privé.

Progrès du financement et de la commercialisation : AI21 Labs a levé plus de 300 millions de dollars au total, et les investisseurs incluent Google, NVIDIA, Walden Catalyst, etc. Plusieurs cycles de financement à grande échelle ont été réalisés entre 2024 et 2025, avec une valorisation de plus d'un milliard de dollars, ce qui en fait l'une des sociétés d'IA les plus appréciées en Israël. En termes de commercialisation, AI21 utilise l'abonnement API et l'autorisation de déploiement privatisée comme principal modèle de revenus. Elle étend également sa gamme de produits via Maestro (plateforme d'agent IA) et Wordtune (assistant d'écriture), formant une structure de revenus à trois niveaux : « Modèle de base + Plateforme d'agent + Application finale ».

Positionnement de référence dans l'industrie : la série Jamba fonctionne de manière exceptionnelle dans les scénarios de génération améliorée de compréhension et de récupération de textes longs (RAG) - la fenêtre contextuelle de 256 Ko associée à la complexité linéaire de l'architecture Mamba lui confère des avantages rentables significatifs dans les scénarios de traitement de documents à grande échelle. Cependant, en termes de questions et réponses de connaissances générales, de raisonnement mathématique complexe et de tâches de génération d'idées, la limite supérieure des capacités de Jamba est inférieure à celle des modèles phares tels que GPT-5, Claude 4 et Gemini 3 au cours de la même période. Sa principale compétitivité ne réside pas dans « la hauteur absolue des capacités » mais dans « l’équilibre global entre contrôlabilité, rentabilité et conformité ».

Avantage de coût

La stratégie de tarification d'AI21 Labs est différente de celle de la plupart des fournisseurs d'API : elle ne s'engage pas dans l'acquisition de clients côté C avec « des crédits gratuits et des investissements importants », mais propose directement des options de coûts complètes allant du paiement à l'utilisation au déploiement privatisé pour l'approvisionnement au niveau de l'entreprise.

Coût côté C/développeur individuel : AI21 Studio propose un essai gratuit de 10 $ (valable 7 jours, aucune carte de crédit requise). Après la période d’essai, vous serez facturé au fur et à mesure. Par rapport à OpenAI, Anthropic et d'autres stratégies qui continuent de fournir des crédits gratuits, AI21 a un seuil plus élevé pour les nouveaux utilisateurs : un crédit de 10 $ est suffisant pour la vérification du prototype et les tests de concept, mais pas suffisant pour prendre en charge une utilisation personnelle à long terme. Pour les développeurs individuels qui n'ont besoin que de questions et réponses quotidiennes ou d'une aide à la rédaction, le rapport prix/performance de Jamba n'est pas aussi bon que celui de concurrents moins chers (tels que DeepSeek ou les modèles open source accessibles via Groq).

Tarifs API : une comparaison approfondie

Modèle	Prix ​​d'entrée (par million de jetons)	Prix ​​à la sortie (par million de jetons)	Fenêtre contextuelle	Évaluation du rapport coût-efficacité d'un scénario typique
Jamba Mini (v2)	0,20 $	0,40 $	256 Ko	Classification des documents longs, récupération RAG récapitulative - extrêmement rentable dans un contexte ultra-long
Jamba Grand (1.7)	2,00 $	8,00 $	256 Ko	Raisonnement complexe, tâches en plusieurs étapes – prix moyens à bas parmi les modèles phares
GPT-5.5 Pro (référence)	~30,00 $	~180,00 $	128 Ko	—
Claude Opus 4.8 (Référence)	~15,00 $	~75,00 $	200 000	—
DeepSeek V4-Flash (référence)	~0,14 $	~0,28 $	1M	Contexte très long mais pas privé

Avantage de prix des jetons d'AI21 : AI21 affirme officiellement que son efficacité de tokenisation est d'environ 30 % supérieure à celle des produits concurrents, c'est-à-dire que la même quantité de texte consomme moins de jetons. Cela signifie que le « coût pour mille mots » réel peut être inférieur à la comparaison superficielle. En prenant Jamba Mini comme exemple, le coût réel des jetons d'entrée de 0,20 $/million peut être proche de l'équivalent de 0,14 $/million de jetons de produits concurrents après avoir pris en compte l'efficacité des jetons. Pour les tâches de traitement de documents longs, cette différence peut réduire la facture réelle de 10 à 30 %, mais cela dépend de la langue et du type de contenu du texte - l'amélioration de l'efficacité de la tokenisation n'est peut-être pas aussi évidente pour le texte chinois que pour l'anglais.

Coût de déploiement entreprise/privé : le déploiement privatisé de Jamba constitue son principal argument de vente différenciateur en matière d'approvisionnement d'entreprise. Les pondérations des modèles peuvent être téléchargées sur votre propre VPC ou serveur local, et les données d'inférence sont complètement isolées. Les éléments de coût comprennent :

• Coût de la licence : le poids du modèle open source lui-même est gratuit, mais l'utilisation commerciale doit être conforme aux conditions de service des modèles AI21 (pas une licence libre telle que MIT, et les conditions contraignantes spécifiques doivent être révisées).
• Coût d'infrastructure : l'inférence sur Jamba Large (398B/94B activé) nécessite un cluster GPU multi-cartes (4-8×A100-80G recommandés), Jamba Mini (52B/12B activé) peut fonctionner sur une seule carte A100. Les coûts mensuels d’infrastructure varient de plusieurs milliers à plusieurs dizaines de milliers de dollars.
• Coûts d'exploitation, de maintenance et de personnalisation : le réglage fin (prenant en charge le réglage complet, LoRA, QLoRA), la configuration du déploiement, la surveillance et les mises à jour de version nécessitent un investissement d'équipe. AI21 fournit des services de conseil expert en IA (plan personnalisé), les frais sont négociables.
• Coût caché : l'itération de la version du modèle doit être revalidée. L'architecture Mamba de Jamba peut être moins optimisée que le modèle Transformer pur dans les cadres d'inférence traditionnels (vLLM, TGI), et des réglages supplémentaires sont nécessaires lors du déploiement.

Fonctions principales

Les fonctions API d'AI21 Studio sont conçues autour des deux lignes « sortie contrôlable + intégration au niveau de l'entreprise ». Il ne vise pas l'empilement de fonctions, mais se concentre sur la stabilité et l'auditabilité de l'environnement de production.

• Chat Completions : interface compatible standard avec OpenAI, prenant en charge les paramètres courants tels que le tableau messages (système/utilisateur/assistant/rôle d'outil), température, top_p, max_tokens, stop, stream et d'autres paramètres courants. Différences clés par rapport à OpenAI : Le paramètre seed n'est pas pris en charge (ce qui signifie que la sortie n'a pas de lignes déterministes reproductibles), le paramètre n prend en charge 1-16 mais la température ne peut pas être 0 lorsque n > 1. max_tokens a une limite supérieure stricte de 4096, qui est limitée pour les tâches qui nécessitent une sortie très longue (telle que la génération de documents longs) - cela compense dans une certaine mesure l'avantage de la fenêtre de saisie de 256 Ko, car le modèle peut « lire » un contenu très long, mais « écrire » une longueur de seulement 4K.

• Appel de fonction : prend en charge la définition de fonctions personnalisées et le modèle peut décider automatiquement d'appeler et de transmettre des paramètres en fonction des entrées de l'utilisateur. Ceci est crucial pour les applications de type Agent (requête de données, appels API externes, intégration de systèmes métiers). La mise en œuvre d'AI21 suit le format compatible OpenAI et entraîne de faibles coûts de migration. Conseils de mise en œuvre : la fiabilité des appels d'outils de Jamba se situe à un niveau moyen supérieur dans les évaluations tierces, inférieur à celui de la série GPT-4 mais supérieur à celui des modèles open source avec le même nombre de paramètres. Pour les processus automatisés critiques pour l'entreprise, il est recommandé de décrire explicitement les conditions de déclenchement et les contraintes de valeur de retour dans l'invite afin d'améliorer la précision des appels.

• Mode JSON (Structured Output) : Forcez le modèle à générer du JSON légal via response_format : {"type": "json_object"}. Ceci est utile pour les scénarios d’extraction de données, de sortie structurée et d’intégration de système en aval. Remarque : Après avoir activé le mode JSON, le modèle peut générer un JSON vide ou une structure incomplète dans certains cas extrêmes. Il est recommandé d'effectuer une vérification du schéma au niveau de la couche application et de réessayer en cas d'échec.

• Recherche de documents : prend en charge le paramètre "documents" dans la requête - en transmettant plusieurs objets de document (y compris le contenu et les métadonnées), le modèle récupérera les documents en fonction de leur pertinence sémantique et les utilisera pour générer des réponses. Il s'agit d'une fonctionnalité RAG (Retrieval Augmentation Generation) intégrée sans qu'il soit nécessaire de créer une base de données vectorielle supplémentaire ou un pipeline de récupération. La limite supérieure des documents et la longueur d'un seul document sont soumises aux documents officiels. Valeur du scénario : pour des scénarios tels que la base de connaissances du service client, les questions et réponses sur les documents produits, les requêtes de conditions de conformité, etc., le contenu de la base de connaissances peut être transféré directement via les paramètres de l'API, ce qui réduit considérablement le coût de création et de maintenance du système RAG.

• Bibliothèque de fichiers : AI21 Studio fournit des fonctions de gestion de fichiers dans le cloud et prend en charge le téléchargement de documents et leur référencement dans les appels API. Les fichiers peuvent être étiquetés et classés pour faciliter leur réutilisation dans plusieurs scénarios. Les documents de la bibliothèque de documents peuvent être récupérés par la recherche de documents du modèle, formant ainsi une infrastructure de base de connaissances persistante.

• Réglage fin : prend en charge trois méthodes de réglage fin : réglage fin complet, LoRA et QLoRA, couvrant différents niveaux d'exigences, de l'adaptation complète des paramètres au réglage fin efficace des paramètres. Les modèles affinés sont accessibles via des points de terminaison d'API privés et les données ne sont pas mélangées avec celles d'autres clients. Limite applicable : le réglage fin est mieux adapté aux tâches spécifiques à un scénario (telles que la génération de terminologie de domaine, la sortie dans un format spécifique). Pour les améliorations générales des capacités (telles qu’un meilleur raisonnement ou une meilleure créativité), le réglage fin a des effets limités et peut entraîner un risque d’oubli catastrophique.

• Maestro Agent Platform : la plate-forme de construction d'agents de bout en bout lancée par AI21 fournit des fonctions telles que la sortie validée (sortie vérifiée), l'orchestration visuelle du pipeline RAG intégré au serveur MCP et d'autres fonctions. Maestro peut être utilisé comme couche d'orchestration supérieure de l'API Jamba et convient aux scénarios d'agent de niveau production qui nécessitent des flux de travail complexes et une vérification des sorties. Cette partie de la fonction appartient à une gamme de produits indépendante dans AI21 Studio et doit être comprise séparément.

Evolution du modèle et de la version

Le chemin d'évolution de la version du modèle d'AI21 Labs est clair : à partir du modèle de recherche Jamba de première génération début 2024, il a achevé la transition de la « vérification de l'architecture » à la « matrice de produits multi-spécifications » en moins de deux ans.

Jamba première génération : vérification de l'architecture (2024-03)

Jamba (1.0) est un modèle de recherche publié par AI21 Labs en mars 2024. Il intègre pour la première fois Mamba (modèle d'espace d'état) au mécanisme d'attention Transformer. L'innovation principale consiste à utiliser des couches Mamba pour remplacer une partie de la couche Transformer, réduisant ainsi la complexité informatique du raisonnement en séquence longue de O(n²) à O(n), tout en conservant l'avantage de qualité de Transformer dans la modélisation de contexte local. Il s'agit d'une version orientée recherche principalement destinée à valider la faisabilité des architectures hybrides.

Jamba 1.5 : Point de départ de la productisation (2024-08)

La série Jamba 1.5 transforme l'architecture hybride des prototypes de recherche en produits API disponibles dans le commerce. Il propose également deux spécifications : Large (activation 398B/94B) et Mini (activation 52B/12B). La fenêtre contextuelle 256K devient la norme pour toute la série. Il s'agit du point de départ principal de l'API commerciale d'AI21 Studio, qui établit le positionnement du produit en « contexte long au niveau de l'entreprise ».

Jamba 1.6 : Approfondissement de l'Open Source d'entreprise (2025-03)

Jamba 1.6 Basé sur la version 1.5, il optimise davantage la capacité de suivi des instructions, la fiabilité des appels d'outils et la stabilité du contexte à long terme. AI21 a positionné cette version comme « le meilleur modèle open source pour le déploiement privé en entreprise », soulignant que tout en conservant le contexte 256 Ko, le débit d'inférence est amélioré de 2 à 3 fois par rapport au modèle Transformer pur avec le même nombre de paramètres. La sortie de la version 1.6 marque la transformation de Jamba de « techniquement unique » à « commercialement pratique ».

Jamba Large 1.7 : itération phare (2025-07)

Jamba Large 1.7 est le modèle phare de Jamba Large actuellement disponible via l'API (point de terminaison API « jamba-large »). Les principales améliorations se concentrent sur la précision du suivi des commandes et les capacités multilingues. La version 1.7 n'apporte pas de modifications majeures à l'architecture, mais améliore la qualité des résultats grâce à des données de formation de meilleure qualité et à une optimisation post-formation.

Série Jamba2 : Efficacité et spécialisation (2026-01)

La sortie de la série Jamba2 représente une différenciation supplémentaire de la gamme de produits :

• Jamba2 Mini (activation 52B/12B) : remplace la première génération Mini, positionnée comme un produit API de base, au prix de 0,2 $/0,4 $, axé sur une efficacité et une maniabilité élevées, et adapté à la plupart des flux de travail d'entreprise.
• Jamba2 3B (paramètres intensifs 3B) : pour les appareils finaux et les flux de travail d'agent légers, il peut s'exécuter sur des appareils CPU ou périphériques, élargissant ainsi les limites de déploiement de Jamba.
• Jamba Reasoning 3B (2025-10) : ajoute une spécialisation « capacité de raisonnement » basée sur le modèle 3B, offrant une qualité de raisonnement de niveau entreprise avec une faible latence et une taille compacte. Cette direction mérite l'attention - elle montre qu'AI21 explore l'utilisation de petits modèles spécialisés pour couvrir les capacités du modèle phare « d'inférence ».

Feuille de route de déploiement de versions : AI21 recommande aux utilisateurs d'API d'utiliser des points de terminaison avec des numéros de version (tels que « jamba-large-1.7-2025-07 ») au lieu d'alias sans version (tels que « jamba-large ») pour éviter les changements de comportement provoqués par les mises à niveau du modèle. Les alias non versionnés pointent vers le dernier instantané, qui peut être mis à jour sans préavis, ce qui présente un risque de régression pour les environnements de production.

Avantages techniques

La sélection de l'itinéraire technique de Jamba s'articule autour d'un problème central : Comment accélérer l'exécution de grands modèles, économiser de l'argent et être plus contrôlables dans des scénarios à contexte long au niveau de l'entreprise sans sacrifier la qualité.

Mécanisme de l'architecture hybride Mamba-Transformer : le mécanisme d'auto-attention du Transformer traditionnel augmente de façon quadratique (O(n²)) dans les calculs lorsque la longueur de la séquence augmente - la taille théorique de la matrice d'attention pour le traitement de 256 000 jetons est d'environ 256 000 × 256 000, ce qui dépasse de loin la mémoire matérielle. Mamba est basé sur le modèle d'espace d'état (SSM) et sa complexité de calcul est linéaire (O(n)), mais utiliser Mamba seul n'est pas aussi performant que Transformer dans certaines tâches nécessitant des dépendances à longue portée. L'innovation de Jamba réside dans l'utilisation superposée des couches Mamba et des couches d'attention Transformer (Mixed Layer Stacking), permettant au modèle de profiter de la précision de l'attention lors du traitement des associations à courte portée, et de l'efficacité linéaire de Mamba lors du traitement des contextes à longue portée. Cette stratégie de « division du travail en couches » permet à Jamba de maintenir une latence d'inférence similaire à celle d'une fenêtre 8K sous une fenêtre 256K.

Haute efficacité d'activation du routage MoE : Jamba Large a un paramètre total de 398B mais n'active que 94B pendant l'inférence (taux d'activation d'environ 24 %), Jamba Mini a un paramètre total de 52B et active 12B (taux d'activation d'environ 23 %). Une efficacité d'activation élevée signifie que chaque appel utilise uniquement des « experts pertinents » pour répondre aux questions, tandis que les paramètres experts « non pertinents » consomment uniquement du stockage et non des calculs pendant l'inférence. Bien que cette conception réduise considérablement le coût de l'inférence, elle limite également l'étendue des connaissances que le modèle peut appeler dans une seule inférence par la stratégie de routage : pour les tâches qui nécessitent une fusion de connaissances dans plusieurs domaines professionnels, le routage peut manquer d'experts pertinents et la qualité du résultat peut diminuer.

Valeur d'entreprise de la fenêtre de contexte 256K : le contexte 256K est de premier ordre parmi les grands modèles grand public (seuls le 1M de DeepSeek V4 et le 2M de Gemini 3 Pro sont plus grands). La différence avec Jamba est que sa courbe de croissance de latence d'inférence est la plus plate à 256 Ko, car la couche Mamba contrôle la complexité du traitement des séquences longues sur O(n) au lieu de O(n²). Pour les entreprises qui traitent quotidiennement un grand nombre de documents longs (examen des contrats juridiques, analyse des états financiers, comparaison des normes techniques), cela signifie une réduction des coûts d'inférence par document et moins de tentatives d'expiration.

Architecture technique pour déploiement privé : Jamba prend en charge les cadres de raisonnement traditionnels, notamment vLLM et l'inférence par génération de texte (TGI). Il est disponible en téléchargement au format SafeTensors sur Hugging Face et prend en charge les schémas de quantification tels que AWQ et GPTQ pour réduire l'utilisation de la mémoire graphique. AI21 fournit également une documentation sur le déploiement de Cloud Platform, couvrant les conseils de déploiement de VPC sur AWS, GCP et Azure. Pour les scénarios qui nécessitent une conformité extrême, Jamba prend en charge les déploiements sur site entièrement hors ligne : les données de formation n'ont pas besoin de quitter l'infrastructure de l'entreprise.

Base de conformité et de sécurité : AI21 Labs a obtenu la certification SOC 2 ISO 27001/27017/27018, fournissant un centre de confiance complet (Trust Center) et une documentation de sécurité. Pour les secteurs réglementés tels que la finance, la santé et le gouvernement, ces certifications constituent souvent une condition préalable à l’approvisionnement plutôt qu’un avantage supplémentaire.

Comment utiliser

AI21 Studio propose deux entrées principales : l'API cloud (mode SaaS) et le déploiement auto-hébergé (mode privatisé). Le premier convient à une intégration rapide et le second aux scénarios sensibles à la conformité.

Comment utiliser	Convient à la foule	Chemin d'accès	Modèle de coût
API AI21 Studio	Développeurs et entreprises	Créez un compte sur studio.ai21.com et créez une clé API	Paiement à l'utilisation (0,2 $ à 8 $/million de jetons)
Privatisation auto-hébergée	Entreprises avec des exigences de conformité élevées	Téléchargez les poids des modèles depuis Hugging Face et déployez-les dans votre propre VPC ou localement	Infrastructures + Opérations
AI21 Studio Aire de jeux	Évaluation et tests	Accès direct du navigateur à l'interface utilisateur Web de Studio	Essai gratuit avec 10 $ de crédit
Plateforme d'agents Maestro	Construction du flux de travail des agents	Module Maestro dans Studio	Volume de paiement ou plan personnalisé

Démarrage rapide de l'API (SDK Python) : AI21 fournit le SDK Python officiel, qui peut être appelé après l'installation de « pip install ai21 ».

depuis ai21 importer AI21Client
depuis ai21.models.chat importer ChatMessage

client = AI21Client(api_key="<VOTRE_API_KEY>")

réponse = client.chat.completions.create(
    model="jamba-large", # ou "jamba-mini"
    message=[
        ChatMessage(role="system", content="Vous êtes un analyste financier professionnel et vos réponses doivent être basées sur les documents fournis."),
        ChatMessage(role="user", content="Sur la base de ce résumé du rapport financier, analysez la tendance de croissance des revenus de l'entreprise.")
    ],
    max_tokens=1024,
    température = 0,3,
    top_p=0,9,
    réponse_format={"type": "texte"}
)

imprimer(response.choices[0].message.content)

exemple cURL :

boucle https://api.ai21.com/studio/v1/chat/completions \
  --header "Autorisation : porteur $AI21_API_KEY" \
  --header "Type de contenu : application/json" \
  --données '{
    "model": "jamba-mini",
    "max_tokens": 1024,
    "température": 0,4,
    "messages": [
      {"role": "user", "content": "Résumez les points clés de ce contrat."}
    ]
  }'

Description du paramètre clé :

• température (0,0-2,0, par défaut 0,4) : contrôle le caractère aléatoire de la sortie. 0,1-0,3 est recommandé pour les tâches de codage et factuelles, et 0,7-0,9 est recommandé pour les tâches créatives.
• top_p (0.0-1.0, par défaut 1.0) : échantillonnage du noyau, fonctionne en conjonction avec la température. Habituellement, seule la température peut être ajustée et top_p reste par défaut.
• max_tokens : Le nombre maximum de jetons de sortie, la limite supérieure du modèle Jamba est de 4096. La sortie sera tronquée en cas de dépassement.
• stream (booléen) : Active la sortie de streaming SSE, adaptée aux applications interactives sensibles au délai du premier mot. Notez que n doit être 1 lorsque stream=True.
• response_format : défini sur {"type": "json_object"} pour activer le mode JSON, vous devez demander au modèle de générer JSON dans le message système.
• documents : transmettez un tableau d'objets de document pour activer le RAG intégré. Chaque document contient du « contenu » (contenu textuel) et des « métadonnées » (métadonnées de paire clé-valeur).

Recherche réseau et intégration d'outils : AI21 Studio prend en charge les outils de recherche Web (les outils HTTP peuvent être configurés dans Studio) et l'intégration du serveur MCP, permettant au modèle d'appeler des API externes et des sources de données en temps réel. Ces fonctions sont implémentées via le module Maestro d'AI21 Studio ou la configuration d'outils personnalisés. Pour les méthodes d'accès spécifiques, veuillez vous référer à la documentation officielle.

Prix des produits

La tarification d'AI21 Studio adopte une structure à deux niveaux : « paiement à l'utilisation + personnalisation d'entreprise ». Il n'y a pas de quota gratuit à long terme, mais un essai à court terme de 10 $ permet aux utilisateurs d'accéder directement au mode de paiement après avoir vérifié l'effet.

Payez au fur et à mesure :

• Jamba Mini : 0,20 $/million de jetons d'entrée, 0,40 $/million de jetons de sortie
• Jamba Large : 2,00 $/million de jetons d'entrée, 8,00 $/million de jetons de sortie
• Granularité de facturation : la facturation par jeton, la facturation par numéro de demande ou par heure ne sont pas prises en charge
• Essai gratuit : les nouveaux utilisateurs bénéficient d'un crédit de 10 $, valable dans les 7 jours, pas besoin de lier une carte de crédit

Personnalisation d'entreprise (plan personnalisé) :

• Scénarios applicables : appels haute fréquence, déploiement privatisé, mise au point de modèles personnalisés, support exclusif
• Contenu inclus : réductions de volume (réductions d'utilisation), limites de taux d'API Premium (contrôle de fréquence plus élevé), hébergement sur cloud privé (hébergement cloud privé), assistance prioritaire (assistance prioritaire), gestionnaire de compte dédié (gestionnaire de compte dédié), expert AI Consultancy (services de conseil experts en IA)
• Mode de tarification : Contactez l'équipe commerciale pour un devis à la demande, prix standard non divulgué

Considérations relatives aux coûts cachés :

• Efficacité des jetons : l'efficacité de la tokenisation d'AI21 serait 30 % supérieure à celle des produits concurrents, mais cet avantage peut être ignoré dans les textes non anglais. Le taux de compression symbolique des textes chinois n'est pas très différent du segmenteur de mots BPE traditionnel. Il est recommandé d'effectuer des tests de comptage de jetons avec du texte réel lors de l'évaluation du coût total.
• Limite supérieure de sortie de 4 096 : pour les scénarios qui nécessitent une sortie extrêmement longue (comme la génération automatique de dizaines de pages de rapports), la limite de longueur de sortie unique de Jamba signifie qu'une génération de segments et une logique d'épissage supplémentaires sont nécessaires, ce qui augmentera les coûts et les retards de développement.
• Coût total de l'auto-déploiement : Le coût du déploiement privatisé dépasse de loin les frais de licence - Location/achat de serveur GPU, bande passante réseau, main d'œuvre d'exploitation et de maintenance, mise à jour et migration du modèle, système de surveillance et d'alarme. Ces coûts cachés peuvent représenter plus de 70 % du TCO sur 3 ans. Il est recommandé d'effectuer une analyse comparative complète des « frais annuels de l'API par rapport au coût total d'auto-déploiement sur trois ans » avant d'acheter.

Scénarios d'application

Le contexte 256K de Jamba + le raisonnement de complexité linéaire + les capacités de déploiement privatisées lui confèrent des avantages structurels évidents dans les quatre types de scénarios suivants :

• Traitement intelligent des documents d'entreprise : revue des clauses de conformité financière, analyse des documents de réclamation d'assurance, identification des risques contractuels juridiques et comparaison des brevets technologiques. Les caractéristiques communes de ces scénarios sont les suivantes : le document d’entrée est extrêmement long (des dizaines à des centaines de pages), les informations clés doivent être localisées avec précision et il existe des exigences strictes en matière de confidentialité des données. La fenêtre 256 Ko de Jamba peut prendre en charge l'intégralité d'un contrat ou compléter des spécifications techniques en même temps sans avoir besoin de partitionnement, réduisant ainsi le problème de rupture de contexte causé par le partitionnement. Conseil de mise en œuvre : Il est recommandé d'activer le mode JSON pour générer des résultats structurés (tels que la liste des termes, le score du niveau de risque) afin de faciliter l'intégration du système en aval. Pour les entités clés telles que le montant et la date du contrat, il est recommandé d'effectuer une vérification régulière supplémentaire ou un examen manuel.

• Pipeline RAG (Retrieval Enhanced Generation) : la fonctionnalité de recherche de documents intégrée de Jamba prend en charge la transmission directe d'une collection de documents dans la requête API, et le modèle récupère automatiquement le contenu pertinent et génère des réponses basées sur les résultats de la récupération. Pour des scénarios tels que les questions et réponses sur la base de connaissances d'entreprise, le service client intelligent sur les documents produits et les requêtes SOP internes, cela signifie qu'il n'est pas nécessaire de créer des bases de données vectorielles ni des services de récupération supplémentaires. Limite applicable : le RAG intégré convient aux scénarios avec un petit nombre de documents (des dizaines à des centaines). Si la base de connaissances de l'entreprise contient des dizaines de milliers de documents et doit être mise à jour en temps réel, il est recommandé d'utiliser une base de données vectorielles dédiée (comme Pinecone, Weaviate) combinée aux capacités de génération de Jamba.

• Opération de contenu multilingue : Jamba prend en charge nativement 9 langues (anglais, espagnol, français, portugais, italien, néerlandais, allemand, arabe, grec), couvrant les principaux marchés linguistiques européens et américains ainsi que le marché du Moyen-Orient. Pour les entreprises mondiales qui ont besoin de génération, de traduction et d'adaptation de localisation de contenu multilingue, Jamba peut réduire le coût de la commutation multimodèle. Ne convient pas aux scénarios : la prise en charge par Jamba des langues d'Asie de l'Est (chinois, japonais, coréen) ne figure pas dans la liste officielle des 9 langues. Bien qu’il soit théoriquement possible d’utiliser le chinois grâce à des conseils rapides, l’effet et l’efficacité symbolique n’ont pas été officiellement vérifiés. Il n'est pas recommandé d'utiliser Jamba pour des scénarios de production dominés par les langues d'Asie de l'Est.

• Agent et workflow automatisé : grâce à l'appel de fonctions et à la plateforme Maestro, Jamba peut servir de moteur d'inférence du système Agent. Les cas d'utilisation typiques incluent : le traitement automatique des ordres de travail des clients (lire les ordres de travail → appeler la base de connaissances → générer des réponses → mettre à jour le système d'ordres de travail), agent d'analyse de données (recevoir une requête SQL → exécuter → renvoyer le résumé des résultats), agent de détection des anomalies de la chaîne d'approvisionnement (lire les données logistiques → identifier les anomalies → générer des notifications d'alerte). Conseils de mise en œuvre : les scénarios d'agent sont sensibles à la fiabilité et à la latence des appels d'outils. Il est recommandé d'utiliser Jamba Mini pour créer un MVP afin de vérifier la faisabilité du processus, puis de décider s'il convient de passer à Jamba Large en fonction des exigences de complexité et de précision.

Limite d'adaptation avec les produits concurrents : le principal avantage de Jamba est le scénario d'entreprise « contexte long + exigences de conformité + sensibilité aux coûts ». Si le contexte de la tâche est inférieur à 8K et ne nécessite pas de déploiement privé, des produits concurrents tels que Mistral ou Llama peuvent être plus rentables ; si des capacités de raisonnement de haut niveau sont requises (comme des concours de mathématiques, des concours de code), les séries GPT-5 ou Claude sont encore des choix plus fiables ; si vous devez travailler dans des contextes extrêmement longs de plus d'un million de jetons, la fenêtre 1M de DeepSeek V4 et son prix inférieur sont plus avantageux.

Personnes concernées

La famille de modèles Jamba d'AI21 Labs couvre un large éventail d'utilisateurs, des centres de données de périphérie aux centres de données d'entreprise, grâce à des versions multi-spécifications et des options de déploiement flexibles :

• Enterprise AI Team and Architects : la base d'utilisateurs principale de Jamba. Organisations de moyenne et grande taille (financière, médicale, défense nationale, juridique) avec des exigences strictes en matière de souveraineté des données, d'audit de conformité et de contrôlabilité du déploiement. Les 256 000 fenêtres contextuelles et les capacités de déploiement privé font de Jamba l'un des modèles privilégiés pour la gestion des connaissances d'entreprise, l'intelligence documentaire et les flux de travail des agents. Éléments de vérification avant achat : confirmez si la couverture linguistique de Jamba correspond à la portée géographique de l'activité de l'entreprise ; évaluer si la limite supérieure de sortie 4096 affecte les exigences de longueur de sortie de l'application cible ; des tests complets de précision et de latence sur des données commerciales réelles.

• Développeurs d'applications d'IA et équipes de start-up : connectez-vous à Jamba Mini via l'API pour créer des prototypes de produits et vérifier les concepts de produits à un prix bas de 0,2 $/0,4 $ par million de jetons. Convient à la création de résumés de documents, aux questions et réponses de la base de connaissances du service client, au traitement de contenu multilingue et à d'autres applications. Limite inadéquate : si l'argument de vente principal du produit nécessite des capacités d'inférence de haut niveau ou une sortie ultra longue (> 4 096 jetons), Jamba n'est peut-être pas le meilleur choix. De plus, le manque de crédits gratuits à long terme signifie des paiements continus, du prototype à la production.

• Leader de la conformité et de la sécurité des données : la certification SOC 2, ISO 27001/27017/27018 de Jamba et les capacités d'auto-hébergement facilitent la réussite des examens de conformité pour les achats d'IA dans les secteurs réglementés (finance, santé, gouvernement). Core Focus : les conditions de service des modèles AI21 ne sont pas une licence open source libre telle que le MIT. Les entreprises doivent examiner attentivement les clauses relatives à l'utilisation des données, aux limitations de responsabilité et aux droits d'audit dans les conditions d'utilisation commerciale. Il est recommandé que les engagements en matière d'isolement des données et les SLA soient clairement énoncés dans les contrats d'approvisionnement.

• Institutions de recherche et universitaires : les pondérations open source de Jamba peuvent être utilisées pour la recherche en PNL, les expériences de modélisation de contexte long et l'analyse de l'architecture du MoE. Les poids de son architecture hybride Mamba-Transformer sont disponibles pour une analyse académique, aidant ainsi la communauté des chercheurs à comprendre l'effet réel du mécanisme de fusion SSM-attention. Ne convient pas aux limites : Jamba a une date limite de connaissance du 2024-08-22 et ne convient pas aux domaines de recherche qui nécessitent des connaissances en temps réel.

Résumé et Outlook

AI21 Labs utilise l'architecture hybride Mamba-Transformer comme point d'ancrage technique et a établi un positionnement clair du produit dans les deux dimensions du « raisonnement efficace dans un contexte long » et du « déploiement contrôlable au niveau de l'entreprise » - ce n'est pas le modèle avec le plus de paramètres ou les capacités les plus fortes, mais il est probablement le choix le plus équilibré sous les contraintes triangulaires « coût × longueur du contexte × conformité ».

Principaux avantages actuels : La fenêtre contextuelle 256K de la série Jamba réalise un raisonnement de complexité linéaire sous le support de l'architecture Mamba, et l'efficacité du traitement de texte long est meilleure que celle des modèles d'attention pure dans les mêmes conditions matérielles. Le prix de 0,2 $/0,4 $ du Jamba Mini représente un excellent rapport qualité-prix dans des scénarios à contexte long. Les trois certifications SOC 2 + ISO + capacités d'auto-hébergement constituent un fossé de conformité pour les achats d'entreprise. Le support natif de 9 langues couvre les principaux marchés d'Europe, d'Amérique et du Moyen-Orient. Le financement de plus de 300 millions de dollars d’AI21 Labs et l’arrivée de clients de premier plan dans plusieurs secteurs ont vérifié la faisabilité de la commercialisation.

Principale limitation actuelle : La limite supérieure de la longueur de sortie de 4 096 jetons constitue une contrainte importante pour les scénarios qui nécessitent une génération extrêmement longue. Les questions et réponses de culture générale et les capacités de raisonnement complexe sont inférieures à celles du modèle phare de la même période. La prise en charge des langues d'Asie de l'Est ne figure pas dans la liste officielle et il existe des angles morts régionaux dans la couverture mondiale. L'essai gratuit de l'API ne coûte que 10 $ et a une courte période de validité, le seuil d'expérience de développeur individuel est donc élevé. L'architecture Mamba de Jamba n'est pas aussi écologiquement optimisée que Transformer dans les cadres d'inférence traditionnels, et les scénarios d'auto-déploiement nécessitent un investissement de réglage supplémentaire.

Points d'observation de suivi : Si la série Jamba2 lancera de grandes spécifications (actuellement uniquement Mini et 3B) pour compléter la gamme de produits haut de gamme ; si les capacités de raisonnement de Jamba Reasoning 3B peuvent couvrir davantage de scénarios grâce à une distillation spécialisée ; si l'évolutivité de l'architecture hybride Mamba-Transformer à une échelle de paramètres plus grande (telle que 1T+) est meilleure que celle du transformateur MoE pur ; si la synergie entre la plateforme Maestro Agent d'AI21 et l'API Jamba peut générer une compétitivité différenciée.

Évaluation des risques en matière d'approvisionnement et d'adoption : pour les achats au niveau de l'entreprise, Jamba convient comme l'un des principaux modèles dans les scénarios de « traitement de texte long + sensible à la conformité ». Il est recommandé de vérifier d'abord l'effet et l'adéquation de l'équipe dans les processus internes non critiques (tels que l'examen préliminaire de la classification des documents, l'indexation des termes du contrat et le prétraitement du contenu multilingue), puis de l'étendre aux processus de quasi-production. Avant d'acheter, il est important de vérifier : les contraintes d'utilisation commerciale et de données dans les conditions de service des modèles AI21 ; le benchmark de débit du déploiement privatisé sur le matériel GPU cible ; et la couverture de l'application cible par la limite supérieure de sortie 4096. Pour les développeurs et les équipes de start-up, l'API de Jamba Mini constitue une option extrêmement rentable dans les scénarios RAG à texte long, leur permettant de vérifier rapidement les concepts de produits sans investir dans des coûts d'auto-déploiement. Cependant, il convient de noter que la mise à niveau de la version modèle de l'API peut entraîner des changements de comportement. Il est recommandé d'utiliser en permanence le point de terminaison avec un numéro de version dans l'environnement de production et de faire attention au calendrier de dépréciation du modèle (Dépréciation) d'AI21 pour éviter toute interruption de service.

Outils associés : deepseek, chatgpt

Informations de version

• Jamba2 (Mini et 3B) ：La série Jamba2 est lancée, comprenant Jamba2 Mini (activation 52B/12B) et Jamba2 3B (paramètres denses 3B), tous deux prenant en charge des fenêtres contextuelles de 256 Ko et se concentrant sur la fiabilité et l'efficacité au niveau de l'entreprise. Le point de terminaison de l'API Jamba2 Mini jamba-mini est au prix de 0,2 $/0,4 $ par million de jetons (entrée/sortie). （2026-01-08）
• Jamba Grand 1.7 ：Dernière version de Jamba Large, 398 B de paramètres au total (94 B d'activations), 256 000 fenêtres contextuelles. Améliorez les capacités de suivi des commandes et d’appel d’outils. Il n’y a pas encore de date officielle précise. （2025-07）
• Jamba1.6 ：Un modèle open source pour le déploiement privé en entreprise, optimisant l'efficacité du raisonnement en contexte long et les capacités de suivi des instructions, y compris les versions Large et Mini. （2025-03-06）
• Jamba1.5 ：La série Jamba de première génération est officiellement lancée, introduisant l'architecture hybride Mamba-Transformer, prenant en charge les fenêtres contextuelles de 256 Ko et proposant des versions Large et Mini. Il n’y a pas encore de date officielle précise. （2024-08）
• Jamba (première génération) ：AI21 Labs a publié la première génération du modèle de recherche Jamba, qui intègre pour la première fois Mamba (modèle d'espace d'état) à l'architecture Transformer pour réaliser un raisonnement de complexité linéaire dans des tâches à contexte long. Il n’y a pas encore de date officielle précise. （2024-03）