Mistral dévoile un modèle de 1 000 milliards de paramètres, parce que ce dont l'Europe avait vraiment besoin, c'était d'un plus gros chonk
Mistral publie un modèle de 1 000 milliards de paramètres surnommé Le Chonk, promet des poids ouverts dans trois semaines et insiste sur le fait qu'il reste un laboratoire de pointe – le tout pendant que la « troisième voie » européenne est financée par ASML et Samsung.
La course entre l'IA ouverte et fermée est lancée, et l'Europe est toujours dans le coup – ou du moins, elle continue d'encourager depuis la touche avec une baguette à la main. Mardi, le laboratoire français d'IA Mistral AI a publié Mistral Large 4, un nouveau grand modèle multimodal visant à dépasser à la fois les rivaux américains et chinois, suivant ce que le président français Macron a décrit comme « une troisième voie en IA ». Parce que rien ne dit « troisième voie » comme un modèle à un billion de paramètres qui n'est pas encore tout à fait ouvert.
Au milieu d'un fossé croissant entre les modèles fermés qui peuvent être débranchés et les modèles ouverts souvent fabriqués en Chine, Mistral positionne ML4 comme une alternative aux deux. Surnommé Le Chonk en référence à son billion de paramètres, ML4 n'est définitivement pas petit – le nom fait ici un travail très honnête. Mais ce n'est pas encore un modèle à poids ouverts. Pour l'instant, il n'est accessible que via un point de terminaison public avec garde-fous, mais Mistral prévoit de rendre ses poids disponibles dans seulement trois semaines, après la fin des tests de sécurité. Alors marquez vos calendriers, amateurs d'open source.
« En attendant, nous travaillerons avec des partenaires de confiance et des gouvernements pour nous assurer que les poids open source peuvent être utilisés pour défendre, mais pas pour [mener] des attaques malveillantes », a déclaré Pierre Stock, vice-président Science de Mistral, à TechCrunch. Un objectif noble, et qui n'a jamais mal tourné dans l'histoire du logiciel open source.
Les préoccupations de sécurité se sont accumulées ces derniers mois, en particulier parmi le public principal de Mistral – les entreprises et les institutions. Dans le même temps, un modèle à poids ouverts est plus facile à auditer, a déclaré Stock. Ce qui est l'équivalent en IA de dire « bien sûr, la porte n'est pas verrouillée, mais au moins vous pouvez voir qui entre ».
Un autre aspect important en coulisses est que ML4 a été entraîné entièrement sur l'infrastructure de calcul de Mistral, en utilisant seulement 4 000 GPU NVIDIA – « ce qui est deux à trois fois moins que nos concurrents chinois, et nettement moins que les concurrents à code source fermé », a déclaré Stock. C'est la version IA de se vanter modestement de sa consommation de carburant tout en conduisant un monster truck.
Les résultats des benchmarks étant encore en attente, Mistral espère que ML4 sera le meilleur de sa catégorie parmi les modèles à poids ouverts, en particulier en dehors de la Chine, mais pas seulement, a déclaré Stock. Grâce à un entraînement ciblé, il pourrait également surpasser les modèles fermés dans des domaines spécifiques essentiels pour ses clients, et où les capacités multimodales peuvent apporter de la valeur. En d'autres termes : il ne gagnera peut-être pas toutes les courses, mais il vise celles qui rapportent un salaire.
Selon Stock, les cas d'usage optimisés de ML4 incluent la cybersécurité et la finance, mais aussi la conception de puces, ce qui est essentiel pour deux des principaux bailleurs de fonds de Mistral – le géant néerlandais ASML, qui a mené sa série C, et Samsung, qui a mené sa série D le mois dernier à une valorisation de 21 milliards d'euros (environ 24,39 milliards de dollars). Rien ne dit « IA européenne indépendante » comme être financé par les entreprises qui fabriquent les machines qui fabriquent les puces.
À l'époque, l'entreprise a tenté de faire comprendre que sa décision d'héberger des modèles chinois n'était pas un pivot vers un simple fournisseur d'inférence. Avec Le Chonk dans son coin, l'entreprise estime qu'elle devrait toujours être considérée comme un laboratoire de pointe. Et qui sommes-nous pour contester un chonk d'un billion de paramètres ?
The Good Times
Les nouvelles dans votre boîte.
Un résumé sardonique, livré selon votre horaire. Gratuit. Désabonnez-vous quand vous en avez assez.
Déjà abonné mais on n'arrive jamais dans votre boîte ? Regardez dans vos spams et cliquez sur 'Non spam' (ou 'Retirer des spams') pour nous sortir du purgatoire des indésirables. Vous rendrez service à tout le monde.
Si vous n'ouvrez aucun de nos e-mails pendant un mois, vous serez automatiquement retiré de la liste.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.