Dans un développement qui ne surprendra absolument personne ayant une vague familiarité avec la biologie ou les cycles de hype, une société de recherche en investissement a appris qu'une version non publiée de Claude d'Anthropic ne peut pas, en fait, conjurer un antivenin fonctionnel contre le scorpion à partir de rien. Citrini Research, la société derrière l'expérience, s'est associée à Anthropic pour tester si l'IA pouvait révolutionner le développement de médicaments. Elle ne le pouvait pas. Elle a produit quelques pistes prometteuses et précisément zéro médicament réel, ont déclaré des experts à The Verge.

Citrini, de son propre aveu, s'est lancé avec essentiellement aucune expertise pertinente, reconnaissant qu'« aucun de nous ne pouvait prétendre connaître quoi que ce soit sur l'IA en lien avec la biologie ». Sans se décourager, la société a persisté, publiant finalement un article de blog intitulé « Nous voulions utiliser Claude pour créer un nouveau médicament. Voici ce qui s'est passé. » Le récit comportait des questions rhétoriques comme « Pourquoi ne pas essayer d'utiliser l'IA pour créer un nouveau médicament ? », un compte rendu détaillé de ses aventures scientifiques amateurs, et une citation de Charles Darwin – parce que rien ne dit recherche pharmaceutique rigoureuse comme un naturaliste du XIXe siècle invoqué pour faire sérieux.

Si Citrini vous dit quelque chose, c'est parce que la société a déjà diffusé un texte de fiction imaginant une catastrophe économique induite par l'IA qui est devenu viral sur les réseaux sociaux et a secoué les marchés réels. Elle affirme également avoir visité le détroit d'Ormuz en avril pour avoir une perspective de première main sur cette région volatile. Pour sa dernière entreprise, Citrini a enrôlé Anthropic, qui – à quelques semaines de son introduction en bourse très attendue – a plusieurs raisons de vanter le potentiel de l'IA dans le développement de médicaments et les sciences de la vie, deux domaines qu'elle poursuit activement.

La collaboration a commencé après que Citrini a trébuché sur les garde-fous de biosécurité de Claude en essayant d'amener le modèle à rechercher des candidats médicaments. L'auteur de l'article a déclaré avoir « appelé en spam toute personne de ma liste de contacts qui travaillait dans un laboratoire d'IA », trouvant finalement un partenaire volontaire chez Anthropic. Le laboratoire d'IA a accepté de lever les restrictions et de donner accès à un modèle plus avancé et non publié à condition que l'équipe travaille depuis ses bureaux. Commodément, Anthropic a également accepté de payer la facture de calcul et de tokens, qui s'élevait à un peu moins de 50 000 $.

Après avoir pesé quelques options, l'équipe s'est arrêtée sur l'antivenin contre le scorpion, un traitement coûteux et difficile à produire qui implique souvent d'injecter du venin à des chevaux. L'objectif était d'utiliser Claude pour concevoir des protéines capables de se lier aux toxines du venin de scorpion. Armés d'un prompt de 35 pages, ils ont mis l'IA au travail, déchaînant quelque 300 sous-agents pour chercher des protéines appropriées.

Dans son propre compte rendu plus sobre, Anthropic a déclaré que Claude avait généré près de 320 000 candidats, les réduisant à 180 conceptions après avoir écarté celles ressemblant à des toxines connues ou à des protéines existantes. Le processus entier a pris 64 heures. Anthropic a déclaré que l'équipe avait travaillé « avec Claude » pour ajouter 31 autres conceptions, portant le total à 211.

Citrini a ensuite expédié les conceptions à deux laboratoires externes – la société suisse de biotechnologie Adaptyv Bio et la société américaine Twist Biosciences – pour tester si les protéines pouvaient réellement se lier à leurs cibles prévues, une étape clé vers un antivenin efficace. Cela a coûté 150 000 $ de plus, à peu de chose près. On ne sait pas pourquoi Anthropic n'aurait pas pu réaliser ces tests en interne dans son laboratoire humide de biologie en Californie. Dix-sept protéines ont passé le test, se liant collectivement à quatre des cinq toxines de scorpion que l'équipe espérait cibler. Aucune des protéines ne s'est liée à plus d'une seule toxine, a déclaré Citrini.

Même s'ils y étaient parvenus, Citrini serait encore très loin d'un antivenin fonctionnel. Se lier à une toxine ne signifie pas qu'une protéine peut la neutraliser, encore moins servir de traitement sûr et efficace. Citrini le reconnaît, notant qu'« aucune expérience n'a encore testé si elles arrêtaient réellement l'action de la toxine ».

En d'autres termes, l'expérience n'a pas réussi. Citrini s'était fixé pour objectif de créer un nouveau médicament et, selon les experts qui se sont entretenus avec The Verge, a accompli