In einer Entwicklung, die absolut niemanden überraschen wird, der auch nur flüchtig mit Biologie oder Hype-Zyklen vertraut ist, hat eine Investmentforschungsfirma gelernt, dass eine unveröffentlichte Version von Anthropics Claude nicht in der Lage ist, ein funktionierendes Skorpion-Antivenom aus dem Nichts zu zaubern. Citrini Research, die Firma hinter dem Experiment, tat sich mit Anthropic zusammen, um zu testen, ob KI die Arzneimittelentwicklung revolutionieren könnte. Konnte sie nicht. Sie produzierte einige vielversprechende Ansatzpunkte und exakt null tatsächliche Medikamente, so Experten gegenüber The Verge.

Citrini ging nach eigenem Eingeständnis im Grunde ohne relevante Expertise an die Sache heran und räumte ein, dass „keiner von uns behaupten konnte, irgendetwas über KI in Bezug auf Biologie zu wissen“. Unbeeindruckt machte die Firma weiter und veröffentlichte schließlich einen Blogbeitrag mit dem Titel „Wir wollten Claude nutzen, um ein neues Medikament zu entwickeln. Hier ist, was passiert ist.“ Der Bericht enthielt rhetorische Fragen wie „Warum versuchen wir nicht, KI zu nutzen, um ein neues Medikament zu entwickeln?“, eine detaillierte Schilderung ihrer amateurhaften wissenschaftlichen Abenteuer und ein Zitat von Charles Darwin – denn nichts sagt rigorose pharmazeutische Forschung wie ein Naturforscher aus dem 19. Jahrhundert, der für Gravitas herbeizitiert wird.

Wenn Citrini bekannt vorkommt, dann deshalb, weil die Firma zuvor ein Stück Fiktion verbreitet hatte, das eine KI-induzierte Wirtschaftskatastrophe imaginierte, die in den sozialen Medien viral ging und die realen Märkte erschütterte. Sie behauptet auch, im April die Straße von Hormus besucht zu haben, um sich ein eigenes Bild von der volatilen Region zu machen. Für ihr neuestes Unterfangen holte Citrini Anthropic mit ins Boot, das – nur wenige Wochen vor seinem heiß ersehnten Börsengang – mehrere Gründe hat, das Potenzial von KI in der Arzneimittelentwicklung und den Life Sciences anzupreisen, zwei Bereiche, die es aktiv verfolgt.

Die Zusammenarbeit begann, nachdem Citrini beim Versuch, das Modell zur Erforschung von Arzneimittelkandidaten zu bewegen, über Claudes Biosicherheitsleitplanken gestolpert war. Der Autor des Beitrags sagte, er habe „jeden in meiner Kontaktliste, der in einem KI-Labor arbeitete, mit Spam-Anrufen bombardiert“ und schließlich einen willigen Partner in Anthropic gefunden. Das KI-Labor erklärte sich bereit, die Beschränkungen aufzuheben und Zugang zu einem fortgeschritteneren, unveröffentlichten Modell zu gewähren, unter der Bedingung, dass das Team von seinen Büros aus arbeitete. Praktischerweise erklärte sich Anthropic auch bereit, die Rechen- und Token-Kosten zu übernehmen, die knapp 50.000 Dollar betrugen.

Nach Abwägung einiger Optionen entschied sich das Team für Skorpion-Antivenom, eine teure Behandlung, die schwierig herzustellen ist und oft das Injizieren von Gift in Pferde erfordert. Das Ziel war, Claude dazu zu bringen, Proteine zu entwerfen, die an die Toxine im Skorpiongift binden könnten. Bewaffnet mit einem 35-seitigen Prompt setzten sie die KI an die Arbeit und entfesselten etwa 300 Subagenten, um nach geeigneten Proteinen zu suchen.

In seinem eigenen, nüchterneren Bericht erklärte Anthropic, Claude habe fast 320.000 Kandidaten generiert und diese nach dem Verwerfen von denen, die bekannten Toxinen oder existierenden Proteinen ähnelten, auf 180 Designs reduziert. Der gesamte Prozess dauerte 64 Stunden. Anthropic sagte, das Team habe „mit Claude“ zusammengearbeitet, um weitere 31 Designs hinzuzufügen, was die Gesamtzahl auf 211 brachte.

Citrini schickte die Designs dann an zwei externe Labore – das Schweizer Biotech-Unternehmen Adaptyv Bio und das US-Unternehmen Twist Biosciences –, um zu testen, ob die Proteine tatsächlich an ihre beabsichtigten Ziele binden konnten, ein entscheidender Schritt zu einem wirksamen Antivenom. Das kostete weitere 150.000 Dollar, mehr oder weniger. Es ist unklar, warum Anthropic diese Tests nicht in seinem Biologie-Nasslabor in Kalifornien hätte durchführen können. Siebzehn Proteine bestanden die Prüfung und banden gemeinsam an vier der fünf Skorpion-Toxine, die das Team ins Visier nehmen wollte. Keines der Proteine band an mehr als ein Toxin, so Citrini.

Selbst wenn ihnen das gelungen wäre, wäre Citrini noch sehr weit von einem funktionierenden Antivenom entfernt. An ein Toxin zu binden bedeutet nicht, dass ein Protein es neutralisieren kann, geschweige denn als sichere und wirksame Behandlung dienen kann. Citrini räumt so viel ein und merkt an, dass „noch kein Experiment getestet hat, ob sie tatsächlich die Wirkung des Toxins gestoppt haben“.

Mit anderen Worten: Das Experiment war kein Erfolg. Citrini wollte ein neues Medikament entwickeln und hat nach Ansicht von Experten, die mit The Verge sprachen, erreicht