I en utveckling som kommer att chocka absolut ingen med ens en flyktig kännedom om antingen biologi eller hypecykler, har en investeringsanalysfirma lärt sig att en ej släppt version av Anthropics Claude inte kan, faktiskt, trolla fram ett fungerande skorpongift-antidot ur tomma luften. Citrini Research, firman bakom experimentet, slog sig samman med Anthropic för att testa om AI kunde revolutionera läkemedelsutveckling. Det kunde den inte. Den producerade några lovande utgångspunkter och exakt noll faktiska läkemedel, enligt experter som talade med The Verge.

Citrini gick, enligt egen utsago, in med i princip ingen relevant expertis och medgav att "ingen av oss kunde påstå att vi visste något om AI i förhållande till biologi." Oavskräckt fortsatte firman och publicerade till slut ett blogginlägg med titeln "Vi ville använda Claude för att skapa ett nytt läkemedel. Här är vad som hände." Redogörelsen innehöll retoriska frågor som "Varför inte prova att använda AI för att skapa ett nytt läkemedel?", en detaljerad redogörelse för deras amatörmässiga vetenskapliga äventyr och ett citat från Charles Darwin – för inget säger rigorös farmaceutisk forskning som en 1800-talsnaturalist inkastad för gravitas.

Om Citrini låter bekant beror det på att firman tidigare cirkulerade en fiktionsartikel som föreställde sig en AI-inducerad ekonomisk katastrof som blev viral på sociala medier och skakade verkliga marknader. Den hävdar också att den besökte Hormuzsundet i april för att få ett förstahandsperspektiv på den volatila regionen. För sitt senaste projekt tog Citrini in Anthropic, som – bara veckor från sin hett efterlängtade IPO – har flera skäl att tala upp AI:s potential inom läkemedelsutveckling och life sciences, två områden som det aktivt satsar på.

Samarbetet började efter att Citrini snubblat över Claudes biosecurity-skyddsräcken när de försökte få modellen att undersöka läkemedelskandidater. Inläggets författare sade att de "spammade alla i min kontaktlista som arbetade på ett AI-labb" och till slut hittade en villig partner i Anthropic. AI-labbet gick med på att ta bort restriktionerna och ge tillgång till en mer avancerad, ej släppt modell under förutsättning att teamet arbetade från deras kontor. Bekvämt nog gick Anthropic också med på att stå för compute- och tokenräkningen, som landade strax under 50 000 dollar.

Efter att ha vägt några alternativ bestämde sig teamet för skorpongift-antidot, en kostsam behandling som är svår att producera och ofta innebär att injicera gift i hästar. Målet var att använda Claude för att designa proteiner som kunde binda till toxiner i skorpongift. Beväpnade med en 35-sidig prompt satte de AI:n i arbete och släppte lös cirka 300 subagenter för att leta efter lämpliga proteiner.

I sin egen mer nyktra redogörelse sade Anthropic att Claude genererade nästan 320 000 kandidater och skar ner dem till 180 designer efter att ha kasserat dem som liknade kända toxiner eller befintliga proteiner. Hela processen tog 64 timmar. Anthropic sade att teamet arbetade "med Claude" för att lägga till ytterligare 31 designer, vilket gav totalt 211.

Citrini skickade sedan designerna till två externa laboratorier – schweiziska bioteknikföretaget Adaptyv Bio och USA-baserade Twist Biosciences – för att testa om proteinerna faktiskt kunde binda till sina avsedda mål, ett viktigt steg mot ett effektivt antidot. Det kostade ytterligare 150 000 dollar, ungefär. Det är oklart varför Anthropic inte kunde ha kört dessa tester internt i sitt biologiska våtlab i Kalifornien. Sjutton proteiner klarade sig, och band kollektivt till fyra av de fem skorpongiftstoxiner som teamet hade hoppats kunna angripa. Inte ett enda av proteinerna band till mer än ett toxin, sade Citrini.

Även om de hade lyckats med det skulle Citrini fortfarande vara mycket långt från ett fungerande antidot. Att binda till ett toxin betyder inte att ett protein kan neutralisera det, än mindre fungera som en säker och effektiv behandling. Citrini erkänner också detta och noterar att "inget experiment ännu har testat om de faktiskt stoppade toxinet från att verka."

Med andra ord lyckades experimentet inte. Citrini satte sig för att göra ett nytt läkemedel och, enligt experter som talade med The Verge, åstadkom