Anthropic este pe cale să aibă o discuție foarte serioasă cu autoritatea globală de supraveghere financiară despre modelul său AI Claude Mythos, care i-a făcut pe experți să-și caute sărurile de mirosit din cauza potențialului său de a distruge apărările cibernetice.

Startup-ul american va informa Consiliul de Stabilitate Financiară (FSB), prezidat de nimeni altul decât guvernatorul Băncii Angliei, Andrew Bailey, despre implicațiile Mythos. Pentru că ce ar putea merge prost când lași un AI care este foarte bun la găsirea găurilor în sistemele IT să iasă în lume?

Anthropic a refuzat cu înțelepciune să lanseze Mythos publicului, anunțând că modelul AI are capacități avansate de a evidenția defecte necunoscute anterior în sistemele IT – defecte pe care hackerii le-ar adora să le exploateze. În schimb, compania a oferit acces unui grup select de companii tech și bănci, inclusiv Apple și JP Morgan, pentru a le ajuta să identifice orice slăbiciuni pe care AI-ul le-ar putea detecta. Planul FSB, raportat prima dată de Financial Times, a fost confirmat de o sursă familiarizată cu discuțiile autorității de reglementare cu Anthropic.

Institutul de Securitate AI din Marea Britanie (AISI), care evaluează modele AI avansate, a emis o evaluare actualizată a Mythos săptămâna trecută, după ce a analizat versiunea lansată băncilor și companiilor tech. Acesta a spus că cea mai recentă iterație reprezintă un „salt notabil de capacitate” chiar și față de versiunea de previzualizare testată luna precedentă. AISI a notat că cea mai recentă versiune a Mythos a finalizat un test de securitate cibernetică anterior nerezolvat, numit „turn de răcire”, în trei din zece încercări – o premieră pentru orice model testat de institut.

„Capacitatea cibernetică și software autonomă a AI-ului de frontieră avansează rapid: lungimea sarcinilor cibernetice pe care modelele de frontieră le pot finaliza autonom s-a dublat în ordinea lunilor, nu a anilor,” a spus AISI, adăugând că dezvoltă noi teste de hacking mai dificile pentru a ține pasul cu progresul modelelor AI. Pentru că, aparent, vechile teste nu mai sunt suficiente.

FSB monitorizează și face recomandări despre sistemul financiar global și include oficiali din economii de top, inclusiv SUA, Marea Britanie, Australia și China. Comitetul său de conducere include oficiali de rang înalt ai băncilor centrale și ministerelor de finanțe. Luna aceasta, Fondul Monetar Internațional a spus că riscurile la stabilitatea financiară sunt în creștere din cauza dezvoltărilor „rapide” în AI și a cerut un răspuns coordonat. „Riscul cibernetic nu respectă granițele. Pe măsură ce capacitățile AI se răspândesc în țări, o supraveghere inconsistentă ar putea slăbi un sistem global interconectat,” a spus FMI într-o postare pe blog, clar fără chef de subestimare.

Luna trecută, directorul executiv al Goldman Sachs, David Solomon, a spus că este „hiper-conștient” de capacitățile Mythos, în timp ce omologul său de la JP Morgan, Jamie Dimon, a notat că AI a făcut apărarea cibernetică „mai dificilă” chiar dacă ar putea ajuta în cele din urmă companiile să se apere împotriva hackerilor. Alți experți au încercat să calmeze apele, argumentând că Mythos reprezintă o evoluție a amenințărilor cibernetice, nu o revoluție. Experții în securitate cibernetică avertizează că majoritatea breșelor provin încă din riscuri bine stabilite, cum ar fi autentificarea slabă și vulnerabilitățile deja cunoscute care nu au fost remediate. Așa că, știți, nu uitați să vă actualizați parolele.

Întrebat despre vestea că FSB va evalua riscurile Mythos la conferința City Week din Londra, directorul executiv al Autorității de Conduită Financiară, Nikhil Rathi, a spus că dezvoltările AI au fost un „subiect semnificativ de conversație” la întâlnirile FMI de la Washington luna trecută. El a notat că Bailey este „implicat” în problemă și că are loc cooperare cu autoritățile americane. Rathi a subliniat, de asemenea, ghidul publicat de autoritățile de reglementare din Marea Britanie și de Trezorerie săptămâna trecută, care îndruma firmele să „se concentreze” pe „igiena cibernetică de bază”. Asta însemna „să vă uitați la sistemele moștenite, să aveți mecanisme bune de detectare, să aveți o guvernanță bună, să vă gândiți cum vă recuperați, să vă gândiți la asigurare,” a spus el. Rathi a adăugat că „Anthropic a acționat destul de corect”.