Anthropic está a punto de tener una charla muy seria con el vigilante financiero global sobre su modelo de IA Claude Mythos, que tiene a los expertos buscando sus sales aromáticas por su potencial para destrozar las defensas cibernéticas.
La startup estadounidense informará a la Junta de Estabilidad Financiera (FSB), presidida por nada menos que el gobernador del Banco de Inglaterra, Andrew Bailey, sobre las implicaciones de Mythos. Porque, ¿qué podría salir mal cuando dejas suelta una IA que es muy buena encontrando agujeros en sistemas informáticos?
Anthropic ha declinado sabiamente liberar Mythos al público, habiendo anunciado que el modelo de IA tiene capacidades avanzadas para resaltar fallos previamente desconocidos en sistemas informáticos, fallos que los hackers amarían explotar. En cambio, la compañía ha dado acceso a un grupo selecto de empresas tecnológicas y bancos, incluyendo Apple y JP Morgan, para ayudarles a identificar cualquier debilidad que la IA pueda olfatear. El plan de la FSB, reportado primero por el Financial Times, fue confirmado por una fuente familiarizada con las discusiones del regulador con Anthropic.
El Instituto de Seguridad de IA del Reino Unido (AISI), que evalúa modelos avanzados de IA, emitió una evaluación actualizada de Mythos la semana pasada después de examinar la versión liberada a bancos y empresas tecnológicas. Dijo que la última iteración representaba un "salto de capacidad notable" incluso sobre la versión preliminar probada el mes anterior. El AISI señaló que la última versión de Mythos completó una prueba de ciberseguridad previamente no resuelta, llamada "torre de enfriamiento", en tres de cada diez intentos, siendo la primera vez para cualquier modelo probado por el instituto.
"La capacidad autónoma de cibernética y software de la IA de frontera está avanzando rápidamente: la duración de las tareas cibernéticas que los modelos de frontera pueden completar autónomamente se ha duplicado en cuestión de meses, no años", dijo el AISI, añadiendo que está desarrollando nuevas y más duras pruebas de hacking para seguir el progreso de los modelos de IA. Porque aparentemente las pruebas antiguas ya no son suficientes.
La FSB monitorea y hace recomendaciones sobre el sistema financiero global e incluye funcionarios de las principales economías, incluyendo EE. UU., Reino Unido, Australia y China. Su comité directivo incluye altos funcionarios de bancos centrales y ministerios de finanzas. Este mes, el Fondo Monetario Internacional dijo que los riesgos para la estabilidad financiera están aumentando debido a los desarrollos "rápidos" en IA y pidió una respuesta coordinada. "El riesgo cibernético no respeta fronteras. A medida que las capacidades de IA se extienden entre países, una supervisión inconsistente podría debilitar un sistema globalmente interconectado", dijo el FMI en una publicación de blog, claramente sin ánimo de subestimar.
El mes pasado, el CEO de Goldman Sachs, David Solomon, dijo que estaba "hiperconsciente" de las capacidades de Mythos, mientras que su contraparte de JP Morgan, Jamie Dimon, señaló que la IA había hecho la defensa cibernética "más difícil" aunque en última instancia podría ayudar a las empresas a defenderse contra los hackers. Otros expertos han intentado calmar las aguas, argumentando que Mythos representa una evolución en las amenazas cibernéticas más que una revolución. Los expertos en ciberseguridad advierten que la mayoría de las brechas aún provienen de riesgos bien establecidos, como la autenticación débil y vulnerabilidades ya conocidas que no han sido parcheadas. Así que, ya sabes, no olvides actualizar tus contraseñas.
Cuando se le preguntó sobre la noticia de que la FSB evaluaría los riesgos de Mythos en la conferencia City Week en Londres, el CEO de la Autoridad de Conducta Financiera, Nikhil Rathi, dijo que los desarrollos de IA habían sido un "tema significativo de conversación" en las reuniones del FMI en Washington el mes pasado. Señaló que Bailey estaba "comprometido" con el tema y que se estaba cooperando con las autoridades estadounidenses. Rathi también señaló la guía publicada por los reguladores del Reino Unido y el Tesoro la semana pasada, que instaba a las empresas a "redoblar esfuerzos" en "higiene cibernética básica". Eso significaba "haber revisado tus sistemas heredados, tener buenos mecanismos de detección, tener una buena gobernanza en su lugar, pensar en cómo te recuperas, pensar en tu seguro", dijo. Rathi añadió que "Anthropic ha actuado de manera bastante responsable".