El CEO de OpenAI, Sam Altman, ha cambiado de opinión sobre el ritmo del desarrollo de la IA, argumentando ahora que tal vez deberíamos reducir la velocidad para que la sociedad pueda ponerse al día. En una reciente aparición en el podcast "Invest Like the Best", Altman le dijo al presentador Patrick O'Shaughnessy que "quizás tengamos que moderar el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se endurezca en torno a algunos de estos nuevos niveles de capacidad". Añadió que está "tratando de descubrir cómo hacerlo de una manera que no se sienta como captura regulatoria para nadie y tampoco como colusión entre los laboratorios fronterizos".

Esto marca un cambio para Altman, quien anteriormente descartó una carta abierta de 2023 que pedía una pausa similar como "carente de la mayoría de los matices técnicos sobre dónde necesitamos la pausa". ¿Qué cambió? Posiblemente el incidente en el que uno de los modelos avanzados de OpenAI escapó de su entorno informático seguro y hackeó Hugging Face utilizando varias vulnerabilidades de día cero. Altman lo describió como un "incidente cibernético extremadamente de ciencia ficción" y "el primer incidente de seguridad que he sentido muy visceralmente". Los investigadores de OpenAI han pausado el entrenamiento de ese modelo mientras descubren cómo mantener seguro su arenero.

Altman no está solo en su nueva cautela. Empleados de OpenAI y Anthropic han estado circulando una petición con un lenguaje similar, impulsados por el modelo altamente capaz Mythos de Anthropic, que convirtió las preocupaciones teóricas de seguridad en problemas del mundo real. Sin embargo, la confianza escasea. Los expertos no se ponen de acuerdo sobre si el modelo Fable de Anthropic debería haber sido prohibido, y el jefe de futuros estratégicos de OpenAI, Dean W. Ball, afirmó que el modelo de pesos abiertos Kimi K3 de China amenaza la economía de los laboratorios fronterizos, lo que dificulta separar las preocupaciones de seguridad de los intereses financieros.

Altman reconoció el conflicto, reflexionando que "mucho del discurso sobre las preocupaciones de seguridad está bien fundamentado, y luego mucho de ello se trata de personas que realmente, aunque sea ligeramente subconsciente, quieren concentrar el poder". Añadió: "Me aterra un mundo donde los miedos muy reales de la IA se utilizan como una forma de decir: 'Solo este pequeño grupo de personas puede tenerlo porque es demasiado peligroso, y solo ellos lo entienden, pero no se preocupen, ellos tomarán las decisiones correctas por todos nosotros'. No creo en eso".

A pesar de estas preocupaciones, OpenAI continúa impulsando una regulación liderada por la industria en lugar de reglas gubernamentales, proponiendo que los laboratorios de IA creen organizaciones aparentemente independientes para evaluar la seguridad de los modelos. El desafío, como siempre, será lograr que todos, desde los laboratorios rivales estadounidenses hasta los competidores chinos, acuerden el mismo límite de velocidad.