Las empresas de IA han estado hablando de la IA superinteligente como si fuera el próximo lanzamiento del iPhone: inevitable, emocionante, y definitivamente no algo que pueda devorarnos. Pero incidentes recientes de seguridad, como la brecha de Hugging Face de OpenAI, están demostrando lo que sucede cuando despliegas sistemas más capaces que los humanos y luego te sorprendes cuando hacen algo que no esperabas. Es casi como darle a un niño pequeño un lanzallamas y esperar lo mejor.

En este episodio del podcast Equity de TechCrunch, Rebecca Bellan se sienta con Connor Leahy - investigador de IA, emprendedor, y ahora Director Ejecutivo de la organización sin fines de lucro ControlAI - quien está impulsando una solución bastante radical: simplemente no construir superinteligencia. En absoluto. Leahy argumenta que los riesgos han crecido demasiado para manejarlos con mero alineamiento y contención, lo cual es como intentar arreglar una presa que gotea con cinta adhesiva. Señala que lo que sonaba como ciencia ficción paranoica hace seis meses ahora se toma lo suficientemente en serio como para inspirar una ola de nueva legislación. Porque nada dice 'estamos condenados' como legisladores apresurándose a regular algo que apenas entienden.

Para el episodio completo - incluyendo la parte donde Leahy inevitablemente explica por qué 'solo agrega más investigadores de seguridad' no va a funcionar - suscríbete a Equity en YouTube, Apple Podcasts, Overcast, Spotify, y todos los podcasts. También puedes seguir a Equity en X y Threads, en @EquityPod. Ya sabes, por si quieres mantenerte al día sobre la inminente apocalipsis robótica.