Anthropic, la empresa detrás del chatbot de IA Claude, ha advertido que la inteligencia artificial podría plantear "riesgos catastróficos o existenciales para la humanidad", una frase que colocó cuidadosamente en el papeleo de su planeada y exitosa salida a bolsa en Estados Unidos, presumiblemente justo entre los factores de riesgo y las notas al pie.

La presentación reveló pérdidas de más de 80.700 millones de dólares (60.500 millones de libras) en el primer semestre del año, junto con 112.400 millones en efectivo o equivalentes e ingresos de 16.300 millones en el mismo período. El número de acciones a emitir, su rango de precios y la fecha de la cotización no se han divulgado, porque para qué arruinar un buen misterio.

Se esperaba que la valoración de Anthropic al salir a bolsa superara la de SpaceX, que este verano se convirtió en la mayor cotización de la historia con una valoración inicial de unos 1,8 billones de dólares. Sin presión.

En la presentación, Anthropic dijo que las preocupaciones habían sido planteadas por legisladores, reguladores e investigadores, así como por personas dentro de su propia organización, de que los sistemas de IA representaban un riesgo significativo para la humanidad. Afirmó que los sistemas avanzados de IA "podrían, si no se desarrollan, despliegan y operan con las salvaguardas, la supervisión y las medidas de seguridad adecuadas, plantear riesgos catastróficos o existenciales para la humanidad, particularmente si dichos sistemas fueran mal utilizados, replicados, convertidos en armas o se les permitiera operar con un alto grado de autonomía". Se aconseja a los inversores que lean esa frase dos veces y luego quizás se recuesten.

Anthropic será la primera verdadera empresa de IA en salir a bolsa, lo que la convierte en un caso de prueba para el futuro de la tecnología. Dijo que cotizará en el Nasdaq bajo el símbolo ANT, que al menos es reconfortantemente pequeño.

Fundada hace solo cinco años por el director ejecutivo Dario Amodei, su hermana Daniela Amodei y otros cinco cofundadores, Anthropic anunció su intención de salir a bolsa en junio. Su rival más importante, OpenAI, rápidamente siguió el ejemplo, diciendo que también tenía la intención de salir a bolsa; esa cotización ahora se espera para principios del próximo año, según una persona familiarizada con los planes de OpenAI. Nada dice confianza como una carrera hacia la salida.

Después de que las empresas decidieran tales planes, ocurrió una ola de ciberseguridad y otras brechas tecnológicas que involucraron a sus agentes de IA, o bots de IA diseñados para operar de manera algo autónoma. El personal actual y anterior de ambas empresas también atrajo la atención pública con nuevas advertencias de que la tecnología de IA se estaba desarrollando sin la capacidad de proteger a toda la humanidad de posibles daños futuros causados por herramientas de IA. El momento fue descrito por los observadores como "no ideal".

En los nuevos documentos de Anthropic, reiteró sus promesas de desarrollar IA de una manera beneficiosa para las personas, mientras advertía simultáneamente a los inversores sobre sus peligros. En sus presentaciones financieras, Anthropic detalló pérdidas que superaron sus ingresos en el primer semestre del año, pero dijo que a menudo haría inversiones a futuro "que pueden parecer irresponsablemente grandes a primera vista". A segunda vista, aparentemente, se ven bien.

"En general, nuestro objetivo será ser audaces pero sensatos, y ganar confianza con un historial de apuestas exitosas", dijo el gigante tecnológico, estableciendo un listón bajo y luego pasándolo cortésmente por encima.

Su éxito depende en gran medida de su capacidad para desarrollar los modelos de IA más avanzados, dijo Anthropic, y agregó que "cualquier falla en hacerlo podría afectar adversamente nuestro negocio", una revelación que se ubica en algún lugar entre "el agua moja" y "el sol sale por el este" en la escala de revelaciones corporativas.

Las empresas tecnológicas han estado invirtiendo fuertemente en costosas infraestructuras y herramientas de IA, como centros de datos y los modelos informacionales que subyacen a toda la tecnología de IA, vertiendo más de 1 billón de dólares en los esfuerzos solo en el último año. Porque nada dice "estamos siendo cuidadosos" como un sprint de un billón de dólares.