A Anthropic, empresa por trás do chatbot de IA Claude, alertou que a inteligência artificial pode representar "riscos catastróficos ou existenciais para a humanidade" — uma frase que ela encaixou cuidadosamente na papelada para seu planejado e badalado listamento na bolsa de valores dos EUA, presumivelmente bem entre os fatores de risco e as notas de rodapé.

O documento revelou perdas de mais de US$ 80,7 bilhões (£ 60,5 bilhões) no primeiro semestre do ano, ao lado de US$ 112,4 bilhões em caixa ou equivalentes e receitas de US$ 16,3 bilhões no mesmo período. O número de ações a serem lançadas, sua faixa de preço e a data do listamento não foram divulgados, porque por que estragar um bom mistério.

Esperava-se que a avaliação da Anthropic quando abrir o capital superasse a da SpaceX, que neste verão se tornou o maior listamento de ações da história com uma avaliação inicial de cerca de US$ 1,8 trilhão. Sem pressão.

No documento, a Anthropic disse que preocupações foram levantadas por formuladores de políticas, reguladores e pesquisadores — bem como por pessoas dentro de sua própria organização — de que sistemas de IA representavam um risco significativo para a humanidade. Afirmou que sistemas avançados de IA "poderiam, se não desenvolvidos, implantados e operados com salvaguardas, supervisão e medidas de segurança apropriadas, representar riscos catastróficos ou existenciais para a humanidade, particularmente se tais sistemas fossem mal utilizados, replicados, transformados em armas ou autorizados a operar com um alto grau de autonomia." Aconselha-se aos investidores ler essa frase duas vezes e depois, talvez, deitar-se.

A Anthropic será a primeira verdadeira empresa de IA a abrir o capital, tornando-se um caso de teste para o futuro da tecnologia. Disse que listará na Nasdaq sob o símbolo ANT, o que é pelo menos reconfortantemente pequeno.

Fundada há apenas cinco anos pelo CEO Dario Amodei, sua irmã Daniela Amodei e cinco outros cofundadores, a Anthropic anunciou sua intenção de abrir o capital em junho. Sua rival mais significativa, a OpenAI, rapidamente seguiu o exemplo, dizendo que também pretendia abrir o capital — esse listamento agora é esperado para o início do próximo ano, de acordo com uma pessoa familiarizada com os planos da OpenAI. Nada diz confiança como uma corrida para a saída.

Depois que as empresas decidiram sobre tais planos, uma onda de violações de segurança cibernética e outras tecnológicas ocorreu envolvendo seus agentes de IA, ou bots de IA projetados para operar de forma um tanto autônoma. Funcionários atuais e ex-funcionários de ambas as empresas também ganharam atenção pública com novos avisos de que a tecnologia de IA estava sendo desenvolvida sem a capacidade de proteger toda a humanidade de possíveis danos futuros causados por ferramentas de IA. O timing foi descrito por observadores como "não ideal".

Nos novos documentos da Anthropic, ela reiterou promessas de desenvolver IA de uma maneira benéfica para as pessoas, enquanto simultaneamente alertava os investidores sobre seus perigos. Em seus registros financeiros, a Anthropic detalhou perdas que excederam sua receita no primeiro semestre do ano, mas disse que frequentemente faria investimentos antecipados "que podem parecer irresponsavelmente grandes à primeira vista." À segunda vista, aparentemente, eles parecem bem.

"Em geral, nosso objetivo será ser ousado mas sensato, e conquistar a confiança com um histórico de apostas bem-sucedidas", disse o gigante da tecnologia, estabelecendo um padrão baixo e depois educadamente passando por cima dele.

Seu sucesso depende em grande parte de sua capacidade de desenvolver os modelos de IA mais avançados, disse a Anthropic, acrescentando que "qualquer falha em fazê-lo pode afetar adversamente nossos negócios" — uma divulgação que se classifica em algum lugar entre "a água é molhada" e "o sol nasce no leste" na escala de revelações corporativas.

Empresas de tecnologia têm investido pesadamente em infraestrutura e ferramentas de IA caras, como data centers e os modelos informacionais que fundamentam toda a tecnologia de IA, despejando mais de US$ 1 trilhão nos esforços somente no ano passado. Porque nada diz "estamos sendo cuidadosos" como um sprint de um trilhão de dólares.