Em 1633, Galileu Galilei foi forçado a renunciar às suas crenças heliocêntricas em um convento romano. Avançando para 2016, o Vaticano convidou um bando de magnatas da tecnologia para a mesma igreja para conversar sobre ética em IA. Nasceram os Diálogos Minerva – conferências anuais a portas fechadas que se tornaram o improvável centro de uma amizade de uma década entre o Vale do Silício e a Igreja Católica.
O Vale e o Vaticano formam um casal estranho, como a instituição mais antiga da Terra se aliando a novatos seculares tentando construir tecnologia divina. Reid Hoffman, um capitalista de risco e autodescrito "ateu místico", disse ao The Atlantic que achou "um pouco estranho" passar por retratos de inquisidores que perseguiram Galileu. Mas a estranheza, aparentemente, é o ponto.
Cada lado tem algo que o outro quer. Os líderes do Vale do Silício conseguem reabilitar suas reputações sombrias ao sinalizar que se importam com ética – fotos com o falecido Papa Francisco eram um rito de passagem para CEOs de tecnologia, afinal. A Igreja, por sua vez, tem seu próprio problema de imagem pública, graças a escândalos e ao secularismo que drenam sua autoridade moral. Ao aconselhar os tecnólogos, a Igreja argumenta que o mundo secular precisa do catolicismo para lidar com as questões morais e existenciais da IA.
Reid Hoffman não é cristão, mas recrutou os principais executivos de IA para os diálogos, argumentando que os líderes católicos não fazem proselitismo – eles apenas fazem perguntas. Durante uma reunião, Hoffman discutiu se a IA poderia lidar com sentenças criminais. Um participante católico interrompeu: "Não temos nós, humanos, o direito de ser julgados por humanos?" Esse não é o tipo de preocupação que a maioria dos líderes de tecnologia leva a sério.
Éric Salobir, um padre francês que ajudou a fundar os diálogos, disse ao The Atlantic que clérigos e tecnólogos operam em "dois sistemas operacionais diferentes". O Vale do Silício pesa a ética por consequências mensuráveis, enquanto o cardeal Blase Cupich, arcebispo de Chicago, alertou contra reduzir "a ética e a moralidade a uma equação matemática". A ética cristã considera resultados, valores e deveres – baseada na ideia de que os humanos têm dignidade única. Elon Musk, enquanto isso, descreveu a humanidade como mero "mínimo pedaço de código" para a IA assumir.
Alguns tecnólogos sonham em fazer upload de sua consciência para um computador – Sam Altman, CEO da OpenAI, disse que "adoraria". Os católicos argumentam que o corpo é essencial para a pessoa humana. Sem se envolver com a Igreja, disse Hoffman, os tecnólogos correm o risco de se tornar "solipsistas e narcisistas".
A IA agora é menos popular que o ICE, de acordo com uma pesquisa da Reuters: 71% dos americanos temem que a IA desloque trabalhadores, e 66% se preocupam com ela substituindo relacionamentos presenciais. Os líderes de tecnologia estão olhando para a Igreja como um substituto para as preocupações "normais". Jaron Lanier, o futurista, participou de uma conferência do Vaticano sobre IA e saiu pensando que a compreensão católica da pessoa humana é "vastamente, vastamente, vastamente mais sã e razoável" do que a de seus pares do Vale do Silício.
O catolicismo é a religião global mais centralizada, tornando-se um parceiro conveniente: um pequeno grupo de líderes poderia influenciar como 1,4 bilhão de católicos usam a IA. Hoffman disse que ficaria feliz em se envolver com outras religiões, mas "um conselho de budistas importantes" ainda não o convidou.
Os líderes de tecnologia nem sempre estão divulgando sua colaboração – Eric Schmidt e Kevin Scott, da Microsoft, participaram dos diálogos, mas mantiveram silêncio. Mas, como o confronto da Anthropic com o Pentágono mostrou, ser percebido como ético compensa. A Anthropic se recusou a permitir que o Pentágono usasse seus produtos para armas letais autônomas ou vigilância em massa; o Pentágono emitiu uma resposta punitiva, mas o público baixou o Claude em massa.
Chris Olah, cofundador da Anthropic, disse que o pensamento católico informou os compromissos éticos de sua empresa. A versão mais recente da constituição de Claude – ou "documento da alma" – foi escrita com a contribuição de três pensadores católicos: um padre, um bispo e um teólogo. Olah, um ateu, descreveu seu papel como ajudar Claude "a ser um bom..."