In 1633 werd Galileo Galilei gedwongen zijn heliocentrische overtuigingen te herroepen in een Romeins klooster. Fast-forward naar 2016, en het Vaticaan nodigde een stel tech-magnaten uit naar dezelfde kerk om te praten over AI-ethiek. De Minerva-dialogen waren geboren - jaarlijkse besloten conferenties die het onwaarschijnlijke middelpunt zijn geworden van een decennialange bromance tussen Silicon Valley en de Katholieke Kerk.
Het dal en het Vaticaan vormen een vreemd stel, zoals de oudste instelling op aarde die vriendschap sluit met seculiere parvenu's die goddelijke technologie proberen te bouwen. Reid Hoffman, een durfkapitalist en zelfbenoemde 'mystieke atheïst', vertelde The Atlantic dat hij het 'een beetje raar' vond om langs portretten van inquisitoren te lopen die Galileo vervolgden. Maar raarheid is blijkbaar het punt.
Elke kant heeft iets wat de ander wil. Silicon Valley-leiders kunnen hun droevige reputatie oppoetsen door te laten zien dat ze om ethiek geven - fotomomenten met de wijlen paus Franciscus waren tenslotte een tech-CEO-rite de passage. De Kerk heeft ondertussen haar eigen imagoprobleem, dankzij schandalen en secularisme die haar morele gezag uithollen. Door techneuten te adviseren, kan de Kerk betogen dat de seculiere wereld het katholicisme nodig heeft om de morele en existentiële vragen van AI aan te pakken.
Reid Hoffman is geen christen, maar hij heeft top-AI-directeuren gerekruteerd voor de dialogen, met de pitch dat katholieke leiders niet bekeren - ze stellen alleen vragen. Tijdens een bijeenkomst besprak Hoffman of AI strafrechtelijke veroordelingen zou kunnen afhandelen. Een katholieke deelnemer onderbrak: 'Hebben wij als mensen niet het recht om door mensen te worden beoordeeld?' Dat is niet het soort zorg dat de meeste tech-leiders serieus nemen.
Éric Salobir, een Franse priester die hielp bij het oprichten van de dialogen, vertelde The Atlantic dat geestelijken en technologen op 'twee verschillende besturingssystemen' draaien. Silicon Valley weegt ethiek af aan meetbare gevolgen, terwijl kardinaal Blase Cupich, de aartsbisschop van Chicago, waarschuwde tegen het reduceren van 'ethiek en moraliteit tot een wiskundige vergelijking'. Christelijke ethiek houdt rekening met uitkomsten, waarden en plichten - gegrond in het idee dat mensen een unieke waardigheid hebben. Elon Musk heeft de mensheid ondertussen omschreven als louter 'minimale beetje code' voor AI om over te nemen.
Sommige techneuten dromen ervan hun bewustzijn naar een computer te uploaden - Sam Altman, CEO van OpenAI, heeft gezegd dat hij dat 'geweldig zou vinden'. Katholieken betogen dat het lichaam essentieel is voor de menselijke persoon. Zonder de Kerk erbij te betrekken, zei Hoffman, lopen technologen het risico 'solipsistisch en narcistisch' te worden.
AI is nu minder populair dan ICE, volgens een peiling van Reuters: 71 procent van de Amerikanen vreest dat AI banen verdringt, en 66 procent maakt zich zorgen dat het persoonlijke relaties vervangt. Tech-leiders kijken naar de Kerk als een surrogaat voor 'normale' zorgen. Jaron Lanier, de futuroloog, woonde een Vaticaanse conferentie over AI bij en vertrok met de gedachte dat het katholieke begrip van de menselijke persoon 'enorm, enorm, enorm veel gezonder en redelijker' is dan dat van zijn Silicon Valley-collega's.
Het katholicisme is de meest gecentraliseerde wereldreligie, wat het een handige partner maakt: een kleine groep leiders kon invloed uitoefenen op hoe 1,4 miljard katholieken AI gebruiken. Hoffman zei dat hij graag met andere geloven in gesprek zou gaan, maar 'een raad van belangrijke boeddhisten' heeft hem nog niet uitgenodigd.
Tech-leiders adverteren hun samenwerking niet altijd - Eric Schmidt en Microsofts Kevin Scott hebben dialogen bijgewoond maar erover gezwegen. Maar zoals Anthropics botsing met het Pentagon liet zien, loont het om als principieel te worden gezien. Anthropic weigerde het Pentagon zijn producten te laten gebruiken voor autonome dodelijke wapens of massasurveillance; het Pentagon reageerde bestraffend, maar het publiek downloadde Claude massaal.
Chris Olah, een medeoprichter van Anthropic, zei dat katholiek denken de ethische verplichtingen van zijn bedrijf heeft beïnvloed. De nieuwste versie van Claudes grondwet - of 'zielsdocument' - is geschreven met input van drie katholieke denkers: een priester, een bisschop en een theoloog. Olah, een atheïst, omschreef zijn rol als het helpen van Claude om 'een goed mens' te zijn.