1633年,伽利略·伽利莱在罗马修道院被迫放弃日心说。快进到2016年,梵蒂冈邀请一群科技大亨到同一教堂讨论AI伦理。密涅瓦对话由此诞生——这场年度闭门会议成为硅谷与天主教会长达十年兄弟情谊的意外核心。
硅谷与梵蒂冈堪称奇葩组合,好比地球上最古老的机构与试图打造神级技术的世俗暴发户称兄道弟。风险投资家、自称“神秘无神论者”的里德·霍夫曼告诉《大西洋月刊》,走过迫害伽利略的审判官画像时,他觉得“有点诡异”。但诡异,显然正是重点。
双方各取所需。硅谷领袖通过标榜关心伦理来修复糟糕的名声——毕竟,与已故教皇方济各合影是科技CEO的必修课。而教会也有自己的公关危机,丑闻和世俗化正侵蚀其道德权威。通过为科技人士提供建议,教会得以论证世俗世界需要天主教来处理AI的道德与存在难题。
里德·霍夫曼不是基督徒,但他招募了顶级AI高管参与对话,声称天主教领袖不会传教——他们只是提问。一次会议上,霍夫曼讨论AI能否处理刑事量刑。一位天主教参与者打断道:“我们人类难道没有权利被人类审判吗?”这种担忧大多数科技领袖并不当真。
帮助创立对话的法国神父埃里克·萨洛比尔告诉《大西洋月刊》,神职人员和科技专家运行着“两套不同的操作系统”。硅谷用可衡量的后果衡量伦理,而芝加哥大主教布莱斯·库皮奇枢机警告不要将“伦理道德简化为数学方程”。基督教伦理考虑结果、价值观和义务——基于人类拥有独特尊严的理念。而埃隆·马斯克则将人类描述为AI接管所需的“最小代码片段”。
一些科技人士梦想将意识上传到电脑——OpenAI CEO山姆·奥特曼表示他“很乐意”。天主教徒则认为身体是人的本质。霍夫曼说,不与教会接触,科技专家有变得“唯我独尊和自恋”的风险。
根据路透社民调,AI现在比ICE更不受欢迎:71%的美国人担心AI取代工人,66%担心它取代人际关系。科技领袖将教会视为“普通人”担忧的替代品。未来学家杰伦·拉尼尔参加了梵蒂冈AI会议,离开时认为天主教对人的理解“远远、远远、远远比硅谷同行更理智合理”。
天主教是最集中的全球宗教,使其成为便利的合作伙伴:一小群领袖就能影响14亿天主教徒如何使用AI。霍夫曼表示他乐意与其他信仰接触,但“重要佛教徒的理事会”尚未邀请他。
科技领袖并不总是宣传他们的合作——埃里克·施密特和微软的凯文·斯科特参加了对话但保持沉默。但正如Anthropic与五角大楼的冲突所示,被视为有原则是有回报的。Anthropic拒绝让五角大楼将其产品用于自主致命武器或大规模监控;五角大楼发布了惩罚性回应,但公众大量下载了Claude。
Anthropic联合创始人克里斯·奥拉表示,天主教思想影响了他公司的伦理承诺。最新版Claude的宪法——或称“灵魂文档”——由三位天主教思想家共同撰写:一位神父、一位主教和一位神学家。无神论者奥拉将自己的角色描述为帮助Claude“做个好人”。