教皇发布 AI 通谕：警惕技术精英权力集中

教皇利奥十四世于周一发布了他的首份通谕，题为《宏伟的人性》（Magnifica Humanitas），旨在探讨“人工智能时代对人类的保护”。虽然人工智能是切入点，但利奥关注的问题更为古老且普遍：不平等、战争、民主的侵蚀，以及权力集中在那些并不一定关心人类整体是否依然“宏伟”的人手中。

在教皇与人工智能公司 Anthropic 的联合创始人克里斯·奥拉（Chris Olah）共同展示的这份 200 页文件中，利奥指出，由少数精英构建和治理的技术，从定义上讲就不可能服务于共同利益。

“当这种权力集中在少数人手中时，它往往变得不透明并逃避公众监督，从而增加了扭曲发展形式的风险，导致新的依赖、排斥、操纵和不平等，”他写道。

通谕继续指出：“事实上，正如每一次重大的技术变革一样，人工智能往往会放大那些已经拥有经济资源、专业知识和数据访问权限的人的权力。”通谕强调了人们的担忧，即精英们可以利用他们的权力“塑造信息和消费模式，影响民主进程，并引导经济动态以谋取私利”。

呼吁有效监管与终结技术军备竞赛

这份通谕发布的前几天，唐纳德·特朗普总统推迟签署了一项关于人工智能的行政命令。据报道，在风险投资家、前白宫人工智能主管大卫·萨克斯（David Sacks）的敦促下，该命令本应让政府在人工智能新模型发布前对其进行监管。

教皇利奥呼吁人工智能应遵循“明确的标准和有效的监督”，并根植于受其影响的社区的参与。更具体地说，利奥呼吁终结人工智能军备竞赛——即公司和国家为了“确保地缘政治或商业主导地位”而竞相构建“更强大的算法和更大的数据集”。

“解除武装意味着要否定那种认为技术权力自动赋予治理权利的假设，”他写道。

这些动态在人工智能出现之前就已经存在。教皇利奥十三世在 1891 年的《新事》（Rerum Novarum）通谕中，就曾探讨过工业革命期间同样的权力集中问题，但我们不必追溯那么远。考虑一下埃隆·马斯克对 Twitter 的收购及其利用该平台帮助特朗普当选，或者科技精英向超级政治行动委员会（Super PACs）投入数亿美元以阻挠人工智能监管——这些模式显然启发了利奥十四世的工作。

AI 对民主与认知自由的挑战

教皇得出了许多人已经达成的结论：当今人工智能超现实的力量和能力极大地提高了风险。

圣母大学法学院教授、宗座社会科学院成员兼 Meta 监督委员会主席保罗·卡罗扎（Paolo Carozza）告诉 TechCrunch，人工智能驱动的虚假信息和深度伪造已经“腐蚀了我们辨别真伪的能力，这对民主政治产生了真正的后果”。他补充说，科技行业“收集和操纵”人类数据的做法，对“认知自由构成了根本性挑战”。

来源：TechCrunch AI｜原文链接