教皇利奥引用《《魔戒：咕噜™》- The Lord of the Rings: Gollum™》中甘道夫的名言，就人工智能发出严厉警告

教皇利奥发布了关于人工智能（AI）的警告并呼吁对其进行监管，在此过程中引用了 《魔戒：咕噜™》- The Lord of the Rings: Gollum™ 中甘道夫的话。

魔戒：咕噜

动作角色扮演, 冒险

《魔戒：咕噜》是一个大胆的作品，无论从立意还是立项，都有着惊世骇俗的面孔，如果有着超高的制作水准，也许能从世俗的定见中扭转乾坤，可惜游戏在各个方面的素质都不足以负此重任，游戏系统的简陋甚至连战斗系统都舍弃——它的垮塌是全方位的。我们编辑认为，即便是魔戒迷，也需要谨慎入坑，这是一款需要用极大热情和宽容度去拥抱的游戏...

查看更多 立即下载

在名为《壮丽的人性》（Magnifica Humanitas）的关于人类未来安全宣言中，教皇呼吁各国政府放缓生成式 AI 技术的开发，并制定有助于防止虚假信息传播的法规。他还谴责了 AI 在战争中的应用，表示减少人类对武器的控制会使战争更难被视为“正义”，并警告不要发起 AI 军备竞赛。利奥称 AI 是当今人类面临的最大挑战，他在文件中表示，将不可逆转的致命决定委托给 AI 系统是“不被允许的”。

在《壮丽的人性》中，一个名为“我们都能尽一份力”的章节里，教皇利奥引用甘道夫的话来强调他的观点：

二十世纪天主教作家 J.R.R. 托尔金通过他一部小说中主角的话，这样描述我们的责任：“我们的职责不是去掌握世界上所有的潮流，而是在我们所处的岁月里尽力而为，铲除我们所知田地里的恶，让后代有清净的土地可以耕作。”

这段引言出自 《魔戒：咕噜™》- The Lord of the Rings: Gollum™. The Return of the King。当时这位著名的巫师正在米那斯提力斯的大门前向盟军领袖的集会发表讲话。此时迪耐瑟和希优顿已经牺牲，法拉米尔正在医护所伤愈。阿拉贡也在听众之列。以下是完整引言：

“还会有其他的邪恶降临；因为索伦本身也不过是一个仆人或使者。然而，我们的职责不是去掌握世界上所有的潮流，而是在我们所处的岁月里尽力而为，铲除我们所知田地里的恶，让后代有清净的土地可以耕作。至于他们将面临什么样的天气，不是我们能左右的。”

问题是，那些对 AI 如此痴迷以至于其主导了西方经济的科技巨头们，会听取教皇利奥的建议吗？周一在梵蒂冈举行的文本发布活动中，与会者包括 Anthropic 的联合创始人克里斯·奥拉（Chris Olah），该公司生产 Claude AI 工具。所以我们知道至少有一位主要参与者听取了教皇的意见。

“我们不能仅仅满足于要求机器道德化——即所谓的 AI 与人类价值的‘对齐’（alignment）——而不鼓起勇气坚持进一步的条件：公开讨论所涉及的伦理框架，并使其接受社会正义的共同标准，”利奥在文中继续说道。

“否则，那些控制 AI 的人将强加他们自己的道德愿景，这会成为这些系统的隐形基础设施。如果道德由少数人决定，那么一个更具道德感的 AI 是不够的。我们需要的是更积极的政治参与，能够在一切都在加速时让事情慢下来，并保护社区仍然能够参与和提问的机会。”

本月，执导了备受推崇的 《魔戒：咕噜™》- The Lord of the Rings: Gollum™ 电影以及 乐高: 霍比特人 系列电影的传奇导演彼得·杰克逊，淡化了对 AI 影响电影制作的担忧。他表示：“我一点也不讨厌它。我的意思是，对我来说，它只是一种特效。” 他在 《魔戒：咕噜™》- The Lord of the Rings: Gollum™ 方面的工作将随着明年的电影《追捕咕噜》（The Hunt for Gollum）继续进行。