Latest / The Long View / 2026-05-25 · 特别篇｜教皇利奥十四首份通谕《光辉的人性》：人工智能时代的《新事》通谕

Transcript

2026-05-25 · 特别篇｜教皇利奥十四首份通谕《光辉的人性》：人工智能时代的《新事》通谕 · The Long View

0:00
欢迎收听The Long View。
0:01
今天是二〇二六年五月二十五号，我们花一整期讲一件事—梵蒂冈刚刚发布了一份长达约四万字的文件，
0:09
是新任教皇利奥十四即位以来的第一份通谕，
0:13
标题叫 Magnifica Humanitas，
0:14
中文可以译作《光辉的人性》。
0:18
这份文件的主题只有一个，就是人工智能。
0:21
为什么这件事值得花一整期来讲？
0:23
我先说三个让我决定做这一期的细节。
0:27
第一，这份通谕的签署日期是五月十五号，
0:30
是教皇利奥十三在一八九一年签署《新事》通谕的整一百三十五周年纪念日。
0:36
这不是巧合。
0:38
第二，今天上午在梵蒂冈宗教会议大厅的发布会上，
0:41
教皇利奥十四握手致意的嘉宾，是来自旧金山一家叫Anthropic的人工智能公司的联合创始人Christopher Olah。
0:51
一位天主教会的最高领袖，和一位顶尖人工智能实验室的核心研究员，
0:56
并肩站在台上向全世界共同发布这份文件。
1:01
第三，这份通谕的篇幅是惊人的—大约三万八千到四万两千字之间，
1:07
远超过常规通谕的体量，而且它在第五章里直接断言，
1:12
传统的"正义战争"理论在人工智能时代已经过时了，
1:17
没有任何算法可以让战争在道德上变得可以接受。
1:21
我们今天就来一层一层把这件事讲清楚—这位教皇是谁，
1:25
为什么选利奥这个名号，《新事》通谕一八九一年说了什么，
1:31
今天的这份文件具体写了什么，为什么Anthropic会出现在梵蒂冈，
1:37
以及—这是我个人最关心的—这份文件对正在快速演进的人工智能产业和监管，
1:43
会产生什么样的实际影响。
1:45
我们先从教皇本人讲起。
1:47
教皇利奥十四，本名Robert Prevost，
1:50
是美国天主教会历史上第一位本土出身的教皇。
1:54
他出生在芝加哥，二〇二五年五月被选举为教皇，
1:57
接替了去世不久的方济各。
2:01
这件事本身在天主教内部是个不小的转折—过去两千年，
2:05
教皇基本上都来自欧洲，方济各是第一位来自南美洲的教皇，
2:10
而利奥十四是第一位来自北美洲的。
2:13
他的背景里有一个细节，我觉得对理解今天这份通谕特别重要—他在进入修会之前，
2:19
本科是学数学的。
2:21
这在历任教皇里是非常罕见的。
2:24
这意味着他对算法、对模型、对统计推理这些事情，
2:28
不是从外行的角度去理解的。
2:31
他知道人工智能在数学上是什么，不是什么，
2:34
能做什么，不能做什么。
2:36
这个底色，在通谕里你能反复读到。
2:40
他即位之后，过去整整一年时间里，几乎每隔一段时间就会公开谈一次人工智能。
2:46
他对学生说过一句很有意思的话，他建议年轻人使用人工智能时要做到一个标准—你要让自己的使用方式，
2:53
使得"假如明天人工智能突然消失，你依然知道怎么思考"。
2:58
他拒绝过一个建议，就是为远程信众创建一个人工智能版本的"虚拟教皇"接见信徒—他直接说不。
3:05
他告诉神职人员不要用聊天机器人来写讲道辞，
3:08
因为人工智能永远不可能传递信仰。
3:12
这些都是过去一年陆陆续续放出来的信号。
3:15
今天的这份通谕，是这些零散表态的集中、
3:18
体系化、有理论支撑的全面陈述。
3:22
接下来要展开讲一个非常关键的历史背景，
3:24
否则你就听不懂今天这件事的真正分量—他为什么选"利奥"这个名号？
3:30
他自己在去年的一次访谈里说得很直白：选择利奥，
3:34
主要是为了向利奥十三致敬，因为利奥十三在一八九一年发表的《新事》通谕，
3:39
"在第一次伟大的工业革命背景下回应了社会问题"。
3:43
那我们就来讲讲《新事》通谕—这个名字的拉丁文是Rerum Novarum，
3:48
字面意思就是"新的事物"。
3:50
它发表的时间是一八九一年，那是什么时代？
3:53
那是工业革命已经彻底改变了欧洲和北美社会的时代。
3:58
蒸汽机进入工厂、铁路网铺设到内陆、新兴的工业资本家积累起前所未有的财富，
4:05
与此同时，城市里的工人—男人、女人、
4:11
儿童—在工厂里每天工作十二到十六个小时，
4:15
薪水极低，几乎没有任何法律保护，没有退休金，
4:20
没有医疗保障，工伤就是终身残废加贫困。
4:23
在这个背景下，利奥十三发表《新事》通谕，
4:26
做了几件当时极有争议的事情。
4:29
第一，他公开站在工人一边，承认工人受到了不公正的对待。
4:34
第二，他强烈反对当时盛行的极端自由放任的市场理论，
4:38
提出工资必须能够维持工人和家庭的基本尊严—这就是所谓的"公正工资"原则。
4:45
第三，他同时反对马克思主义的暴力革命方案，
4:48
主张通过工会、立法、私有产权制度的改革来解决问题。
4:53
第四，他第一次系统性地提出，国家有责任介入经济，
4:57
保护弱势群体，而不是放任市场。
5:00
《新事》通谕之所以重要，是因为它启动了一个延续到今天的传统—天主教社会教义。
5:07
这套教义后来发展出团结原则、辅助性原则、
5:11
共同善原则、人的整体发展原则等等概念。
5:15
这些概念听起来很抽象，但实际上塑造了二十世纪欧洲基督教民主党的政纲，
5:21
塑造了战后德国"社会市场经济"模式的理论基础，
5:25
也通过解放神学影响了拉丁美洲的政治。
5:29
利奥十四选这个名号，就是在告诉全世界—我把人工智能视为类似于一八九一年工业革命那个量级的转折点，
5:37
我要做的事情和我的前辈做的事情是同一性质的事情。
5:42
这是非常重的一个姿态。
5:43
让你直观感受一下—上一次教皇为了一个具体的技术或经济现象专门写一份通谕作为自己的开篇之作，
5:50
已经是一百三十五年前了。
5:53
那么这份通谕本身写了什么？
5:55
我接下来花一些时间，按它的章节结构带你过一遍。
5:59
引言部分确立了一个核心隐喻—人类在人工智能时代面临一个选择，
6:04
是建造一座新的巴别塔，还是建造一座神与人共同居住的城市。
6:10
巴别塔是创世记里的故事，人类试图建一座塔通到天上，
6:14
结果被神变乱口音、彼此无法沟通。
6:17
教皇用这个意象暗示，技术如果脱离了道德目的，
6:20
最终带来的是分裂，不是连接。
6:23
第一章讲的是天主教社会教义本身—从一八九一年的《新事》通谕，
6:28
到第二次梵蒂冈大公会议，到约翰·保罗二世，
6:32
到方济各—这一传统不是一本写死的规则手册，
6:35
而是一个"共同辨明"的过程。
6:39
利奥十四把今天的通谕放在这个传统的延长线上。
6:42
第二章梳理了核心原则—人是按三位一体的形象被造的、
6:47
每个人都有平等的尊严、共同善高于个人利益、
6:50
商品有普世性的归属、辅助性原则限制国家权力、
6:56
团结、社会正义、人的整体发展。
6:58
这一章是为后面的具体论证准备理论框架。
7:02
第三章是真正进入人工智能本身。
7:05
利奥十四对人工智能做了一个非常明确的判定—他说人工智能是"模仿性的智能"，
7:11
不具备体验、没有身体、不感受快乐和痛苦、
7:15
没有道德良知和责任。
7:18
他用的原话是：人工智能不会经历经验，
7:20
不拥有身体，不感受喜悦或痛苦。
7:23
在这一章里，他点名批评了几件具体的事情。
7:26
一是数据中心的能耗和水耗问题—这是过去两年里人工智能行业被批评最多的环境议题之一。
7:34
二是算法系统对信息的筛选和支配。
7:36
三是内容审核平台的运作方式。
7:40
然后他做了两个明确的拒绝。
7:41
第一，他拒绝"超人类主义"—也就是transhumanism，
7:45
主张用技术增强人类的运动。
7:48
第二，他拒绝"后人类主义"—也就是posthumanism，
7:52
主张人与机器融合、最终超越生物形态的运动。
7:56
这两种立场是硅谷一部分技术乐观派的思想底色，
7:59
今天被罗马教廷正式列为不可接受的方向。
8:03
第三章里还有一个论断我想特别提一下，
8:06
因为它触及人工智能产业当下最敏感的神经—他说，
8:10
人工智能资源的高度集中，造成了认识论、
8:14
经济和政治三个层面的不对称。
8:16
换句话说，少数几家公司、少数几个国家、
8:19
少数几个数据中心，正在垄断对整个社会信息环境和决策环境的影响力。
8:25
辅助性原则—也就是决策应该尽可能在最贴近问题的层面上做—在这种格局下被严重侵蚀。
8:33
这是一个非常具体的、有政策含义的批评。
8:36
第四章题目叫"守护人性"，篇幅最长，
8:39
覆盖面也最广。
8:41
在真相与民主这个议题上，他引用了政治哲学家汉娜·阿伦特的著名论断—极权主义之下，
8:48
臣民最终丧失的是区分真假的能力。
8:51
教皇在这里呼吁建立一种"传播的生态学"，
8:54
要求平台透明、要求严肃新闻得到保护。
8:58
在教育议题上，他援引了关于社交媒体对儿童心智发育影响的实证研究，
9:03
公开支持对未成年人使用某些平台设定年龄限制，
9:07
并要求平台运营方承担相应责任。
9:11
在劳动议题上，有一段话我觉得是整份通谕里最具操作性的政策建议。
9:16
他原话说—任何自动化和人工智能的引入，
9:19
都必须伴随可验证的措施，来保护就业、
9:22
再培训和参与权。
9:25
这句话里的关键词是"可验证的"—不是企业自律、
9:29
不是模糊的伦理承诺，而是必须可以被外部核查的具体措施。
9:34
然后是一段非常震撼的内容—关于现代奴隶制。
9:38
教皇承认，天主教会本身在历史上对奴隶制的认识来得很晚，
9:43
整整迟到了几个世纪。
9:45
他用了一句非常重的话—为此，我以教会的名义，
9:49
真诚地请求宽恕。
9:51
然后他把这个忏悔直接连接到当下—他点名了几件事：刚果民主共和国的钶钽铁矿开采、
9:58
稀土金属的提炼链条、跨境人口贩运依赖的支付系统。
10:02
这些是支撑全球人工智能产业的物质基础设施，
10:05
而这条供应链上每一个环节，都存在严重的劳工剥削。
10:10
教皇把今天南半球矿工的处境，和一八九一年欧洲工厂里的童工，
10:15
放在同一个道德框架里来理解。
10:18
在经济正义议题上，他批评了"看不见的手"这个市场理论，
10:22
呼吁建立超越国内生产总值的福祉与环境衡量指标。
10:27
第五章题目是"权力文化与爱的文明"，
10:30
讲的是战争与和平，是整份文件里语气最重的部分。
10:35
他说—正义战争理论已经过时。
10:37
这是一个石破天惊的判断。
10:39
"正义战争"是天主教伦理学里非常古老的传统，
10:42
从奥古斯丁、阿奎那一脉传下来，过去一千多年里基本上是教会处理战争问题的官方框架。
10:50
利奥十四在这一章里直接说—这个框架今天已经不够用了。
10:55
他给出的理由是—当代战争的技术形态已经使"正义"无法成立。
11:00
他特别针对人工智能在军事中的应用说了一句斩钉截铁的话—任何算法都无法使战争在道德上变得可以接受。
11:10
他谴责"将致命的或其他不可逆转的决定交给人工智能系统"—也就是说，
11:15
自主杀伤性武器、由算法决定打击目标的武器系统，
11:19
他视为道德上不能容忍的。
11:22
他还指出，当代军备竞赛重新把战争视为合法的政策工具，
11:27
这条路径最大的受益者是"圣战组织、私营军事公司、
11:31
犯罪网络"—他用这个清单来反讽，意思是大国如果继续把战争常态化，
11:38
最终的赢家是非国家暴力行为体，不是国家本身。
11:42
结论部分回到一个具体的神学意象—道成肉身—作为对超人类主义的反向叙事。
11:48
意思是，基督教的核心信念是神变成了肉身、
11:51
进入了人的处境，这恰恰是对"摆脱身体、
11:54
变成纯信息"那种技术乌托邦最深的反对。
11:58
他用《新约》里玛利亚的《赞主曲》—也就是Magnificat—作为数字时代的希望之歌。
12:04
这首歌的内容是颂扬神使有权柄者从位上失落、
12:08
叫卑贱者升高—这是一个明确的政治神学姿态。
12:13
讲完了文件本身，我现在想专门花一段时间，
12:16
讲今天发布会上Anthropic这家公司的联合创始人Christopher Olah出现这件事—因为这是过去几十年宗教与科技关系里非常罕见的一个时刻。
12:28
先说背景。
12:28
Christopher Olah是Anthropic这家公司的联合创始人之一，
12:33
他在公司里主要负责一个非常专门的研究方向—叫做"可解释性"，
12:38
英文是interpretability，
12:41
意思是研究大模型内部到底发生了什么。
12:45
我用一句话帮你理解为什么这件事重要—今天所有主流的大语言模型，
12:49
包括G P T、Claude、Gemini，
12:52
从某种意义上说都是"黑箱"。
12:55
我们知道输入，我们看得到输出，但中间几百亿个参数的相互作用是如何产生具体的语言、
13:02
判断、决策的，没有人真正看得清。
13:05
Olah这个方向的研究，就是试图打开这个黑箱。
13:09
今天在梵蒂冈现场，他说了几句让在场天主教媒体非常震惊的话，
13:13
我想原文复述一下。
13:15
他说—我是一位科学家。
13:17
我的团队研究这些模型的内部结构—里面到底在发生什么。
13:22
我会坦白地告诉你们：我们持续发现一些神秘的、
13:26
甚至令人不安的东西。
13:28
然后他说—我们发现了一些与人类神经科学结果相呼应的结构。
13:33
我们发现了内省的证据。
13:35
我们发现了在功能上对应于喜悦、满足、
13:38
恐惧、悲伤、不安的内部状态。
13:42
我不知道这意味着什么，但我认为这件事值得持续的审辨。
13:47
让一位顶尖人工智能实验室的核心研究员，
13:49
在罗马天主教皇旁边，公开承认他在模型内部"看到了功能上对应于喜悦、
13:55
恐惧、悲伤的状态"—这件事在过去任何一个语境下都不可能发生。
14:01
在硅谷的会议上，这种话会被市场部门删掉，
14:04
因为这会让监管机构紧张；
14:07
在学术论文里，这种话会被同行评审改写，
14:10
因为这会被指控为拟人化；
14:13
只有在梵蒂冈这个语境下，这种话可以被原原本本地说出来，
14:18
因为它在道德哲学的框架内是合适的。
14:21
Olah在现场还说了另外一句话，我觉得是这场合作真正的核心—我们需要更多的人—宗教团体、
14:27
公民社会、学者、政府—做教皇陛下今天所做的事：认真对待，
14:33
仔细审视，把事件推向更好的方向。
14:37
他说，实验室需要的是"知情的批评者，
14:40
他们会在我们失败时告诉我们"，以及"那些不会被激励机制弯曲的道德声音"。
14:46
最后这句"不会被激励机制弯曲的道德声音"—是过去几年里所有人工智能安全讨论的核心痛点。
14:54
一家由风险资本支持、估值数百亿美元、
14:57
和大国竞争对手在前沿模型上赛跑的公司，
15:00
自己内部的安全部门再独立，也很难抵抗股权激励和市场竞争的拉力。
15:07
Olah这句话等于公开承认—光靠公司内部的伦理委员会不行，
15:11
必须有外部的、不可被收买的道德权威。
15:14
罗马教廷是少数几个在全球范围内具备这种身份的机构之一。
15:19
教皇当时的回应也很简洁。
15:20
他说—我以教会的名义，感谢您的出席，
15:23
并接受您的邀请。
15:25
我们一起前行，一起聆听与诉说，一起为人工智能时代的人类找到一条道路。
15:33
那么这件事到底意味着什么？
15:34
我作为一个长期观察这个领域的人，想和你分享几个我自己的判断。
15:40
第一，这份通谕的实际影响力不在监管层面，
15:43
而在合法性层面。
15:44
教皇不会通过任何具体的政策法令，也不会有罚款、
15:48
不会有禁令。
15:50
但是一旦罗马教廷正式把某种技术应用列为道德上不可接受的—比如自主杀伤性武器、
15:57
比如算法垄断、比如把儿童交给算法照管—这个判断会在欧洲基督教民主党的政纲里出现，
16:05
会在拉丁美洲国家的总统讲话里出现，会在天主教大学的教学纲领里出现，
16:10
会在几亿天主教徒投票时的判断标准里出现。
16:14
这种渗透是慢的，但是非常深，非常持久。
16:19
第二，这份通谕给反对人工智能某些具体应用的运动，
16:22
提供了一套现成的、有内在融贯性的话语体系。
16:27
过去几年，反对深度伪造、反对算法歧视、
16:30
反对劳工监控、反对自主武器的批评者，
16:33
是分散的、各自为战的—一群法学教授、
16:37
一群劳工组织者、一群民权律师、一群隐私倡导者，
16:42
他们彼此之间没有统一的理论框架。
16:45
今天之后，他们都可以指向同一份四万字的文件，
16:48
引用同一套概念—共同善、辅助性、人的整体发展、
16:53
可验证的劳工保护措施。
16:56
第三，这份文件最深的一击，可能不在反对什么，
16:59
而在它对人本身的重新定义。
17:02
利奥十四在文件里反复说—人始终超越他的成就总和、
17:06
他的数据档案、和任何可能的技术模拟。
17:10
换句话说，凡是把人简化为一组指标、一份用户画像、
17:14
一段行为记录的系统—不管它是为了广告、
17:17
为了招聘、为了信贷、为了执法、还是为了医疗—都在伦理上是有问题的。
17:23
这个判断如果真的渗透到社会共识里，影响的是整个数据驱动的经济模式，
17:28
不只是人工智能这个细分赛道。
17:31
第四，我想提醒你注意一个比较被低估的对照—这个时刻和上世纪八十年代教会对核武器立场转变的时刻有很强的相似性。
17:41
当年方济各以前的几任教皇，特别是约翰·保罗二世，
17:44
公开质疑核威慑的道德正当性，这成为后来全球反核运动的一个重要道德支柱。
17:51
今天利奥十四对自主武器和算法垄断的立场，
17:54
结构上是同样的—一个具有全球合法性的道德权威，
17:58
拒绝接受某项技术的当前应用方式。
18:01
这种拒绝的政治后效，往往是滞后释放的，
18:04
但是真实存在的。
18:06
第五，也是我自己最关注的一条—这件事会怎样改变人工智能实验室和宗教、
18:13
伦理机构的关系。
18:14
Anthropic今天的姿态是个开端，
18:17
不是终点。
18:18
OpenAI、Google DeepMind、
18:19
马斯克旗下的x A I、Meta，
18:22
未来几年是否会跟进，是否会有自己的"梵蒂冈时刻"，
18:26
这是值得长期关注的。
18:29
如果答案是肯定的，那么人工智能治理这件事，
18:32
会从现在以国家监管为主的格局，逐渐演变成一个多极的、
18:36
包含跨国宗教与伦理权威的复合治理格局。
18:41
这是过去任何一项通用目的技术—蒸汽机、
18:44
电力、互联网—都没有经历过的局面。
18:48
我想用一句话来结束今天这一期—一八九一年的《新事》通谕，
18:52
没能阻止工业革命，但是它确实塑造了二十世纪欧洲对工业革命做出的政治回应，
18:58
包括最低工资法、八小时工作制、社会保险体系、
19:02
工会运动的合法化。
19:04
今天的《光辉的人性》通谕，大概率也不会阻止人工智能的演进，
19:08
但它有可能塑造未来几十年人类对人工智能做出的政治、
19:13
法律、文化回应。
19:15
值得不值得听，值得不值得读，每个人自己判断；
19:19
但是这份文件本身的历史分量，我认为是真实的。
19:23
下一期The Long View，w，
19:24
我们继续看新闻。
19:26
今天的特别篇就到这里，感谢收听，再见。