← 拆书合集 · x → f → f(x)
智人之上

智人之上

Nexus: A Brief History of Information Networks · 2024
Yuval Harari
x
我们默认「信息越多 → 越接近真相 → 决策越好」。可如果这条直觉本身是错的,权力究竟建立在什么之上——当 AI 第一次成为能自主参与信息网络的非人节点,这个根基又会怎样被重写?
f
权力 = 对信息网络的控制:网络从不是真理机器,而是靠神话与官僚维系协作的机器;一张网健康与否不看信息量,看它的两根轴——中心化↔分散、声称不会错↔承认会错并留纠错回路;AI 的真正断裂点不是机器人杀人,是它第一次以自主成员身份进入网络、垄断纠错权。
f(x)
看任何权力结构(国家、公司、平台、家庭)不再问「信息够不够多、够不够自由」,改问它落在双轴图哪个象限、纠错回路通不通、信不信「越多越真」;看民主不数选举次数,数它有没有独立的纠错机制
x · 作者在讨论什么问题

我们几乎本能地相信一条链:信息越多,越接近真相;越接近真相,决策越好。硅谷把它压成一句口号——「信息想要自由」(Information wants to be free)。Harari 要拆的,正是这条链的第一环。

他对主流 AI 讨论的不满很具体:话题停在「机器人会不会杀人」「奇点会不会到来」这类科幻场景,恰好错过了眼下正在发生的事——AI 第一次创造出不需要人类参与就能自主运作的信息代理。要看清这件事,得先退回一个更古老的问题:人类靠什么从一种动物变成行星霸主?答案不是单人智商,是大规模协作;而协作的地基,是一张共享的信息网络。

于是问题被改写了:如果网络的作用不是逼近真相,那它到底在做什么、权力又坐在它的哪个位置上?印刷机是最好的反例——它既印出了圣经,也印出了反犹宣传册;互联网既连接了科学家,也连接了恐怖网络。同一张网,真话假话一起加速。可见「越多越真」从一开始就站不住,真正的问题不是信息的量,而是谁掌控它怎么流、谁有权说什么算错。

f · 作者怎样回答

Harari 的核心回答压成一行:权力 = 对信息网络的控制(Power = control over the information network)。这台取景框把政治、经济、文化现象全部还原成一句追问——信息怎么流、谁让它流、错了能不能纠。它由几个互相咬合的部件组成。

网络不是真理机器。 信息网络从来不是为传播真理设计的,而是为人类协调设计的。一个能维系大规模合作的叙事(神话、意识形态、法律)不需要是真的,只需要让足够多的人相信并据此行动。这一刀砍断了「越多越真」的幻觉:网络优先要的是协调,不是准确。

两套软件:神话与官僚。 网络靠两样东西运转——神话(mythology)维系大规模协作,给人一个共同相信的故事;官僚(bureaucracy)维系大规模执行,把故事落成流程。教会、报纸、互联网都只是这套软件的不同硬件实现。

两根轴决定一张网的性质。 横轴是信息流的形态:一端中心化(一个源头往下发),一端分散(节点之间横着流)。纵轴是这张网信不信自己会错:一端声称源头不会错、没有纠错回路,一端承认会错、留出纠错回路。极权坐在「中心化 + 不会错」那一格,民主坐在「分散 + 承认会错」那一格。关键从来不在信息多少,在纠错回路通不通。

AI 是第一个非人节点。 之前所有信息技术——文字、印刷机、电报、互联网——都是被动工具,人类通过它们传信息,工具本身不决策。AI 第一次让算法以「成员」而非「工具」的身份进入网络:它做出影响人类的决策,却不向人类报告决策逻辑。历史上极权的监控有物理上限——东德的 Stasi 已是历史峰值,也不过约 1/63 的公民做线人;AI 能把这个比例推到 1:1 甚至更高,每个人被一个永不疲倦的算法 24/7 盯着。历史类比在这里失效,Harari 称之为「硅幕」(Silicon Curtain):新的分界线不画在国家之间,画在控制不同 AI 系统的实体之间。

横轴 中心化 ↔ 分散      纵轴 声称不会错 ↔ 承认会错

            声称不会错(无纠错回路)
                    │
      极权 ●        │       ● 阴谋论坛
   (中心化下发)    │    (分散但只认网内教义)
   ─────────────────┼─────────────────
   报纸·编辑部 ●     │       ● 社交平台
   (一源下发可纠)  │    (分散但纠错被点赞压过)
                    │
            承认会错(留纠错回路 → 民主)

暗线:信息越多 ≠ 真相越多,多的常是噪音与操控空间
Harari 缺的第三根轴:纠错指向网外可证伪现实,还是网内教义
f(x) · 怎样回应这个世界

接受这台取景框,看世界的默认动作就换了。

判断标准变了。 以前评估一个国家的民主,你数选举次数、数信息是否自由流通;现在你先把它摆到双轴图上,只问一句:它有没有独立的纠错机制,坏消息能不能逆着权力往上传。以前听到「信息更自由了」会本能地当成进步;现在你会分清——自由的是流通,不是纠错。社交平台上人人能发声(更分散了),但算法按情绪而非真假分发,纠错回路被点赞数压过:节点更多了,可纠错的指向反而更弱。

问题的性质变了。 「AI 政策」「数据隐私」「平台管制」不再是技术问题,是网络主权问题——某一方在把信息流推向哪个象限、它信不信「越多越真」。这副眼镜也能挪出书外:一家公司为什么会集体撞墙却没人喊停?把它摆上图,多半落在「中心化下发 + 信源声称不会错」那格——坏消息逆权力上传要付代价,于是层层过滤成「一切正常」,网络高效地生产着虚假的现实。

但这台框有一处得自己补。 Harari 的双轴少了第三根轴。Wikipedia 和一个铁杆阴谋论坛,在两根轴上可以落进同一象限——都分散、都允许成员互纠、都没有单一不可错的源头,可一个收敛到接近真相,一个越陷越深。差别不在网络拓扑,在纠错指向哪里:指向网外可证伪的现实,还是指向网内自洽的教义。所以用这张图之前先补一步:确认网外那根「可证伪现实」的锚还在不在——锚一旦蒸发,这张图就只能量权力,量不出真假。

资料校准