我们几乎本能地相信一条链:信息越多,越接近真相;越接近真相,决策越好。硅谷把它压成一句口号——「信息想要自由」(Information wants to be free)。Harari 要拆的,正是这条链的第一环。
他对主流 AI 讨论的不满很具体:话题停在「机器人会不会杀人」「奇点会不会到来」这类科幻场景,恰好错过了眼下正在发生的事——AI 第一次创造出不需要人类参与就能自主运作的信息代理。要看清这件事,得先退回一个更古老的问题:人类靠什么从一种动物变成行星霸主?答案不是单人智商,是大规模协作;而协作的地基,是一张共享的信息网络。
于是问题被改写了:如果网络的作用不是逼近真相,那它到底在做什么、权力又坐在它的哪个位置上?印刷机是最好的反例——它既印出了圣经,也印出了反犹宣传册;互联网既连接了科学家,也连接了恐怖网络。同一张网,真话假话一起加速。可见「越多越真」从一开始就站不住,真正的问题不是信息的量,而是谁掌控它怎么流、谁有权说什么算错。
Harari 的核心回答压成一行:权力 = 对信息网络的控制(Power = control over the information network)。这台取景框把政治、经济、文化现象全部还原成一句追问——信息怎么流、谁让它流、错了能不能纠。它由几个互相咬合的部件组成。
网络不是真理机器。 信息网络从来不是为传播真理设计的,而是为人类协调设计的。一个能维系大规模合作的叙事(神话、意识形态、法律)不需要是真的,只需要让足够多的人相信并据此行动。这一刀砍断了「越多越真」的幻觉:网络优先要的是协调,不是准确。
两套软件:神话与官僚。 网络靠两样东西运转——神话(mythology)维系大规模协作,给人一个共同相信的故事;官僚(bureaucracy)维系大规模执行,把故事落成流程。教会、报纸、互联网都只是这套软件的不同硬件实现。
两根轴决定一张网的性质。 横轴是信息流的形态:一端中心化(一个源头往下发),一端分散(节点之间横着流)。纵轴是这张网信不信自己会错:一端声称源头不会错、没有纠错回路,一端承认会错、留出纠错回路。极权坐在「中心化 + 不会错」那一格,民主坐在「分散 + 承认会错」那一格。关键从来不在信息多少,在纠错回路通不通。
AI 是第一个非人节点。 之前所有信息技术——文字、印刷机、电报、互联网——都是被动工具,人类通过它们传信息,工具本身不决策。AI 第一次让算法以「成员」而非「工具」的身份进入网络:它做出影响人类的决策,却不向人类报告决策逻辑。历史上极权的监控有物理上限——东德的 Stasi 已是历史峰值,也不过约 1/63 的公民做线人;AI 能把这个比例推到 1:1 甚至更高,每个人被一个永不疲倦的算法 24/7 盯着。历史类比在这里失效,Harari 称之为「硅幕」(Silicon Curtain):新的分界线不画在国家之间,画在控制不同 AI 系统的实体之间。
横轴 中心化 ↔ 分散 纵轴 声称不会错 ↔ 承认会错
声称不会错(无纠错回路)
│
极权 ● │ ● 阴谋论坛
(中心化下发) │ (分散但只认网内教义)
─────────────────┼─────────────────
报纸·编辑部 ● │ ● 社交平台
(一源下发可纠) │ (分散但纠错被点赞压过)
│
承认会错(留纠错回路 → 民主)
暗线:信息越多 ≠ 真相越多,多的常是噪音与操控空间
Harari 缺的第三根轴:纠错指向网外可证伪现实,还是网内教义
f(x) · 怎样回应这个世界
接受这台取景框,看世界的默认动作就换了。
判断标准变了。 以前评估一个国家的民主,你数选举次数、数信息是否自由流通;现在你先把它摆到双轴图上,只问一句:它有没有独立的纠错机制,坏消息能不能逆着权力往上传。以前听到「信息更自由了」会本能地当成进步;现在你会分清——自由的是流通,不是纠错。社交平台上人人能发声(更分散了),但算法按情绪而非真假分发,纠错回路被点赞数压过:节点更多了,可纠错的指向反而更弱。
问题的性质变了。 「AI 政策」「数据隐私」「平台管制」不再是技术问题,是网络主权问题——某一方在把信息流推向哪个象限、它信不信「越多越真」。这副眼镜也能挪出书外:一家公司为什么会集体撞墙却没人喊停?把它摆上图,多半落在「中心化下发 + 信源声称不会错」那格——坏消息逆权力上传要付代价,于是层层过滤成「一切正常」,网络高效地生产着虚假的现实。
但这台框有一处得自己补。 Harari 的双轴少了第三根轴。Wikipedia 和一个铁杆阴谋论坛,在两根轴上可以落进同一象限——都分散、都允许成员互纠、都没有单一不可错的源头,可一个收敛到接近真相,一个越陷越深。差别不在网络拓扑,在纠错指向哪里:指向网外可证伪的现实,还是指向网内自洽的教义。所以用这张图之前先补一步:确认网外那根「可证伪现实」的锚还在不在——锚一旦蒸发,这张图就只能量权力,量不出真假。