实验室里,正反馈是一个让人略微警醒的词。
年轻时做实验,遇到放大器自激,最先听见的往往不是宏大的声响,只是一点细小的啸叫。信号沿着回路走了一圈,回来时比原来大一些;再走一圈,又大一些。起初几乎不值得注意,等到示波器上的波形顶到边缘,系统已经离开了我们原先讨论的线性区。那时再去问“最初是哪一点出了问题”,常常已经没有太大意义。真正需要看的,是增益、时延、耦合,以及系统里有没有足够快的负反馈。
这些年离具体的实验台远了,遇到社会问题,我有时仍会下意识地用这样的眼光去看。物理学训练留下的习惯未必总是合适,人毕竟不是电子,社会也远比一个控制系统复杂;不过,有些直觉还是会跟着人很多年。最近读赵鼎新教授关于“人类性”、“智人性”以及“加速问题”的几篇文章,这种旧日的实验室感觉又回来了。
赵教授是我十分尊重的前辈。他的社会学研究有很深的历史感,也一直带着一种少见的结构意识。这几篇文章尤其如此。他没有停留在人工智能、气候、战争、不平等这些已经足够沉重的具体问题上,而是把问题往后退了一层:如果这些危机反复出现,并且随着技术能力增强而越来越难以收拾,那么,我们是否应当看看制造这些制度、技术和危机的那个物种本身?
这个问题很大。大到稍不留神,就会从社会科学走到哲学,再从哲学走到宇宙论。赵教授并不回避这种跨度。他近年的工作,正是在尝试给这一跨度搭一座桥。
一
在较早的“人类性与行星性”讨论中,赵教授的出发点是对“人类世”和“行星性”的反思。人类已经深刻改变地球,这一点并不难理解;困难在于,当我们说“人类应当更理性地治理地球”时,那个承担治理责任的“人类”究竟是什么样的动物?如果治理者本身就带着某些难以消除的行为倾向,那么,仅仅提出更高尚、更理性的目标,恐怕还不够。
后来,他把“人类性”进一步收束为“智人性”。在 2026 年的论文中,这一概念已经相当完整:正反馈性、回路性、特殊性、末梢重,以及小群体动物本质,构成五个彼此相关而又不能互相化约的特征。“当下性”则更多被视为这些特征共同作用的结果;社会权力分布的不均衡,也不再被直接列为“人性”,而成为放大这些特征后果的结构条件。
我觉得这个调整很重要。人的物种倾向与社会形成的权力结构毕竟不是一回事。把二者分开,理论才有可能讨论:相似的人,在不同制度中为什么会造成完全不同的后果。
赵教授所说的“正反馈”,很好理解。更有效的武器出现以后,对手很难安心停留在旧武器上;一家企业用新技术显著提高效率,竞争者就不得不跟进;一个国家在某种关键能力上取得优势,其他国家也会加速投入。优势带来资源,资源又扩大优势。技术、资本、军事和组织能力,都可能沿着这种回路自我强化。
“回路性”更有社会科学意味。赵教授从 Ian Hacking 的 looping effect 出发,把它扩展到人的观念与行动之间:人会给世界命名、分类、解释,并按照自己的解释行动;行动改变现实,新的现实又反过来改变人的理解。钱之所以有力量,身份之所以能塑造行为,市场预期之所以有时会把自己变成事实,都有一点这样的意思。社会理论一旦被社会中的人读到,它甚至可能改变自己原先试图描述的对象。自然界很少有粒子读完论文以后决定换一种运动方式,人却会。
“特殊性”说的是另一件事。面对同样的制度,人会想出完全不同的应对办法。有人遵守规则,有人寻找缝隙,有人改变规则,有人绕过规则。一个评价指标刚刚建立,围绕指标的策略就开始生长。做过大学行政的人,对此大概不会陌生。制度设计者以为自己设置了一把尺,过不了多久,人们已经学会研究尺子本身。
“末梢重”是赵教授很有个人辨识度的概念。一方面,人类文明在地球漫长历史的最后极短一段时间里,产生了数量惊人的特殊机制;另一方面,处在高权力位置上的某个局部行动,可能造成远远超出行动本身尺度的结果。普通人的一次误判,大多只影响身边几个人;掌握核武器、金融基础设施、大型平台或者前沿人工智能系统的人,一次误判却可能沿着网络扩散得很远。“风起于青萍之末”,到了复杂技术社会,青萍之末有时已经接上了整片电网。
最后是“小群体动物本质”。赵教授认为,智人的演化背景主要是小规模群居,人并不是像蚂蚁那样天然适应超大规模社会。农业定居以后,人类需要国家来保护土地、协调冲突、提供公共品,于是出现大型组织和集中权力;然而,掌握这些权力的人仍带着小群体偏好、亲疏关系、地位竞争和自我论证。于是,功能性的权力很容易长出自己的枝蔓。
这几项合在一起,赵教授的核心判断就清楚了:智人会不断创造新的能力,也会不断创造新的理由、策略和竞争;一旦这些倾向与高度集中的权力结合,局部冲动便可能获得巨大的系统杠杆。技术越强,这个问题越尖锐。
读到这里,我很受启发。
二
赵教授这套理论最打动我的地方,是他把“能力增长”和“文明进步”分开了。
科学工作者很容易对进步怀有朴素信心。我们亲眼见过知识如何积累:一代人测不准的量,下一代可以多给出几个有效数字;过去要花几年计算的问题,今天几分钟便有结果;疾病、材料、通信、能源,一项项技术确实改善了人的生活。科学中的很多进步是真实的,而且可以重复、可以传递。
麻烦在于,社会并不因此自动变好。
核物理的知识可以进入核电站,也可以进入核武器;生物技术可以治疗疾病,也可以扩大新的风险;人工智能能够帮助研究、教育和医疗,也能降低欺骗、操纵乃至自动化攻击的成本。能力的增长很像给文明增加放大倍数,至于输入端是什么信号,放大器本身并不负责判断。
赵教授抓住了这一点。他提醒我们,现代文明真正危险的地方,也许并非某一项技术“邪恶”,而是竞争会迫使技术持续升级,而制度纠错往往慢得多。今天的人工智能尤其如此。模型能力按月更新,产业竞争以季度计,资本市场甚至以天计;法律、教育和公共规范的调整却常以年、十年乃至一代人为尺度。我们面对的未必只是“加速”,更像几个原本咬合在一起的齿轮忽然转出了不同速度。
物理系统里,这种事情并不少见。快变量已经跑出去很远,慢变量还停留在旧的平衡点,系统就容易超调。社会当然不能照搬微分方程,但“时标失配”这个概念,我以为对理解今天很有用。
因此,我愿意把赵教授的“加速问题”稍微改写一下:我们需要警惕的,未必是万事万物一起变快,而是技术、市场、政治、法律、伦理与人的生物认知能力之间出现越来越大的速度差。
有些东西可以快,有些东西天生慢。芯片可以十八个月换一代,人对陌生人的信任却不能十八个月升级一次;模型参数可以成倍增长,一套司法制度形成稳定的解释传统却需要时间;传播速度已经接近瞬时,判断一条消息是否可信仍要靠那颗并没有同步升级的大脑。
这大概是我读赵教授“加速”时,最想补上的一层。
三
不过,越是欣赏一个理论,越应当替它挑一挑边界。物理学里,一个公式最有价值的地方,常常不只在它解释了什么,也在我们知道它什么时候不再成立。
我对“智人性”的第一个保留,是自然界与人类社会之间的正、负反馈区分,目前似乎稍显整齐。
自然界并不缺正反馈。种群增长、性选择、生态—演化耦合、某些群体行为,都可能出现自我强化。生命系统之所以没有普遍失控,是因为正反馈通常嵌在更多限制条件中:资源、捕食、疾病、能量、空间以及其他反馈共同起作用。人类当然特殊,但特殊之处未必是“有正反馈”。
我更愿意把人的特殊性放在“开放式文化演化”上。人能够把后天获得的知识、技术和制度高保真地传给下一代,还能在此基础上继续改造。一个人学会微积分,不需要等待基因突变;一个实验室改进了一种测量方法,论文发表以后,地球另一端的人很快就可以站在它上面再走一步。技术、制度和观念由此获得一种生物遗传很难具有的速度。
从这个角度看,赵教授所说的正反馈、回路性和特殊性,其实可以在同一个更稳固的基础上相遇:智人具有近乎开放的文化变异能力,而且能让这些变异快速复制、组合和积累。
这也使我对“拉马克式”这个比喻略有迟疑。表观遗传的确使今天的生物学比教科书里最简单的“基因—环境”二分复杂得多,但哺乳动物稳定的跨代表观遗传仍有许多争议。社会文化却无需借助这个争议。文化本来就允许获得性特征传递。一个学生从老师那里学到的方法,明天便可以成为他自己的起点。把这一点说清楚,已经足以说明人类文明为何能如此迅速地累积。
第二个保留在“小群体性”。我相信人具有很强的熟人偏好、身份偏好和有限认知,也相信超大规模社会会给这种心理结构带来压力。不过,如果因此说人“本质上不是大社会动物”,我会稍微收一点。
因为能够创造货币、法律、文字、大学、市场、国家和科学共同体,从而与大量陌生人合作,同样是人类非常深的能力。今天我在实验室里使用一台仪器,其中的芯片可能来自台湾,光学元件来自德国,软件由美国和印度的工程师维护,理论公式则由几个世纪以前的人写下。参与者彼此不认识,却可以在一套规范、标准和信誉体系中合作。这件事本身也属于“智人性”。
因此,我更愿意说:人既有小群体偏好,也有把合作半径向外扩展的制度创造能力。两者之间的张力,比单独强调其中一端更值得研究。
四
“回路性”“特殊性”和“末梢重”,我都很喜欢,却也觉得它们需要再磨细一点。
Hacking 最初谈回路效应,所指相当具体:人被分类以后,会理解、接受、抵抗或者利用这种分类,因而改变分类本身。如果把所有“观念影响行动、行动再影响现实”都叫回路,概念会渐渐变得太宽。市场预期、身份标签、政策指标、舆论传播、自我实现预言,都有反馈,却未必是同一种反馈。
我会尝试至少分成三类。第一类是分类回路,一个标签改变被标签的人;第二类是预期回路,人们对未来的相信改变未来,例如银行挤兑;第三类是规则回路,行动者围绕公开规则调整策略,例如 KPI、排名和各种考核。人工智能时代也许还要加一类算法回路:人的行为训练算法,算法改变信息环境,新的环境又塑造人的行为。
这样做有点像实验室里把“噪声”继续分成热噪声、散粒噪声、1/f 噪声。名字变多了,却反而更容易知道该用什么办法处理。
“末梢重”也可以如此。这个词很有诗意,但若要成为可检验的社会科学概念,还需要知道一个末梢行动为什么会变重。
我想到的几个量是:节点中心性、系统耦合度、不可替代性和不可逆性。一个人的权力很大,并不必然意味着他的一切行为都危险;真正需要警惕的是,他恰好位于一个高度中心化的节点,系统又与许多领域紧密耦合,没有备份,出错以后还很难回滚。
这样看,文明风险可以粗略写成一条并不严格的“黑板公式”:
系统风险 ≈ 失误概率 × 能力规模 × 节点中心性 × 耦合度 × 不可逆性 ÷ 纠错能力。
我知道社会科学不喜欢被物理学家随手写公式,这个警惕很有道理。这里的式子没有定量意义,只是帮助我整理变量。它至少提醒我们:权力集中很重要,却不是唯一变量。透明度、冗余、替代性、反馈速度和退出机制,同样决定一次错误最后能走多远。
一座桥不能因为“桥墩权力太集中”就拆成一百座小桥墩。工程上更实际的问题是:关键部件有没有安全裕量,失效会不会级联,是否有冗余路径,故障能不能被及时发现。社会制度大概也需要类似的耐心。
五
这也带到赵教授文章最后最有勇气、同时最容易引起争论的部分:他的“可实现的乌托邦”。
赵教授的设想并不寄希望于改造人性。他希望降低社会权力的过度集中,让国家权力受到弥散社会力量制衡,让全球治理只处理少数真正的全球公共品,让军事力量尽量收缩,让市场嵌入环境和公平约束;当人工智能承担越来越多生产以后,人类的竞争冲动可以更多流向体育、艺术、文学、哲学、游戏和旅行等外部性较低的领域。社区保持在相对有限的尺度,避免跨区域的巨大声誉和权力积累。
我很理解这套构想背后的忧虑。若不相信能够造出“新人”,那就只能在结构上减少任何一个普通人变成“全能者”的机会。这种思想其实很古老。好的制度从来不应建立在“掌权者一定贤明”上。物理实验也一样,我们不会因为相信操作者认真,就取消保险丝。
但我对“小社区+弱国家+有限全球治理”的具体结构仍有一些疑问。
第一,全球性问题需要跨社区协调。气候、传染病、核风险和人工智能都不会在社区边界前停下来。协调本身需要信息、财政、规则和执行能力,而这些能力一旦形成,又会成为新的权力中心。
第二,赵教授设想人工智能承担大量生产,同时又希望权力高度分散。今天的人工智能恰好依赖最昂贵、最集中的基础设施:先进芯片、数据中心、电力、云平台、模型训练和资本。技术本身带着很强的规模经济。倘若不处理基础设施所有权和接口标准,AI 越强,权力未必越散。
第三,我不太愿意把所有声誉集中都视为同一种危险。一个大科学家、一个著名作家和一个控制关键基础设施的企业家,拥有的是不同性质的影响力。声望可以转化成权力,却并不自动等于强制能力。若一概压平,可能同时损失知识传播和文化创造。
我更倾向于“多中心治理”。不同尺度的问题交给不同尺度的制度处理,让地方、国家、专业共同体和全球机构彼此重叠,也彼此牵制。这里没有一劳永逸的结构。它会显得麻烦,甚至有些笨拙;可复杂系统的稳定,本来就常常来自若干并不漂亮的冗余。
我年轻时总希望实验装置简洁。后来做得久了,才知道有些多余的线、有些备用的传感器、有些看似重复的保护电路,平时令人嫌烦,出故障时却会救命。制度大概也有这种“不优雅的优雅”。
六
还有一处,我愿意很谨慎地与赵教授保持一点距离。
在论文后部,他把结构—机制关系一直推到地球形成以前后的长时段,进而讨论物质演化是否呈现某种目的论色彩。这个想法很迷人。物理学家面对宇宙时,很难完全没有这种诱惑:从基本粒子到原子,从恒星到重元素,从有机分子到生命,再到能够回头询问宇宙的意识,序列摆在眼前,确实容易让人感到某种方向。
但科学训练也让我在这里多停一会儿。
我们看到的是已经发生的这一次历史。由“发生了”走到“必然如此”,中间还有很长的路。地球生命史只有一个样本,我们并不知道把时间重新拨回几十亿年前,智人出现的概率究竟有多大;更不知道宇宙中其他地方的复杂性会走向什么形态。
所以,我宁愿把这一部分保留为哲学上的远眺。它可以很美,也值得想,却暂时不必成为“智人性”理论成立的地基。一个理论有时像一座老房子,拆掉屋顶上的一件装饰,并不会损伤承重墙,反而更能看清结构。
七
如果让我沿着赵教授已经铺出的路,再向前试走几步,我大概会把“智人性”从一个很强的本体论命题,稍稍改造成一个关于复杂适应系统的研究框架。
最底层仍然承认人的生物约束:有限理性、群体偏好、地位竞争、短期折现,以及对意义和正当性的需要。再往上一层,是开放式文化演化——人可以高速创造、复制和组合技术、制度与观念。第三层是反身回路,人会阅读环境、解释规则,再改变环境和规则。第四层是竞争性放大,国家、企业、组织和个人都可能因为“别人会做”而被迫加速。第五层才是权力网络:谁掌握什么资源,处在哪些关键节点,系统有没有冗余和制衡。最后一层是不同子系统之间的速度差,以及纠错机制能否跟上。
这样一来,赵教授的几个重要洞见都还在,只是彼此之间的关系更容易检验。
例如,我们可以问:在其他条件相近时,关键资源越集中、替代性越低的技术系统,是否越容易出现单点故障?竞争越激烈而外部成本越难内部化的领域,安全投入是否越不足?一个制度的反馈时延越长,是否越容易发生政策超调?权力受到多个独立信息渠道和否决机制约束时,同样规模的个人错误,是否更难造成长期不可逆后果?
这些问题未必壮阔,却可以一点点做。
物理学过去几百年的经验,使我对这种“变小”抱有好感。很多宏大的自然哲学,最后都要落到一个可以测量的量、一条可以被推翻的曲线、一个别人能够重复的实验。社会科学当然有自己的方法,不能照搬物理学;但理论若能告诉我们什么证据会让它修改自己,总是一件好事。
八
读完赵教授这些文章,我没有得到一种轻松的乐观,也没有因此变得更悲观。
他的提醒是沉重的:人类很可能永远带着那些使文明既辉煌又危险的倾向。我们会竞争,会结群,会自我辩护,会被宏大叙事吸引,也会不断发明新的工具,把原本有限的欲望和错误放大到更大的尺度。AI 只是最新的一次放大,未必是最后一次。
可我仍愿意给“负反馈”多一点信心。
负反馈从来不是一次完成的设计。恒温器会坏,法律会被钻空子,民主会退化,市场会垄断,学术规范会被指标异化。赵教授对此看得很清楚。但反馈会失效,并不等于反馈没有意义。生命之所以能维持,恰恰不是因为它找到一个永不出错的平衡点,而是因为它不停地测量、偏离、修正,再测量。
这也许是我作为一个物理学教师,读“智人性”以后最想补充的一点。
我们或许不需要期待一个最终完成的好社会。那种社会如果存在,反倒有些可疑。更实际的目标,是让社会保留持续纠错的能力:没有任何个人、公司、国家、模型或意识形态能够轻易取得不可逆的系统控制;允许实验,也限制失败半径;允许竞争,同时让外部代价尽量回到决策者身上;允许权力存在,却给权力留下撤回、替代和审视的通道。
这样的社会不会很整齐。它有争论,有重复,有低效率,也常常令人不耐烦。可稳定系统从来不只追求效率。一个增益调得太高、响应快得惊人的控制器,在演示时往往漂亮,遇到真实世界的噪声和时延,却未必可靠。
写到这里,天已经暗了。书桌上还放着赵教授那篇论文,边上是我读到“正反馈”时随手画的一个小回路:一个箭头出去,又折回来。我看了一会儿,觉得这张潦草的图大概也可以送给自己。
箭头当然还会往前走。人的好奇心、竞争心、创造欲,不会因为我们知道危险就停下来。真正值得费心的,也许是那条回来的线能不能一直留着;当信号太大时,它能不能及时告诉我们,已经偏了。
实验室里,最让人安心的从来不是仪器不会出错。
是出错以后,指针还肯回来。