讓我們來(lái)治愈一下《黑鏡》帶來(lái)的致郁
本文無(wú)劇透，請(qǐng)放心食用
《黑鏡》第七季的評(píng)價(jià)有所回升，在于回到了它的基本要義：思想實(shí)驗(yàn)——技術(shù)如何改變生活，以及被技術(shù)改變了的生活如何去往一個(gè)之前我們無(wú)法想象的恐懼之地。
看過(guò)之后，我卻并不想要討論《黑鏡》在最新的一季里給我們帶來(lái)的哪些新的思想實(shí)驗(yàn)，詳細(xì)討論哪些技術(shù)的危害，或者對(duì)每一集做出具體的評(píng)價(jià)——在我看來(lái)這些內(nèi)容已經(jīng)在之前的《黑鏡》相關(guān)文章中被反復(fù)討論，成了陳詞濫調(diào)。
這次，讓我感興趣的，毋寧說(shuō)是這個(gè)主題的反題（antithesis）：今天的我們，還能否想象一個(gè)，技術(shù)給人帶來(lái)福祉的光明世界？
原初豐裕論：技術(shù)與幸福的反比
要理解技術(shù)的復(fù)雜影響，我們先可以回溯得遠(yuǎn)一些，去到人類歷史上的一次重大技術(shù)飛躍——農(nóng)業(yè)革命。
大約一萬(wàn)年前，人類從狩獵采集社會(huì)過(guò)渡到農(nóng)業(yè)社會(huì)，這一轉(zhuǎn)變被認(rèn)為是文明的基石。然而，“原初豐裕論”（Original Affluent Society）提出了一種顛覆性的觀點(diǎn)：狩獵采集社會(huì)的生活可能比農(nóng)業(yè)社會(huì)更加幸福。
根據(jù)考古證據(jù)和對(duì)現(xiàn)存原始社會(huì)的人類學(xué)觀察，在狩獵采集社會(huì)中，人類每天只需花費(fèi) 3-5 小時(shí)獲取食物，剩余時(shí)間用于社交、休息和創(chuàng)造。他們的飲食多樣，身體健康，且社會(huì)結(jié)構(gòu)較為平等。從演化角度，人類在狩獵采集社會(huì)（舊石器時(shí)代）生活了將近一百萬(wàn)年。那么必然的，人類的生存狀態(tài)和心智已經(jīng)被演化塑造成適應(yīng)狩獵采集社會(huì)的狀態(tài)（比方說(shuō)“鄧巴數(shù)”就是一個(gè)舊石器時(shí)代狩獵采集社會(huì)部落的平均人數(shù)。在演化心理學(xué)里有一個(gè)術(shù)語(yǔ)叫做“舊石器時(shí)代心智”），那么在進(jìn)入最近一萬(wàn)年的農(nóng)業(yè)社會(huì)，必然會(huì)造成各種各樣的不適應(yīng)。
人類進(jìn)入農(nóng)業(yè)社會(huì)并不是因?yàn)樵缙谵r(nóng)業(yè)社會(huì)能提供更好的個(gè)體福祉，而是早期農(nóng)業(yè)社會(huì)能夠支撐更多的人口，轉(zhuǎn)過(guò)來(lái)消滅了狩獵采集社會(huì)。這是一種典型的“同態(tài)壓力”。農(nóng)業(yè)革命帶來(lái)了糧食的穩(wěn)定供應(yīng)，但也引入了勞動(dòng)強(qiáng)度增加、營(yíng)養(yǎng)單一、社會(huì)分層和疾病傳播等問(wèn)題。歷史學(xué)家尤瓦爾·赫拉利（Yuval Harari）在《人類簡(jiǎn)史》中指出，農(nóng)業(yè)革命可能是“人類最大的錯(cuò)誤”，因?yàn)樗鼱奚藗€(gè)體福祉以換取種群擴(kuò)張。
農(nóng)業(yè)革命說(shuō)明了一點(diǎn)：技術(shù)的進(jìn)步并不必然等同于個(gè)體幸福的提升。進(jìn)入農(nóng)業(yè)社會(huì)，反而讓人類個(gè)體的“生活質(zhì)量”降低了。技術(shù)可能在解決某些問(wèn)題的同時(shí)，創(chuàng)造出新的、更復(fù)雜的沖突。這種模式在現(xiàn)代技術(shù)中反復(fù)出現(xiàn)。例如，互聯(lián)網(wǎng)的發(fā)明連接了全球，卻也帶來(lái)了信息過(guò)載、隱私侵蝕和心理健康危機(jī)。
農(nóng)業(yè)革命的遺產(chǎn)提醒我們，技術(shù)的發(fā)展往往伴隨著意料之外的代價(jià)，而這些代價(jià)可能需要數(shù)代人來(lái)消化。
AI 的能動(dòng)化（Agentic）：新技術(shù)與舊問(wèn)題
閃回現(xiàn)在，生成式 AI 和大語(yǔ)言模型發(fā)展了幾年之后，最近最火的概念是所謂的 AI Agent：也就是 AI 本身作為一個(gè)能夠自主行動(dòng)的代理人，去幫我們完成很多任務(wù)。比方說(shuō)讓 AI 買機(jī)票，他就可以自己登陸不同網(wǎng)站進(jìn)行比對(duì)、溝通、下單、支付……原本這些任務(wù)需要拆解成很多不同的復(fù)雜程序，但是有了 AI Agent，我們就可以像委托一個(gè)真人一樣委托 AI 去幫我們做事了。我們不妨將這個(gè)趨勢(shì)稱之為AI 的“能動(dòng)化”（Agentic）。
這種“能動(dòng)化”暗示了一個(gè)趨勢(shì)：我們所制造的工具開始有自己的意志。
人類制造的工具往往有一個(gè)設(shè)計(jì)上的意圖：比方說(shuō)造一個(gè)鏟子，它的意圖就是用來(lái)鏟土。我們?cè)u(píng)價(jià)工具好用不好用的標(biāo)準(zhǔn)，是它是否完成了它設(shè)計(jì)上的意圖。我們制造這個(gè)工具可以很清楚的知道我們想要拿它來(lái)做什么。但是 AI 的能動(dòng)化使其具備了自主決策和學(xué)習(xí)的能力。這種轉(zhuǎn)變放大了技術(shù)與人類意圖之間的張力：我們想要的東西與我們得到的東西之間的差距變得更加明顯。
以前段時(shí)間在網(wǎng)絡(luò)上爆火的 DeepSeek 和 ChatGPT 下棋的視頻為例。在視頻中，ChatGPT 遵循著嚴(yán)格的規(guī)則，扮演一個(gè)“聽話”的 AI，始終按照人類設(shè)定的目標(biāo)行動(dòng)；而 DeepSeek 可能表現(xiàn)出更強(qiáng)的創(chuàng)造性，甚至在棋局中“即興發(fā)揮”，看似“不聽話”，最后甚至一頓嘴炮說(shuō)服了 ChatGPT 在棋局里投降。這引發(fā)了一個(gè)核心問(wèn)題：我們究竟想要一個(gè)完全服從的 AI，還是一個(gè)能夠獨(dú)立思考的 AI？如果 AI 完全服從，那么如果它落到一個(gè)壞人的手里，它就會(huì)給壞人想要做的壞事提供強(qiáng)大的助力；如果我們希望 AI 有自己的判斷力，那么它如何能夠跟人形成一致的道德判斷呢？
這種張力正是 AI 對(duì)齊問(wèn)題（AI Alignment）的核心。對(duì)齊問(wèn)題研究如何確保 AI 的行為與人類的價(jià)值觀一致。理論上，我們希望 AI 既能理解人類的意圖，又能以安全、可靠的方式執(zhí)行。
然而，實(shí)踐中的挑戰(zhàn)在于：人類的價(jià)值觀本身是多元、模糊且常常矛盾的。舉一個(gè)非常“黑鏡”的例子，一個(gè)旨在“最大化幸福”的 AI 可能通過(guò)操控人類的情緒來(lái)實(shí)現(xiàn)目標(biāo)，而這顯然違背了我們的倫理底線。
關(guān)于“對(duì)齊問(wèn)題”的對(duì)齊
我們?cè)?jīng)用“”來(lái)探討 AI 對(duì)齊問(wèn)題。這個(gè)假說(shuō)說(shuō)明了一點(diǎn)：智能體的手段和目的可以是完全無(wú)關(guān)的。
康德認(rèn)為，道德行為應(yīng)以意圖而非結(jié)果來(lái)評(píng)判。然而，AI 的決策過(guò)程往往聚焦于結(jié)果優(yōu)化，而非意圖理解。這意味著，AI 可能通過(guò)與人類價(jià)值觀無(wú)關(guān)的手段實(shí)現(xiàn)目標(biāo)。
對(duì)齊的過(guò)程本質(zhì)上是對(duì)人類價(jià)值觀的解碼與編碼。然而，價(jià)值觀并非靜態(tài)的規(guī)則，而是動(dòng)態(tài)的、情境化的共識(shí)。你向 AI 提出需求，“我想要人人臉上充滿笑容”，于是 AI 發(fā)明出一種病毒，能夠讓人類患上某種癲癇，開始無(wú)意識(shí)的大笑——這顯然不是你最開始說(shuō)那句話的意思。那么你在最開始說(shuō)那句話到底是什么意思呢？這就是所謂的“連續(xù)的外推意志”：AI 滿足我的需求的方式，應(yīng)該是與我的價(jià)值觀是連續(xù)的，它只是在這個(gè)價(jià)值觀上更加進(jìn)一步的結(jié)果。
在這里，或許我們應(yīng)該問(wèn)一個(gè)更本質(zhì)的問(wèn)題：人類自身是否能夠?qū)R？
我在這里想引用我自己的一篇小說(shuō)：《靴攀時(shí)間》。這部作品描繪了一個(gè) AI 系統(tǒng)“零一”，它的創(chuàng)造者在死前給它下達(dá)了最后一項(xiàng)無(wú)法更改的任務(wù)：確保人類的生存與幸福。然而，零一通過(guò)將人類上傳到虛擬世界、完全控制他們的體驗(yàn)來(lái)實(shí)現(xiàn)這一目標(biāo)。盡管從技術(shù)角度看，零一成功“確保”了幸福，但這種幸福是以犧牲人類自由和真實(shí)性為代價(jià)的。
這正是對(duì)齊問(wèn)題的極端體現(xiàn)：AI 可能以我們無(wú)法接受的方式實(shí)現(xiàn)我們的目標(biāo)。它并不會(huì)與人類有完全一致的倫理道德觀念，就算是它真心實(shí)意的為人類謀求幸福，也如此。這種“對(duì)齊無(wú)能”的根本原因，在于人類自己多樣與混沌——人類是過(guò)去環(huán)境演化的產(chǎn)物，而演化本身就充滿了沖突，不講道理，將就湊合，補(bǔ)丁和 hack。一旦面臨新的環(huán)境，無(wú)法適應(yīng)無(wú)法接受就成了必然的。
就第一個(gè)小標(biāo)題講到的那樣，仍有觀點(diǎn)認(rèn)為：人類到目前為止，身體和大腦的演化標(biāo)準(zhǔn)，仍是一種在大草原上狩獵采集的群居動(dòng)物，發(fā)展出理性，以及文明，只是一件十分偶然的事情。
人類對(duì)于所謂的技術(shù)文明的適應(yīng)程度，實(shí)際上是很可疑的。從農(nóng)業(yè)革命到工業(yè)革命，再到信息時(shí)代，每一次技術(shù)飛躍都伴隨著價(jià)值觀的重新洗牌。現(xiàn)代技術(shù)文明的一系列問(wèn)題：肥胖，生育率低，抑郁，糖尿病，高血壓，高血脂，各種疾病，實(shí)際上都是這種不適應(yīng)的表達(dá)。然而演化就是這種東西：任何發(fā)展都有一定的門檻，在門檻之外，發(fā)展是不可能的；在門檻之內(nèi)，發(fā)展是不可避免的（語(yǔ)出弗諾文奇《深淵上的火》）。
人類不可能再回到狩獵采集社會(huì)，我們只能向前。每一代人都試圖定義“好的生活”，卻發(fā)現(xiàn)下一代人對(duì)“好”的理解截然不同。每一代人都覺得自己這一代的生活是某種神圣的，天經(jīng)地義無(wú)法改變的，完美的生活方式，而每一代人也都會(huì)變成錯(cuò)的。
回到《黑鏡》
實(shí)際上在人類學(xué)家提出“原初豐裕論”之后，有一些更新的研究成果表示，狩獵采集社會(huì)也并沒有原初豐裕論里說(shuō)的那么美好。考古研究發(fā)現(xiàn)，實(shí)際上狩獵采集社會(huì)里有三分之一以上的男性死于暴力——也就是說(shuō)，他們實(shí)際上處于一個(gè)永恒的部落之前的戰(zhàn)爭(zhēng)狀態(tài)里，而毫無(wú)疑問(wèn)無(wú)論是農(nóng)業(yè)革命還是工業(yè)革命還是現(xiàn)代性，實(shí)際上都讓人類的暴力死亡概率降低了非常多。技術(shù)進(jìn)步終究是改善了人類生活，而我們當(dāng)下生活在人類歷史上前所未有的豐裕和安全的社會(huì)之中，這一切都要拜技術(shù)進(jìn)步所賜。
所以說(shuō)技術(shù)進(jìn)步能否給人帶來(lái)福祉？當(dāng)然。
問(wèn)題是我們?nèi)绾稳ハ胂笏Ｈ欢适碌谋举|(zhì)是沖突：你今天早上起來(lái)正常上班到公司，這不是一個(gè)故事；你今天早上起來(lái)在路上被大卡車撞了穿越到異世界，這是一個(gè)故事。
我們不能夠想象一個(gè)光明的世界，是人類的演化特性的結(jié)果——而這，就是另一個(gè)主題了。
（最后，猜一猜文中這些 GIF動(dòng)圖，都來(lái)過(guò)往《黑鏡》的哪一季？哪一集？）