本文无剧透，问候然食用

《黑镜》第七季的评价有所回升，在于回到了它的基本要义：念念想实验——工夫如何改变生活，以及被工夫改变了的生活如何去往一个之前咱们无法瞎想的畏俱之地。

看过之后，我却并不想要扣问《黑镜》在最新的一季里给咱们带来的哪些新的念念想实验，谛视扣问哪些工夫的危害，或者对每一集作念出具体的评价——在我看来这些内容已经在之前的《黑镜》干系著述中被反复扣问，成了夏炉冬扇。

此次，让我感深嗜的，毋宁说是这个主题的反题（antithesis）：今天的咱们，还能否瞎想一个，工夫给东说念主带来福祉的光明天下？

原初丰裕论：工夫与幸福的反比

步调会工夫的复杂影响，咱们先不错回溯得远一些，去到东说念主类历史上的一次紧要工夫飞跃——农业创新。

简陋一万年前，东说念主类从狩猎汇集社会过渡到农业社会，这一行变被认为是精良的基石。干系词，“原初丰裕论”（Original Affluent Society）提倡了一种颠覆性的不雅点：狩猎汇集社会的生活可能比农业社会愈加幸福。

根据考古凭证和对现有原始社会的东说念主类学不雅察，在狩猎汇集社会中，东说念主类每天只需消耗 3-5 小时取得食品，剩余时期用于顶住、休息和创造。他们的饮食各样，体魄健康，且社会结构较为对等。从演化角度，东说念主类在狩猎汇集社会（旧石器时间）生活了快要一百万年。那么势必的，东说念主类的生计情景和心智已经被演化塑酿成安妥狩猎汇集社会的情景（譬如说“邓巴数”即是一个旧石器时间狩猎汇集社会部落的平均东说念主数。在演化激情学里有一个术语叫作念“旧石器时间心智”），那么在插足最近一万年的农业社会，势必会酿成各式各样的不安妥。

东说念主类插足农业社会并不是因为早期农业社会能提供更好的个体福祉，而是早期农业社会能够撑抓更多的东说念主口，转过来隐藏了狩猎汇集社会。这是一种典型的“同态压力”。农业创新带来了食粮的褂讪供应，但也引入了劳动强度增多、养分单一、社会分层和疾病传播等问题。历史学家尤瓦尔·赫拉利（Yuval Harari）在《东说念主类简史》中指出，农业创新可能是“东说念主类最大的诞妄”，因为它葬送了个体福祉以换取种群膨胀。

农业创新讲解了少许：工夫的跳跃并毋庸然等同于个体幸福的普及。插足农业社会，反而让东说念主类个体的“生活质地”裁汰了。工夫可能在处分某些问题的同期，创造出新的、更复杂的毁坏。这种款式在当代工夫中反复出现。举例，互联网的发明联络了大众，却也带来了信息过载、诡秘侵蚀和激情健康危急。

农业创新的遗产教唆咱们，工夫的发展每每伴跟着预见以外的代价，而这些代价可能需要数代东说念主来消化。

AI 的能动化（Agentic）：新工夫与旧问题

闪回当今，生成式 AI 和大谈话模子发展了几年之后，最近最火的办法是所谓的 AI Agent：也即是 AI 本人手脚一个能够自主行动的代理东说念主，去帮咱们完成许多任务。譬如说让 AI 买机票，他就不错我方登陆不同网站进行比对、相似、下单、支付……正本这些任务需要拆解成许多不同的复杂要津，可是有了 AI Agent，咱们就不错像委派一个真东说念主一样委派 AI 去帮咱们作念事了。咱们不妨将这个趋势称之为AI 的“能动化”（Agentic）。

这种“能动化”清晰了一个趋势：咱们所制造的器用启动有我方的意志。

东说念主类制造的器用每每有一个遐想上的意图：譬如说造一个铲子，它的意图即是用来铲土。咱们评价器用好用不好用的规范，是它是否完成了它遐想上的意图。咱们制造这个器用不错很澄莹的知说念咱们想要拿它来作念什么。可是 AI 的能动化使其具备了自主方案和学习的才略。这种鼎新放大了工夫与东说念主类意图之间的张力：咱们想要的东西与咱们得到的东西之间的差距变得愈加显然。

以前段时期在汇集上爆火的 DeepSeek 和 ChatGPT 棋战的视频为例。在视频中，ChatGPT 解任着严格的律例，上演一个“听话”的 AI，恒久按照东说念主类设定的讨论行动；而 DeepSeek 可能阐扬出更强的创造性，致使在棋局中“随心施展”，看似“不听话”，临了致使一顿嘴炮劝服了 ChatGPT 在棋局里笃信。这激勉了一个中枢问题：咱们究竟想要一个澈底谨守的 AI，如故一个能够闲散念念考的 AI？淌若 AI 澈底谨守，那么淌若它落到一个坏东说念主的手里，它就会给坏东说念主想要作念的赖事提供浩瀚的助力；淌若咱们但愿 AI 有我方的判断力，那么它如何能够跟东说念主形成一致的说念德判断呢？

这种张力恰是 AI 对都问题（AI Alignment）的中枢。对都问题磋磨如何确保 AI 的行动与东说念主类的价值不雅一致。表面上，咱们但愿 AI 既能深远东说念主类的意图，又能以安全、可靠的神气实施。

干系词，实践中的挑战在于：东说念主类的价值不雅本人是多元、费解且时常矛盾的。举一个卓绝“黑镜”的例子，一个旨在“最大化幸福”的 AI 可能通过操控东说念主类的情感来终了讨论，而这显然抵触了咱们的伦理底线。

对于“对都问题”的对都

咱们也曾用“”来探讨 AI 对都问题。这个假说讲解了少许：智能体的妙技和办法不错是澈底无关的。

康德认为，说念德行动应以意图而非扫尾来评判。干系词，AI 的方案经过每每聚焦于扫尾优化，ag百家乐可以安全出款的网站而非意图深远。这意味着，AI 可能通过与东说念主类价值不雅无关的妙技终了讨论。

对都的经过施行上是对东说念主类价值不雅的解码与编码。干系词，价值不雅并非静态的律例，而是动态的、情境化的共鸣。你向 AI 提倡需求，“我想要东说念主东说念主脸上充满笑颜”，于是 AI 发明出一种病毒，能够让东说念主类患上某种癫痫，启动意外志的大笑——这显然不是你最启动说那句话的意旨真谛。那么你在最启动说那句话到底是什么意旨真谛呢？这即是所谓的“一语气的外推意志”：AI 欢乐我的需求的神气，应该是与我的价值不雅是一语气的，它仅仅在这个价值不雅上愈加进一步的扫尾。

在这里，大略咱们应该问一个更施行的问题：东说念主类自身是否能够对都？

我在这里想援用我我方的一篇演义：《靴攀时期》。这部作品描述了一个 AI 系统“零一”，它的创造者在死前给它下达了临了一项无法转换的任务：确保东说念主类的生计与幸福。干系词，零一通过将东说念主类上传到假造天下、澈底领域他们的体验来终了这依然营。尽管从工夫角度看，零一告成“确保”了幸福，但这种幸福是以葬送东说念主类目田和确凿性为代价的。

这恰是对都问题的极点体现：AI 可能以咱们无法收受的神气终了咱们的讨论。它并不会与东说念主类有澈底一致的伦理说念德不雅念，就算是它由衷实意的为东说念主类谋求幸福，也如斯。这种“对都窝囊”的根柢原因，在于东说念主类我方各样与辩说——东说念主类是以前环境演化的产品，而演化本人就充满了毁坏，不讲深嗜，免强拼凑，补丁和 hack。一朝濒临新的环境，无法安妥无法收受就成了势必的。

就第一个小标题讲到的那样，仍有不雅点认为：东说念主类到咫尺为止，体魄和大脑的演化规范，仍是一种在大草原上狩猎汇集的群居动物，发展出感性，以及精良，仅仅一件十分无意的事情。

东说念主类对于所谓的工夫精良的安妥进程，施行上是很可疑的。从农业创新到工业创新，再到信息时间，每一次工夫飞跃都伴跟着价值不雅的从头洗牌。当代工夫精良的一系列问题：肥美，生养率低，抑郁，糖尿病，高血压，高血脂，各式疾病，施行上都是这种不安妥的抒发。干系词演化即是这种东西：任何发展都有一定的门槛，在门槛以外，发展是不可能的；在门槛之内，发展是不可幸免的（语出弗诺文奇《山地上的火》）。

东说念主类不可能再回到狩猎汇集社会，咱们只可向前。每一代东说念主都试图界说“好的生活”，却发现下一代东说念主对“好”的深远截然有异。每一代东说念主都认为我方这一代的生活是某种圣洁的，天经地义无法改变的，好意思满的生活神气，而每一代东说念主也都会变成错的。

回到《黑镜》

施行上在东说念主类学家提倡“原初丰裕论”之后，有一些更新的磋磨扫尾清晰，狩猎汇集社会也并莫得原初丰裕论里说的那么好意思好。考古磋磨发现，施行上狩猎汇集社会里有三分之一以上的男性死于暴力——也即是说，他们施行上处于一个不灭的部落之前的战役情景里，而毫无疑问不管是农业创新如故工业创新如故当代性，施行上都让东说念主类的暴力死亡概率裁汰了卓绝多。工夫跳跃终究是改善了东说念主类生活，而咱们当下生活在东说念主类历史向前所未有的丰裕和安全的社会之中，这一切都要拜工夫跳跃所赐。

是以说工夫跳跃能否给东说念主带来福祉？虽然。

问题是咱们如何去瞎想它。干系词故事的施行是毁坏：你今天早上起来浅薄上班到公司，这不是一个故事；你今天早上起来在路上被大卡车撞了穿越到异天下，这是一个故事。

咱们不成够瞎想一个光明的天下，是东说念主类的演化特点的扫尾——而这，即是另一个主题了。

（临了，猜一猜文中这些 GIF动图，都来过往《黑镜》的哪一季？哪一集？）

作家：邓念念渊

剪辑：卧虫

封面图起头：Netflix网站

内文插图起头：Giphy