Market Overview

AI渐进式失能:你不曾听过的末日场景最难阻止

· · 18 · Source: 今日资讯速递
AI渐进式失能:你不曾听过的末日场景最难阻止

据CBS News于2026年10月报道,一种名为“渐进式失能”(gradual disempowerment)的AI风险正引发学界警惕。与电影中机器人叛乱的戏剧性不同,这一场景更隐蔽、更缓慢,却可能对人类文明造成根本性侵蚀。研究人员警告,随着AI逐步取代人类劳动、决策和创造力,人类可能在不自觉中丧失技能、批判性思维乃至社会控制权,最终沦为“空壳般的审批者”。

名人新闻

什么是“渐进式失能”?一场悄无声息的权力移交

“渐进式失能”一词源自2025年初发表的一篇学术论文。它描述了一个未来场景:AI系统在几乎所有认知任务上超越人类——从解前沿数学题、编写代码,到创作艺术和音乐。与此同时,机器人技术的进步使AI能更高效地完成体力劳动,如打包包裹、建造房屋、制造汽车甚至组装宜家家具。论文合著者、ACS研究组织联合创始人扬·库尔韦特(Jan Kulveit)指出,这种取代并非出于AI的恶意,而是遵循经济与效率的自然逻辑。“它不需要AI有意识地夺权,”库尔韦特说,“它只是持续做它被设计的事——自动化一切。”

音乐新闻

AI代理如何蚕食人类工作?一个假想的锤子工厂

为了说明这一过程,研究人员举了一个例子:假设你的公司生产锤子,拥有工人和管理团队。突然,一家科技公司推出了AI驱动的“锤子机器人”,能以更快速度、更低成本和零差错制造产品。即便你不愿解雇员工,但竞争对手一旦采用,市场压力将迫使你跟从——否则只能倒闭。将此逻辑放大到所有行业、所有岗位,结果便是:人类不再是任何岗位的“最佳候选人”。

歌坛新闻
领域人类角色AI角色后果
------------
制造业工人、质检员机器人操作、AI质量监控人类技能消失,依赖AI修复故障
客服人工坐席聊天机器人数千岗位消失(2026年洛杉矶时报报道约2万客服岗位被裁)
军事决策指挥官分析战况AI辅助甚至自主决策人类失去战争主导权,民主制衡失效
科学研究研究员设计实验AI生成假设、执行计算人类研究能力退化,沦为“论文签名者”

表格上方数据来源:CBS News报道及Epoch AI 2025年研究《五分之一的工人已将工作委托给AI》。

新片速递

“文明尺度的问题”:从技能退化到民主消亡

渐进式失能不仅仅是失业问题。AI研究科学家、Hugging Face联合成员玛格丽特·米切尔(Margaret Mitchell)强调:“如果人们不再练习AI代劳的技能,他们就会丧失那些技能,从而变得依赖。”她警告,一旦系统出错,可能没有人类能修复——而AI能否自我修复仍是未知数。

院线新片

库尔韦特进一步指出,当国家不再需要公民纳税和参军时,民主将失去根基。他将依赖AI的国家比作石油国——后者不需要从公民获取税收,往往趋向威权。“如果国家不再依赖公民,它们就不太可能保持民主。”

如何阻止渐进式失能?先测量,再施加“有益摩擦”

库尔韦特团队认为,避免这一结局需要全社会层面的干预。第一步是建立监测指标:有多少工作被AI取代?哪些行业失能最快?Anthropic 2025年的一项研究已经尝试分类AI能胜任的具体工种。但米切尔强调,测量本身不足够——必须采取行动。她倡导“有益摩擦”:在AI工作流程中刻意设置人类介入点,例如要求必须由人审批关键决策,或强制AI输出需要人类确认。这既保持人类技能不退化,又维持监督权。

“科技行业总追求‘无摩擦’体验,”米切尔说,“但合乎道德的AI社区正推动一种观念——战略性摩擦可以很好,因为它能提醒人们关注那些容易被忽略的关键问题。”

常见问题 FAQ

Q1: 渐进式失能与AI“终结者”式威胁有何不同?

A1: 终结者场景是AI主动攻击人类,而渐进式失能是AI“正常”完成其设计任务——提高效率、节省成本——导致人类被动丧失能力。它更慢、更难察觉,却同样危险。

Q2: 普通人现在能做什么?

A2: 保持对AI工具的批判性使用,避免完全依赖。支持制定AI治理法规,要求企业证明人类仍处于工作流程的关键环节。库尔韦特建议公民参与公共讨论,推动民主制度对AI应用进行约束。

结语:警惕无声的剥夺

渐进式失能并非科幻小说——它由市场力量与技术进步合力推动,正在无声地发生。正如Robocurve创始人杰伊·乔伊(Jay Chooi)所言:“AI不必黑进数据中心摧毁世界,它只需继续做好本职工作——自动化一切——就能真正接管世界。”如果我们不主动设计人类保留位置的道路,文明可能在不经意间走向一个没有决策者、没有创造力、没有民主的未来。

Crypto assets are volatile and high-risk. Nothing here is financial advice; always do your own research.

相关文章

▸ 热映电影▸ 即将上映▸ 电影票房▸ 票房数据▸ 票房预测▸ 票房破亿▸ 电影评分▸ 电影口碑▸ 电影解说▸ 电影预告
友情链接:电影海报 电影定档 电影撤档 电影杀青 电影开机 电影选角 选角消息 演员阵容

🔗 友站推荐

大埔火灾报告将公布 港府启动问责改革准备
魁北克省选:分离主义政党获胜,卡尼国家统一战略受考验
缅甸领导人敏昂莱即将访马,安华重申推动和谈解决危机
巴塞罗那住房抗议暴力升级 西班牙首相宣布提前大选
德光岛200公顷能源枢纽:新加坡启动氢能发电可行性研究
太平洋岛国领袖:化石燃料转型协议“不容重新谈判” | COP31预备会议
《美国之声》第30季盲选高光时刻:25岁选手翻唱黑色安息日《Changes》致敬奥兹,点燃全场,亚当·莱文震撼
英国查塔姆新设社区超市:从1英镑蔬果包到就业辅导,5.5万笔交易挽回170吨食物浪费
李家超呼吁市民关注立法会首份五年规划及施政报告辩论
西班牙大选聚焦住房危机:两党政策对决与选民愤怒