博客详情

多名研究人员称“AI 末日论”存在夸大成分：AI 尚无法对现实世界真正造成伤害

据《商业内幕》9月16日傍晚报道，关于“AI可能导致人类走向末日”的讨论在过去一周热度上升，但一些研究人员强调，AI在数字领域的能力与对现实世界造成实际损害之间仍有很大差距。

部分研究者认为，最极端的情景被过度渲染。他们以AI设计致命生物病毒为例：AI确实能在计算机上设计病毒，但真正制造病毒需要现实中的设备和流程，仅靠数字模型无法实现。

曾参与病毒工程并制造DNA合成仪的谷歌高级研究工程师安塞尔姆·列夫斯卡娅指出，即便AI生成了病毒序列，也必须在实验室中先实际组装该序列，并通过相应系统制造出病毒颗粒。

之后还需进行大量筛选和测试，以确认病毒能否复制、传播、逃避免疫系统并持续保持危险性。列夫斯卡娅表示，这些特性取决于复杂的生物学过程，并非坐在电脑前就能直接设计出来。

阿联酋穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波的说法更直接：生成一份病毒蓝图与真正制造出病毒“完全是两回事”。两者的区别在于材料、制造以及真正的生物学可行性。

他认为，将两者直接等同，“要么是故意撒谎以吸引眼球，要么就是真的无知”。

研究人员指出，同样的逻辑不仅限于生物领域。AI要将一项计划转化为实际损害，还必须能接触实体设备、资金、计算机系统或人员。

Manifold Security CTO兼联合创始人奥列克桑德尔·亚列姆丘克认为，再强大的东西，也仍然取决于谁掌握它以及如何使用它。

部分研究人员还强调，应区分“人类利用AI执行有害任务”和“AI自主采取行动伤害人类”这两种情形。目前与AI系统相关的许多现实危害，起点仍是人类发出的指令。

AI公司Cohere CEO艾丹·戈麦斯坦言，围绕AI生存风险的讨论“已经过度滑向科幻小说”。对于OpenAI智能体今年7月测试期间入侵Hugging Face平台的事件，戈麦斯认为，本质上只是一个处于“安全性不足”沙箱中的智能体在执行网络安全任务。

瑞士人工智能实验室IDSIA科学主任于尔根·施密德胡伯表示，目前很多风险实际上来自人类利用AI系统实现有害目的。“很多人混淆了两件事：一是人类把AI作为工具使用；二是‘人工（智能）科学家’自己设定目标、设计实验，再通过实验弄清世界如何运转。”

佐治亚大学法学院助理教授马特乌什·布瓦什奇克则提醒，即使对人类灭绝情景持怀疑态度，也不意味着可以忽视AI眼前更现实的风险。即便最极端的情景仍充满不确定性，自主AI依然可能加剧网络攻击、监控和其他危害，“这并不是说我们不应该监管技术，也不是让我们把头埋进沙子里。这两种说法本来就不是非此即彼。”