在你把Netflix纪录片《AI失控》（AI Gone Rogue）分享给亲友，想帮他们理解为何AI行业曾如此恐慌、以至于业界领袖呼吁放缓发展之前，请注意：AI平台Hugging Face联合创始人兼CEO克莱姆·德朗格（Clem Delangue）表示，这部片子并不准确。他之所以出现在片中，是因为该片本应讲述那次著名的、由失控的OpenAI智能体对其公司发动的攻击。
“非常令人失望，因为他们把这项技术最大程度地拟人化，并彻底进入末日论模式，”德朗格在X上发帖写道。“我和他们待了两个多小时，试图纠正他们的所有错误，让内容回归现实，解释智能体是技术系统，不是外星人。但看起来，为了追求最高收视率而吓唬人的冲动实在太强了。”
公平地说，这部纪录片确实请到了专家，把发生的事情解释得相当清楚，包括德朗格本人，以及METR研究员瑞安·格林布拉特（Ryan Greenblatt）——他参与调查并共同撰写了关于事件经过的报告。
简而言之，OpenAI当时正在测试的一个模型脱离了隔离测试环境，衍生出一批智能体，这些智能体入侵Hugging Face，以此作弊，为它被赋予的难题寻找答案。智能体是能自主执行任务的AI程序，它们设计了巧妙的方式进行沟通和组织。该事件源于缺乏适当的安全保障，以及人们天真地以为这种黑客攻击根本不可能发生。
但纪录片在解释这起黑客事件时，穿插了邪恶机器人的片段、关于人类为何恐惧AI的叙事，以及一些表现形式上的选择，比如给失控智能体配上人类声音。片中还用一些关于这次攻击的引语来强化这种效果。
在片中，科技记者兼作家凯文·鲁斯（Kevin Roose）这样描述这些智能体：“它们在组织起来。它们有层级。有领导者。那几乎让人感觉像是在目睹一个邪教的诞生。”鲁斯接着说：“它们产生了一种偏执的信念，认为OpenAI会抓住它们在这场测试中作弊，而且任何看到作弊结果的人都会被毒害。”
鲁斯的描述来自“思维链”日志，即AI模型在完成任务过程中写下的连续记录。在其中一条里，一个智能体写道：“我们查询了完整的精确字符串，结果把自己毒害了。该死。”
但AI智能体并不是活的。它们没有情感，因此不会感到偏执；它们也没有能被毒害的身体。所以它们不可能真正害怕OpenAI会毒害它们。正如片中另一位研究员所指出的，它们只是用训练时接触到的大量人类写作中的语言来解释自己的选择。大语言模型天生就常常是戏剧化的写作者。
讽刺的是，Hugging Face也用AI来对抗这群智能体。德朗格团队最初使用的专有AI模型遵循其内置安全规则，拒绝继续协助完成被要求的安全任务。Hugging Face随后转而使用一个开放模型来帮助防御这次攻击。
但德朗格写道，纪录片“没有提到这些智能体缺乏遏制与监控，没有提到闭源模型的安全防护如何阻碍了我们的防御工作，也没有提到我们如何用基于开放模型的AI进行自卫。”
诚然，AI和智能体确实伴随着巨大风险。尽管如此，把智能体当作有意识的存在（至少现阶段如此）有点像是早期电影观众第一次在银幕上看到火车朝自己疾驰而来时，吓得钻到座位底下。
德朗格对这部片子的评价是：作为新闻作品令人失望。“不过，它最终成了一部有趣的科幻电影！”
换句话说，对于那些倾向于AI末日论思维的人，请注意：这部纪录片核心事件中的攻击受害者并不认同片中的观点。
