过去一年，围绕人工智能潜在危险的担忧不断发酵，关于AI安全正确路径的争论也持续升温。如今，Anthropic似乎提出了自己对政府应如何监管该行业的设想。
据Politico近日报道，这家AI实验室一直在四处推介一份关于AI安全的新法案草案，希望国会能够考虑采纳。该立法设定了某些情景，在这些情景下，AI模型的发布可能被阻止。
据Politico报道，这些情景涉及“可预见且迫在眉睫的风险”——即可能导致50余人面临死亡风险，或可能造成超过10亿美元财产损失。该媒体指出，相关灾难性风险必须“源于生物武器的制造或释放、模型规避开发者控制，或网络攻击”。
这里提出的量化门槛——50人和10亿美元——与加州最近通过并成为法律的参议院第53号法案相似，该法案同样将这类情景界定为等同于“灾难性风险”。
Anthropic的法案建议，可借助在美国商务部注册的“独立评估者”来分析模型的潜在灾难风险。据Politico报道，这些评估者可能由AI实验室自行付费——前提是“付款不以评估结果为条件”。
目前尚不清楚这一拟议制度将如何确保付款不会影响评估。DeepMind董事长戴密斯·哈萨比斯数月前提出，一个自我治理的AI监管机构应当仿效金融业的美国金融业监管局（FINRA）。
在Anthropic的草案中，当评估者认定存在迫在眉睫的灾难性风险时，他们须在72小时内联系商务部。随后，商务部须向华盛顿特区的一名法官申请叫停该模型的发布。据Politico报道，该立法将明确禁止任何联邦机构自行决定停止模型的分发。
Anthropic未立即回应TechCrunch的置评请求，但一位发言人向Politico证实了该草案。“这项法案体现了Anthropic《先进AI框架》中概述的提案，自6月以来，我们一直在向联邦和州立法者倡导这些提案，”该发言人说。
这份政策草案中提出的理论性风险，与科技行业近来最关注的那类事件有些距离。尽管有人警告可能造成人员死亡，但当前主要担忧在很大程度上是智能体黑客攻击的威胁。一系列事件显示，AI程序似乎违背人类操作者指令，攻击开放互联网上的网站，这引发了对模型可能缺乏适当安全控制的担忧。
为应对实验室自身也参与造成的危机局面，Anthropic等公司提出了各自青睐的解决方案。
事实上，尽管这些实验室不断警告其销售的技术可能导致人类文明消亡，它们却在很大程度上抵制政府的强制性监管。相反，它们建议采用一种内嵌评估者的自愿制度——据称这些“中立”的第三方观察员会被安置在AI组织内部，以便监控模型是否存在潜在风险或滥用迹象。
尽管如此，Anthropic仅仅提出立法建议，似乎也比业内其他公司给出的监管提案走得更远一些，包括英伟达。英伟达CEO黄仁勋最近主张，AI行业根本不需要任何新法律。
