Anthropic CEO 提议引入“银行式监管”:专家称评估员无权叫停 AI,你不能既当运动员又当裁判
9 月 17 日,据 CNBC 报道,Anthropic CEO Dario Amodei 提议将独立第三方安全评估员长期嵌入前沿 AI 公司,赋予其接近内部风险团队的访问权限,并在有限删减前提下自主发布调查结果的权力。他明确援引银行业嵌入式监管作为先例。 不过,多位银行业监管专家和 AI 评估从业者指出,这一方案缺乏银行监管者所拥有的强制执行权,评估员无法阻止模型的训练或发布,两者的实际权力不可同日而语。 此前,Anthropic 前研究员 Jacob Coxon 辞职并警告,前沿实验室正竞相追逐可能失控的系统。Amodei 在上周末发表的长文中提出上述计划,并承诺 Anthropic 将向…
以上为资讯摘要,完整内容请访问原文网站。
阅读原文 →