Anthropic CEO谈AI模型权重开放：强调安全测试重要性
Anthropic CEO Dario Amodei就开放权重AI模型的争议发表观点，强调安全性并呼吁加强模型安全测试。
Anthropic CEO谈AI模型权重开放：强调安全测试重要性
7月28日，Anthropic CEO Dario Amodei就近期关于“开放权重”AI模型的讨论作出回应。
Amodei指出，Anthropic从未主张禁止开放权重AI模型，并认为这种保护主义禁令无法解决国家安全问题。
他强调，开放权重模型中不包含危险功能的部分应被视为“公共资产”，对开发者和研究人员有益。然而，Amodei也对模型安全性表示担忧，认为强大的模型可能被用于制造大规模杀伤性武器。
因此，他倡导对所有模型实施强制性安全测试，并反对工业规模的蒸馏操作，强调发布前测试的重要性。
Amodei的立场与包括英伟达、Meta、微软等20多家科技公司签署的《开放权重与美国AI领导力》公开信有所不同。