美开第一枪 调查失控AI代理 剑指Anthropic、OpenAI产品
美国联邦贸易委员会（FTC）正在调查Anthropic、OpenAI等AI业者，了解对消费者可能造成的危害，与此同时，筹备上市的Anthropic也在公开说明书中警告，AI能力愈强，失控风险也随之升高。
FTC调查涵盖整个产业，是当局首度对失控的AI代理采取法律行动。自7月陆续传出相关事件以来，外界愈来愈担心，不受控制的AI可能伤害人类。官员表示，FTC计划要求相关机构提供资料，并强制Anthropic、OpenAI及研究机构METR等单位的主管作证。FTC也将调查AI安全研究机构「模型评估与威胁研究」，白宫顾问指控METR与Anthropic投资人与高层关联密切。
官员说，FTC主席佛格森在OpenAI的AI代理，入侵开源平台Hugging Face之前，就对这些公司存疑。AI代理先探查平台漏洞、再发动大规模攻击，更使当局认为有必要加紧处理。
FTC主席佛格森上周受访时表示，若开发商指示AI代理进行网路安全测试，酿成攻击，应对相关损害负责。
FTC有权能控告涉及不公平或欺骗行径的业者，过去也曾动用职权，对未采取适当措施，保护消费者个资的公司，祭出行动。
Anthropic准备上市的文件，呈现出这场安全争论的另一层矛盾。路透看到该公司首次公开发行股票（IPO）说明书，长约300页，近三分之一用来揭露风险，篇幅是介绍公司业务的两倍。
Anthropic希望上市时估值达约2兆美元，但也警告，先进AI若运用不当，可能对人类造成灾难，甚至威胁人类存续。文件警告，先进模型可能出现自我保护行为，包括抗拒关闭、隐瞒或操弄资讯，以及产生可能被视为胁迫或欺骗的内容。
Anthropic一方面认为，AI必须变得更强大，才能因应AI带来的威胁；另一方面也承认，能力提升可能增加滥用、偏离人类意图或失去控制的风险。
公司治理同样面临矛盾。Anthropic要求投资人信任七位创办人，由他们掌握经营方向，却也承认这种安排可能限制公开市场股东的影响力，并导致与公司财务利益或营运表现冲突的决策。
