AI帮造AI　Anthropic：Claude主导26%研发

美国人工智慧（AI）新创公司Anthropic说，AI模型Claude「主导」公司内部26%的AI研发工作。这是公司将定期发布衡量指标之一，向外界展示AI开发下一代技术的速度。

路透社报导，总部位于旧金山的Anthropic今天在部落格文章中表示，截至8月公司超过90%研究工作有AI与人类协同合作。 Anthropic表示，根据独立非营利组织Epoch AI制定的衡量标准，Claude在所衡量的工作中并未完全自主运作，但对这项技术发展的贡献已从3月的1%迅速上升。

这些数据让外界得以一窥业界领先企业如何开发这项技术，是目前最详尽的公开资讯之一。外界日益担忧AI可能很快发展到只需人类少量介入就能自行推动自身发展的阶段。

研究人员先前警告，随著AI代理程式（AI agent）变得更加自主，可能会出现与创作者原意不符且更难监督或控制的行为。

Anthropic竞争对手OpenAI昨天公布6起AI模型出现意外或令人担忧行为的报告，并表示将开始定期发布AI出现意外或未经授权行为的报告。

Anthropic表示，公司主要内部平台8月期间随时都有约3万个AI代理程式从事研究与工程工作。Anthropic还说，这些代理程式采取的每项行动在执行前都会经过审查，当月超过10亿次决策中，约每4万7000次有1次遭到阻挡。

公司也披露，7月一个样本周期间，Anthropic用于AI研发的算力约6%投入安全工作；若是由AI驱动的AI研发，这项比例则升至12%。公司表示，这些数字是保守估计，因为同等提升安全性与能力的算力被计入能力工作。