花旗预见AI将掀企业补漏洞潮 微软:别拿中国当拒设安全规范的挡箭牌
AI模型能力迅速提升,不仅使企业加紧修补资安漏洞,也加深美国科技业和政府对是否放慢开发脚步的分歧。花旗集团执行长范洁恩(Jane Fraser)警告,全球企业正争相加固资安防线;微软AI执行长苏莱曼(Mustafa Suleyman)则主张,不应以中国大陆的竞争压力为由,拒绝建立AI安全规范。
范洁恩周日在纽约举行的卡达经济论坛表示,企业正全力加固各道防线,全球也掀起大规模修补资安漏洞潮,防范日益强大的AI模型助长网路攻击。
Anthropic今年推出Mythos模型时,曾警告这套系统可能开启网路风险的新时代。范洁恩说:「Mythos推出那天,绝不是个好日子。」
Mythos问世后,美国财政部长贝森特和时任联准会(Fed)主席鲍尔曾召集华尔街高层开会,要求金融业者做好准备,强化系统以因应更强大的AI模型。
Google和Anthropic的AI后来也都意外闯入企业系统,使AI安全疑虑升高。Anthropic执行长阿莫戴呼吁放慢AI开发脚步,并宣布引进第三方人员评估模型安全。
高盛集团执行长苏德巍(David Solomon)周日也在论坛上说:「我认为大家都需要深呼吸,放慢一点。」不过,他深信AI不会使人类灭亡,也会继续积极参与AI发展。
苏莱曼则认为,建立安全规范不必拖慢AI进展。他接受CNN节目访问时说:「我不认为我们应该拿中国当做挡箭牌,作为不推动自身AI安全工作的理由。」
微软AI团队上周二发表宣言,提出该部门开发AI的准则,目标是确保未来系统仍由人类掌控。苏莱曼上周也撰文批评Anthropic用来指导Claude模型的部分文件,认为把AI过度拟人化,反而可能增加控制风险。
他表示,AI模型的目标应受以人为本的准则约束,并设下明确安全界线。管制不应被视为坏事,而是建立共同规范和标准,提高AI安全,也不必因此拖慢产业发展。
川普上周六则表示,美国绝不会阻碍或扼杀AI产业成长,还将任命AI政策总管,以维持美国领先中国大陆和其他国家的地位。
白宫科技顾问克拉齐奥斯(Michael Kratsios)也反对全面适用的管制方式,主张应依AI的个别用途和产业特性处理安全问题。他并表示,任何业者若认为自行开发的模型不安全,大可停止开发或限制使用。
在安全争论之外,范洁恩指出,AI产业眼前的瓶颈已从晶片转向能源。她说,全球AI用电需求极为庞大,能源供应已成为进一步发展的主要限制。


