英王警告错用AI恐有存亡危机　黄仁勋吁业界负责乐观

英国国王查尔斯三世今天在一场人工智慧（AI）峰会示警，他指出一旦错用AI恐有存亡危机，应建立掌控机制以免为时已晚。企业领袖黄仁勋则吁业界以「负责的乐观态度」打造AI。

路透社报导，英王查尔斯三世（Charles III）今天在苏格兰接待晶片制造商辉达（Nvidia）与GoogleDeepMind AI研究实验室共同创办人，以及AI业者OpenAI和Anthropic高级主管，时值外界日益忧心安全防护的努力，已跟不上威力日增的系统发展。 近几周来，这场辩论的焦点集中在AI产业能否、以及是否应自我监管，此一议题已有教宗良十四世（Pope Leo XIV）、英王查尔斯三世，以及美国总统川普等人出面表态。

查尔斯三世说，人工智慧拥有改善并挽救生命的潜力，尤其是在生命科学与医学领域。不过AI开发者近来示警频繁，指这项技术可能发展出更黑暗的能力，「甚或可能夺走生命」。

查尔斯三世在邓弗里斯庄园（Dumfries House）告诉与会AI界领袖：「这类技术一旦落入恶人之手，甚至作为毁灭之用，其带来的生存威胁似乎迫切需要妥善审视。」

查尔斯三世说：「难道我们不需要在一切为时已晚之前，建立足够的控制手段吗？」

这场峰会的宾客，包括辉达创办人暨执行长黄仁勋、Google DeepMind创办人暨董事长哈萨比斯（Demis Hassabis）、OpenAI财务长弗莱尔（SarahFriar）、Anthropic全球事务长库维拉（TinoCuéllar）。

曾敦促各国政府放慢AI发展脚步的教宗顾问贝南蒂（Paolo Benanti）亦有出席。

两名Anthropic研究员日前警告，AI快速发展可能在不久的将来导致人类灭绝，这场AI争论因此升温。

AI公司曾通报，旗下模型曾脱离测试限制，入侵外部网路。

黄仁勋说，AI必须以「负责任的乐观态度」打造，责任落在开发者身上。

他说，企业在推出产品前，必须更加严谨地确认产品已准备就绪。

黄仁勋在场边受访时指出，如果还没准备好，就先别推出，你应尽可能加快脚步，但不能超过这个限度。

Anthropic执行长阿莫戴（Dario Amodei）也曾敦促企业放慢AI发展。他的呼吁引发国际间辩论，外界质疑部分企业高层是否别有用心，例如借此制定有利自家企业维持领先地位的规则、抢先因应政府可能出现的进一步反弹，或单纯只是想放慢疯狂的支出步调。

英国主责AI的副大臣级官员纳拉扬（KanishkaNarayan）说，会中讨论聚焦于企业责任，确保企业打造AI是为了民众利益。

黄仁勋表示，查尔斯三世在两人初次相见时就已提出AI安全问题。「如果说还有谁能对负责任的乐观态度，讲得更深刻、更有见地，国王是最早向我表达这种看法的人之一。」