联合国人权高专警告AI风险 吁各国和企业紧急管控

联合国人权事务高级专员图克今天呼吁各国与「前沿」人工智慧（AI）企业采取紧急行动，以管控一项他警告称构成「前所未有风险」的技术。

法新社报导，图克（Volker Turk）在致各国及AI开发商的公开信中警告，世界正处于「不可逆转变革的关头，这不仅影响我们，也将影响后代子孙」。 他表示：「当前竞相开发功能日益强大AI的趋势，正让人类朝著涉及生活各个层面的更大生存风险迈出重大一步。」

与此同时，各界对「超级智慧」电脑系统风险的担忧正日益升高，近期有一名研究人员担心这项技术最终可能脱离人类控制，因而辞去在顶尖AI企业Anthropic的职务。

另一名未辞职的Anthropic员工也公开表示，「我们确实非常认真地相信，AI可能消灭所有人类」，并认为未来10年内发生这种情况的机率超过「10%」，引发各界哗然。

Anthropic执行长阿莫戴（Dario Amodei）12日呼吁AI业者「放慢前沿技术发展速度」，也就是协调放缓AI技术的开发进程，主要竞争对手、xAI创办人马斯克（Elon Musk）及OpenAI执行长阿特曼（SamAltman）也公开表示支持。

图克感叹道：「在当今世界，我们几乎完全仰赖少数几家实力雄厚的企业，为全人类在AI发展方面做出正确选择。」

他说：「我敦促各国和企业透过多边机制紧急采取行动，以国际人权法为基础，为先进及前沿AI模型治理擘划行动方针。」