国連のターク人権高等弁務官は１４日、公開書簡で、急速に発展する人工知能（ＡＩ）は人権を脅かす「これまでにない危険」があると述べ、米中を初めとする世界各国および最先端ＡＩ企業に対し、「意味のあるＡＩ管理のための緊急の行動」を呼びかけました。
ターク氏は、より強力なＡＩを目指す開発競争は、われわれの生活のあらゆる側面で「より大きな存亡の危機」につながると指摘。重要インフラや民主主義を脅かすだけでなく、戦争の進行速度や範囲を拡大し、大量破壊兵器の誤発射などを防ぐ安全対策を弱体化させていると語りました。
ターク氏は、現在の人々の暮らしや制度、将来世代を「積極的に保護すべきだ」と強調。ＡＩ開発現場の関係者からも、最先端ＡＩの開発を遅らせるよう求める声が相次いでいることに触れました。
最先端ＡＩを開発している企業は主に米国と中国に集中しているとし、これらの企業は、リスクを減らすために「今すぐ行動する責任と能力がある」と指摘。最先端ＡＩ開発については、安全確保の研究が完了するまで「再帰的自己改善の使用制限」が必要だと述べました。
ターク氏は、産業界による自己規制だけでは不十分であり、政府が企業に対し、責任ある行動を求める義務があると指摘。ＡＩ研究段階での重大事件に関する企業の報告義務や独立調査機関の設置、企業による賠償体制を含む安全計画の策定を国が進めるべきだと主張。「どの国も一国で技術を管理することはできない。企業がどのリスクを世界が受け入れるべきかと決めるべきではない。技術進歩のためだと、誰かが人権を差し出すよう求められるべきではない」と訴えました。