人工知能（ＡＩ）研究者のジェイコブ・コクソン氏（２７）は８日、Ｘ（旧ツイッター）への投稿で、人類の知能をはるかに超える「人工超知能（ＡＳＩ）」の開発が２０２０年代末までに人類滅亡を招くと警告し、ＡＩ開発企業の米アンソロピックを退社したと明らかにしました。同氏は、国際的なＡＩ開発競争を規制すべきだとしています。
この投稿をきっかけに、米議会で最先端ＡＩ開発規制を求める声が上がり、米ＡＩ開発企業オープンＡＩが米国内での強制力ある安全ルール制定を提案するなど波紋が広がっています。
コクソン氏は英国出身で、オープンＡＩを経て、２６年にアンソロピックに転職。２社で計３年間、ＡＩの事前学習などに携わりました。
投稿では、「どちらの企業も責任ある行動をとっていない。自己進化する超知能の開発に突き進み、われわれの生命を危険にさらす賭けをしている」と批判。その上で、「この技術はまもなく人類の知能を超え、すべてをハッキングし、あらゆる分野を一夜で変革し、実質的な力と資源を獲得するだろう」と警告。「ＡＩの開発者たちは、２０年代末までにＡＩが私たち全員を殺しかねないと感じている」と強調しました。
コクソン氏は、ＡＩ開発競争を抑制するために、「開発の一時的な禁止」などの強い措置が必要ではないかと提起しました。
アンソロピックの安全性担当幹部エバン・ヒュービンガー氏も同日、Ｘでコクソン氏の主張への支持を表明し、「われわれはＡＩが人類を滅亡させかねないと本気で考えている」と述べました。