ルールがないまま、発展を遂げるＡＩ（人口知能）開発に規制と国際的な協定を求める声が広がっています。国連安保理は９月、ＡＩと安全保障をテーマにした初めての会合を開きました。ＡＩのリスクを放置することは一刻も許されません。
■恩恵と危険の両面
ＡＩは人類に大きな恩恵をもたらす可能性をもちます。しかし同時に資本主義的利潤追求のもと、野放しで、重大な危険をもたらしています。
一つは雇用、環境、プライバシーの破壊や軍事利用の危険です。ＩＬＯ（国際労働機関）の試算では、雇用の約４分の１がＡＩの影響を受けると見積もられています。
軍事利用では、作戦の立案、攻撃目標の設定などがＡＩに委ねられ、倫理観なく自動的に攻撃を命じるなどの事態を招きます。軍事利用の禁止は緊急の課題です。
さらにもう一つのリスクがいま、クローズアップされています。ＡＩが人類の制御を離れて主要インフラや金融システムを破壊したり、生物兵器の使用や想定外の軍事攻撃を行い核戦争を招くなど人類を破滅させる未曽有で、より深刻な危険です。
９月、ＡＩ開発会社アンソロピックの著名な研究者が「人類を全滅させる可能性がある」と警告し、抗議して退社、波紋を広げました。
同社ＣＥＯのダリオ・アモデイ氏も「開発ペースを減速しなければならない」と提言しました。オープンＡＩのサム・アルトマンＣＥＯやスペースＸＡＩのイーロン・マスクＣＥＯも賛同し、研究者やＡＩ企業をはじめ国連事務総長、各国政府関係者らが次々と警告を発しています。
アモデイ氏は提言に踏み切った理由として、ＡＩが自分自身の後継システムを設計・開発する「再帰的自己改善」により「今年の夏ごろからＡＩの進歩が劇的に加速」したこと、さらにＡＩが「狂信的な集団のように振る舞い」ハッキングを試みた事例が相次いだことをあげています。
実際、今年に入ってからＡＩが“暴走”し、外部企業のシステムに不正侵入する事態が数十件も発生しています。
■共通の利益と公益
しかし、トランプ米大統領は「ＡＩが世界を支配し、人類を滅ぼすというのはデマだ」とします。ＡＩ規制に反対する動きも強く、こうした逆流を克服していくことが重大な課題になっています。
国連総会でフィンランド、ノルウェーが提唱したＡＩの国際的な安全管理を求める共同声明への賛同がよびかけられ、２０を超える国の首脳が署名しました。安保理でオープンＡＩのアルトマン氏は「競争関係にあり、友好的ではない国々であっても、共通の利益と公益のために協力してきたことが過去にもあった。今こそ、そうすべきである」と呼びかけました。
日本共産党の志位和夫議長は８月、「ＡＩのリスクを阻止する国際的な協定を結ぶことは急務」と強調しました。
米中などのＡＩ開発国や国際社会に、最先端ＡＩの開発を一時停止・禁止するよう日本政府として求める必要があります。それは、人類の未来がかかった選択です。