おすすめ

 

急速に進化するＡＩ（人工知能）。開発競争を野放しにすれば、人間を超える「知能」を持つＡＳＩ（人工超知能）が誕生し、邪魔な人類を生物兵器で絶滅させる―。まるでＳＦ（空想科学）小説のような最悪のシナリオもあげて、ＡＩ研究者が警鐘を鳴らしています。ＡＩ技術の利点とともに、深刻なリスクが顕在化している今、この問題をどう考えたらいいのか、ＡＩやデジタル化に詳しいアジア太平洋資料センター共同代表の内田聖子さんに聞きました。（伊藤紀夫）

―スマホやパソコンの利用で日常生活に浸透しているＡＩをどう見ますか。

ＡＩ開発は１９５０年代から始まりましたが、ビッグデータと巨大クラウドという二つのインフラが実現したことで２０１０年代後半から研究がかなり進みました。２２年１１月には対話や文章作成ができる生成ＡＩ・ＣｈａｔＧＰＴが登場し、ブームになるわけです。

これまでの技術とＡＩが大きく異なるのは、ＡＩは意思決定の主体と行動の主体になり得る、ということです。またその開発と普及の速度があまりにも早い。例えば、ウェブサイトは１０億人が扱えるようになるまで１５年間かかりましたが、ＣｈａｔＧＰＴはわずか２カ月で１億人が使うようになりました。

もう一つは、民間主導だということです。これは軍事技術やかつての科学技術と根本的に異なります。

軍事技術では、政府が主導で研究開発に税金を投入して企業に開発させるというのが一つのモデルです。ところが、オープンＡＩやアマゾン、グーグルなどのビッグテック（巨大ＩＴ資本）は、完全な民間主導ないし国と民間が共同開発でやってきました。イニシアチブは国家ではなく、民間企業が牛耳っているのが特徴で、「ＡＩ軍産複合体」といわれる巨大なエコシステム（共存共栄の仕組み）をつくり上げています。

―ＡＩの弊害についてはどうですか。

差別・排除などの人権侵害、環境や雇用への悪影響、軍事利用については多くの実害も出ています。欧米や日本のような先進国とグローバルサウスと言われるアフリカ・アジア・中南米の国々との圧倒的な格差の問題もあります。

ＡＩ開発は、米国のオープンＡＩやアンソロピックなどの企業が担っていますが、その前提として死活的に重要なのがインフラです。ＡＩを動かすには画像や映像を高速で処理できる半導体ＧＰＵが必要ですが、その世界シェアの９割を米国のエヌビディア１社が独占しています。すさまじい寡占状態で、この会社の半導体がなければ、ＡＩ開発は成り立たないわけです。

その半導体を作るにはレアメタル（希少金属）が必要ですが、その多くはグローバルサウスの諸国から採掘され、環境問題が深刻化しています。ここには「新しい植民地主義」とサウスの人たちが指摘する問題があります。最終的にその恩恵を受けるのは主に先進国の人たちです。そもそも途上国は電気インフラも貧弱でコンピューターも普及していない状況ですから、格差が日々拡大しています。

このようにＡＩ産業は極めて収奪的で、米国と中国が覇権を争い、特に米国のわずか数社が圧倒的な利益を得る構造です。

―子どもへの影響も深刻で、世界では規制の動きが出ていますね。

生成ＡＩに現実と見まがうようなポルノ映像・画像を偽造させ、ＳＮＳで拡散するディープフェイクポルノが社会問題になっています。被害にあっている９割以上は女性と子どもです。

これに対する規制では、日本は遅れていますが、韓国や欧州は進んでいます。ディープフェイクポルノを作った人はもちろん、それを保存したり拡散したりするだけで刑事罰の対象になる法律もできています。

米ニューヨーク市のゾーラン・マムダニ市長は２日、市内の公立小中学校に通う生徒を対象に、生成ＡＩの使用を原則禁止することを発表しました。ＡＩへの過度な依存が自ら考え問題を解く能力を阻害する懸念があるからです。

いまＡＩに不可欠なインフラであるデータセンターに反対する運動が世界に広がっています。大変皮肉なことに、特に米国ではものすごい勢いです。トランプ政権が昨年発表した「ＡＩ行動計画」でＡＩ開発を加速して覇権を強化しようと規制緩和を進めるなか、データセンターの建設ラッシュで大量の電気や水の使用、環境問題が深刻化しています。

地域住民の抵抗運動が広がる中で、民主党・共和党どちらの議員も避けて通れないほどの課題となり、１１月の中間選挙（下院全員・上院約３分の１改選）の大きな争点の一つになるだろうと言われています。

トランプ政権はＡＩを軍事に使って最強の国になると言って莫大（ばくだい）な投資をし、イラン攻撃でも意思決定の支援にＡＩを使っています。最終判断は人間がしていると言いますが、実態はＡＩが作った作戦を人間が追認する形になっています。

自律型の致死兵器、キラーロボットを規制する議論は、１０年以上前から国連でも行われていますが、人の生死に関わる規制は優先順位が高いと思います。

著作権にかかわる問題もあります。何千年と人類が蓄積した文学や論文、知見を情報資源としてＡＩに学習させれば、論文や芸術作品、音楽、声も作ったりできます。その影響で作家、漫画家、声優、記者などの仕事がＡＩにとって代わられる危険があります。

ここでもルールが必要で、指針を作って規制する動きが世界で進んでいます。

―日本共産党の志位和夫議長は「ＡＩのリスクを阻止する国際的な協定を結ぶこと」を呼びかけています。ＡＩに対する規制で大事な点は、何でしょうか。

ＡＩは私たちが求めて作られたわけではなく、企業が自分たちの利益のために開発し、国家が安全保障などのお題目を掲げて支援してきたものです。私たちの日常の暮らしに直接影響を与えるものなのに、この技術をどこまで許容するかを一度も聞かれたことはありません。特に軍事では、他国への脅威をあおることで税金がＡＩに投じられることが正当化されるＡＩ軍拡が進んでいます。完全に民意を無視した開発競争で、地域住民、子どもや女性たちが悪影響を受けています。

食べ物、薬、自動車など生命や暮らしに直接関わるものは、厳しい規制基準をクリアしないと販売できません。でも、ＡＩにはそんな規制は何もなかったから、企業は安全性や信頼性、透明性について何の監査も受けずに売り出すことができました。そこを監査し、規制を強める余地は大いにあります。

近い将来、ＡＩが人間を超える自律的な知能を持ち、人類を欺いたり殺したり、予期せぬことが起こってくる危険性は、研究・開発者ですら、ブラックボックスで分からない点が一番の怖さです。そこに検証のないまま進むＡＩ開発の本質的な問題があります。

国連や研究者、市民社会も言っているように、今いったん立ち止まって、ＡＩに歯止めをかけるために国内ないしは国際的な合意をしたり、拘束力のあるルールを作ったり、さらに開発企業内での意味のある倫理基準の策定と透明化をしなければいけない局面に立っていると思います。

うちだ・しょうこ　ＮＰＯ法人アジア太平洋資料センター（ＰＡＲＣ）共同代表。著書に『デジタル・デモクラシー　ビッグ・テックを包囲するグローバル市民社会』、論文に「テック・ジャスティス　公共性と倫理ある人々の技術へ」など。