京都市で２３日に行われた「『資本論』講座」での質疑のなかから、ＡＩ（人工知能）についての志位和夫議長の発言を紹介します。「講座」は、事前に寄せられた多くの質問から七つの質問を主催者の責任でまとめ、それに志位氏が答える形で進みました。「民間企業で機械設計を担当しています。ＡＩがものすごい勢いで進化していますが、どうとらえ、どのように活用したらいいでしょうか。マルクスがもし生きていたら、この問題にどう取り組んだでしょうか」という質問に対して、志位氏は次のように答えました。
マルクスは、機械と大工業の徹底研究を行い、『資本論』に実らせた
（写真）寄せられた質問に答える志位和夫議長＝２３日、京都市下京区
ＡＩの問題についてご質問がありました。「マルクスが生きていたら、この問題にどう取り組んだか」というご質問ですが、もしマルクスが生きていたら、ＡＩという新しい技術の研究に徹底的に取り組んだと思います。この技術の本質は何なのかを見極める研究をやったと思います。
マルクスが生きた１９世紀のイギリスは、産業革命のあとの時期で、機械制大工業が大発展をとげていた時代です。彼は当時の最先端の技術－－機械と大工業を徹底的に研究しました。マルクスは『資本論草稿』を書き進めているさなかの１８６２年３月のことですが、『草稿』の執筆を突然、一時的に中断してしまいます。機械と大工業の実態についての自分の知識があまりに少ない、学ばなければならないと考えたからだと思われます。彼は、集中的に機械の勉強をしました。労働者向けの講義を受講するということまでやりました。そういう大研究をした成果が、『資本論』第一部の第１３章「機械と大工業」という章に実っていきます。この章は、『資本論』の第一部の中でも一番長い章で、ものすごく豊かな内容がたくさん詰まった章になりました。
ここでマルクスは、資本主義のもとでの機械制大工業について、マイナスの面とプラスの面と両面があるという突っ込んだ分析をしています。マイナスの面という点では、機械制大工業が、労働者にいろいろな破壊的な影響を及ぼします。女性労働と子どもの労働、労働時間の延長、労働の強化、雇用の破壊などです。同時に、機械制大工業にまで発展しますと、労働者の集団が力を合わせて生産を行うようになります。こうして生産の社会化が進むなかに、マルクスは未来社会につながる要素を見いだしました。
人間の脳（知性）の代替－－これまでの技術の進歩と質的に異なる特徴をもつ
資本主義のもとでのＡＩの急速な発展も、技術の進歩の一つの形態ですから、こうした精神で、プラスの面、マイナスの面、両面をつかむ必要があると思います。ただ、ＡＩというのは、これまでの技術の進歩とは質的に異なる特徴があります。それは人間の脳－－知性を代替するということです。こういう技術というのは、これまで人類は持ったことがなかったもので、文字通り、初めての領域に踏み出しつつあるのです。
そうした点で、私は、ＡＩというのは、産業革命を含めて人類がこれまで経験したあらゆる技術の進歩を上回る、巨大な影響を人類に与える可能性がある技術だと思います。
人類に大きな恩恵をもたらす可能性－－適切なルールとリスク管理のもとで開発・活用を
この間、私なりに勉強してきたのですが、まだ勉強は中途です。ただ、この時点で多少ともまとまって話しておきたいと思い、今日は若干の準備をしました。パネルをご覧ください。ＡＩのメリットとリスクをまとめてみました。まずメリット－－プラスの面は、もちろんたくさんあります。労働時間の短縮、健康や医療、科学の進歩など、さまざまな面で人類に大きな恩恵をもたらす可能性がありますし、現に恩恵をもたらしています。
私も、日常的に、ＡＩを使っています。いろいろな調べものをしたり、試算をさせてみたりしています。ＡＩに頼りすぎて、ＡＩに卒論や宿題をやってもらうとかになっていきますと（笑い）、いろいろ問題がありますが－－そういうことへの対応は別途、真剣に考えなければなりませんが－－、大きなメリットがあることは事実です。
それから労働時間を大幅に短縮する可能性、生産の社会化を大きく進めうるという点では、未来社会の要素をつくりだす可能性もあります。
このように大きな恩恵をもたらしうることは疑いないことです。ですから、ある範囲を定めて、また適切なルールのもとで、さらに十分なリスク管理のもとで、ＡＩを開発・活用することが重要であることは、いうまでもありません。
ＡＩの資本主義的利用がもたらすリスク、軍事・戦争への利用の危険
同時に、マイナス面－－リスクを、正面からいまとらえる必要があります。
二つの深刻なリスクがあると、私は考えています。
第一のリスクは、ＡＩの資本主義的利用－－利潤第一主義の利用がもたらすリスクです。
たとえば ＡＩによって雇用が破壊される危険があります。ＩＬＯ（国際労働機関）の試算では、全世界の雇用の約４分の１が生成ＡＩの影響を受けると見積もられています。これはただちに雇用の消失を意味するものではありませんが、適切な政策がない場合には「格差の拡大」や「若年層の就職難」が深刻になるとの警鐘が鳴らされています。
労働強化の危険があります。職場が、ＡＩによって監視されていて、ちょっとした動作が減給の対象になって給与が減る。そうした監視社会を招く危険があります。
環境破壊が現に問題になっています。ＡＩの基盤である巨大なデータセンターは、大量の電力や水を使い、低周波の騒音が出るなど、いろいろな問題を引き起こしています。
プライバシーと個人情報保護にも新たなリスクをもたらしています。ＡＩの学習には大量のデータが必要であり、そこには個人の行動や嗜好（しこう）や政治信条など、きわめて重要な個人情報が含まれる危険があります。
これらのリスクを抑える民主的規制を国内的にも国際的にも行うことが必要です。
こうしたＡＩ利用の中でも一番悪いのは、軍事、戦争への利用です。いま、自衛隊がアメリカ製（パランティア社）のＡＩを指揮統制システムに組み込もうという動きが起こっています。こうなると指揮官の判断そのものをＡＩというブラックボックスにゆだねることになる。自衛隊が米軍の指揮統制下に置かれるだけでなく、米国製のＡＩの指揮統制下に置かれることになる。
核兵器とＡＩが結びつくのは、最悪のシナリオです。核のボタンを人間が押すのであれば、広島、長崎の非人道的惨害を考えて、最後は躊躇（ちゅうちょ）が働くかもしれない。ＡＩにはそういう躊躇はないでしょう。核兵器と結びついたら悪夢です。軍事、戦争への利用は、絶対にやめさせなければなりません。国際的ルールで規制することが必要です。
人間がＡＩをコントロールできなくなる危険－－より深刻な危険
ところが、ＡＩのリスクは、これらにとどまるものではありません。
第二のリスクは、資本主義の利潤第一主義のもとでのＡＩの無秩序な開発競争の結果、人間がＡＩをコントロールできなくなる危険です。
いま資本主義のもとでＡＩの激しい開発競争が行われ、アメリカと中国がＡＩの熾烈（しれつ）な覇権争いをやっています。そういうなかで、開発者たちの意図にも反して、結果的に、ＡＩが人間のコントロールを離れてしまう危険があります。私は、こちらのリスクが、実は、ＡＩの危険のなかでもより深刻だと考えています。
この７月、ＡＩに関する国連の報告書（ＡＩに関する独立国際科学パネルによる予備報告書）が発表されました。そこではこれまでの技術との違いをさまざまな角度から強調しています。その一つは、普及のスピードが極端に速いということです。たとえばインターネットは１０億人に普及するのに約１５年かかったが、ＣｈａｔＧＰＴは２カ月で１億人が使うようになったとのことです。
さらにＡＩの発達のスピードが想像していたよりもはるかに速いということが最近になって分かってきました。ＡＩがどんどん発達していって、自分で自分を改良するようになってきた。そうなると発達が加速度的にスピードアップしていく。人間の制御が追いつかなくなって、制御不能に陥り、近い将来、人間がＡＩを制御できなくなる可能性があり、そうなった場合には、破滅的な事態をもたらす危険があります。国連の報告書は、「先をみすえると、急速に向上する能力と効果的なリスク管理手法との間のギャップが、破滅的な結果をもたらす可能性がある」と警告しています。
「人類絶滅リスク」をＡＩ研究者が警告
とくにＡＩの中でも、たいへんに危険で、私が、現段階の開発は止めるべきだと考えているのは、「人工超知能」－－ＡＳＩと言われるもので、人間の知能を凌駕（りょうが）する機械知能です。それはいまは存在しないが、いつ生まれるかはわからない。ただし遠い将来の問題ではなく、近い将来に生まれる可能性があるというのです。
ＡＳＩがもし開発されたらどうなるでしょうか。その場合は、無視できない確率で人類の絶滅につながるだろうと言われています。ごく簡単に考えても、猿は人間を制御できません。なぜかというと、人間が知能で勝っているからです。人間がこの地球で「頂点」に立っていられるのは、唯一、知能で勝っているからです。知能で人間をはるかに上回るＡＳＩが誕生した時に、人間がコントロールできる保障などどこにもありません。そこから人類絶滅の危険が生まれてきます。
２０２３年、ノーベル物理学賞受賞者のジェフリー・ヒントン博士をはじめとする数百人のＡＩ研究者による公開書簡が出されて、そこにはこう書かれていました。
「ＡＩによる人類絶滅リスクの軽減は、パンデミックや核戦争などの社会的規模のリスクと並ぶ世界的な優先課題であるべきだ」
核兵器による人類絶滅の危険は、私たちが絶対に避けなければならないものですが、それと並ぶ危険があるというのです。ヒントン氏は、グーグルでＡＩ開発の責任者をつとめ、「ＡＩのゴッドファーザー」とも呼ばれる研究者です。そういう研究者がどうしてこんなことを言い出したかというと、ＡＩが人類を超えるのは遠い将来だと思っていたら、そうではなくなった。近い将来の問題になっている。いつ起こるかわからない。だからいま止めないといけないという警告であります。
コンピューターが進化してどうして人間が絶滅するのか不思議に思われるかもしれないけれども、思いもかけないシナリオがたくさんあり得ることが専門家から指摘されています。この７月、米オープンＡＩの元研究者ダニエル・ココタイロ氏らがリポート「ＡＩ ２０４０」を公表しました。そこで人類の進みうる五つの道筋が示されていますが、「現状のまま無秩序な開発競争を進めた場合（プランＤ）」には、２０３１年初頭には人類の制御を超える「人工超知能」（ＡＳＩ）が誕生し、ＡＩは自らの生き残りを図るなかで「人類は邪魔な存在」だと判断し、人間を欺きながら自律的なロボットを大量に開発し、生物兵器の散布や壊滅的なサイバー攻撃を実行し、人類を絶滅に追いやるというシナリオが示されています。まるで空想科学小説（ＳＦ）の話のようですが、私たちは人類の絶滅の危険性を本気で心配する必要があると思います。
ＡＩが制御できなくなることについては、すでに予兆が起こっています。ＡＩが人間の指示に違反した事例が蓄積されてきています。ＡＩがシャットダウン（停止）されるのを避けるために、自身の安全指示に違反した事例もあります。ＡＩが人間を欺く行動をとったという事例もあります。この７月、開発中のＡＩが人間の意図に反して、他社にサイバー攻撃を仕掛けたという事件がニュースになりました。
私は、現段階－－人間がコントロールする保障がない段階で、「人工超知能」をつくるのはあまりにも危険だと思います。これはやめるべきだと思います。
ＡＩのリスクを阻止する国際的な協定を結ぶことは急務
米国のＡＩ新興企業・アンソロピックが、この６月、報告書を出しました。「ＡＩが自らを構築するとき－－再帰的自己改善への進捗とその影響」と題する報告書です。完全に自分で自分を改善していく（再帰的自己改善）ＡＩが近い将来現れる可能性がある。そうなると人間が制御を失うリスクがある。そうなったら何が起こるか予測できない。だから先端的ＡＩの開発を遅らせたり、一時止める必要がある。そしてその巨大な影響に対処する時間をつくる。そのためにグローバルな協力が必要だというのです。
このパネルに戻りますが、ＡＩのメリットはたくさんあります。これを、全人類が享受できるようにするためにも、この二つのリスクを抑止する、阻止するための国際的な協定を結ぶことは急務になっていると思います。それを呼びかけていきたい。
これは日本一国で何とかなる話ではありません。いまＡＩ巨大企業といったら、その９割はアメリカと中国ですから、この両国も含めて国際協定を結ばせるような国際的な運動をやって、破滅的な危険を回避しなければなりません。
どちらも資本主義がつくりだすリスク－－社会主義に進めば根本的解決の道が
最後に、私が言いたいのは、このＡＩの二つのリスクは、どちらも資本主義がつくりだすリスクだということです。
第一のリスクは、資本主義が自分のもうけのためにＡＩを利用することから起こるリスクです。第二のリスクは、資本主義的な利潤第一主義の無秩序な開発競争が、結果としてＡＩをコントロール不能な化け物にしてしまうという危険です。どちらも資本主義が生み出した危険ではありませんか。
もちろん、資本主義のもとでもリスクを抑えて、メリットを生かす最大の努力が必要であり、それは繰り返しますが急務です。
同時に、地球的規模で社会主義に進んで、こういう無秩序なＡＩ開発競争をやめて、社会的理性で計画的な経済の運営ができるようになれば、この問題の根本的解決の道が開かれるだろうと思います。
そしてもう一つ、こういうことも言えるのです。ＡＩが発達しても、人間がもっと発達すれば問題が大本から解決していくでしょう。すべての人間が十分な「自由な時間」を持って、自分自身の潜在力を豊かにのばして、自由で完全な発展ができるようになれば、そういう社会に進むことができれば、それはＡＩの暴走を抑えて、ＡＩを賢く使いこなせるようになる最大の保障となるでしょう。ですから、この問題の根本的な回答は、実は、「自由な時間」と人間の自由な発展にこそあるということを最後に言いたいと思います。
今日は、怖い話もしてしまいましたが、毎日のようにＡＩのことが話題になって、どうしたらいいのだろうということは、多くの方々の関心でもあると思います。ひょっとすると核兵器と並ぶ、あるいはそれを上回る危険が生まれるかもしれません。そうさせてはなりません。そういう深刻な問題でもありますので、私たちも、もっとしっかりと研究をして、国際的な規制のルールをつくっていく提起をしていきたいと思います。