66、AI
安心して活用できるAIのルールづくりをすすめます
2024年10月
予想を超えるスピードで進化し、社会に広がる生成AI
いま様々な分野で、AIが私たちの社会に大きな変化をもたらしています。なかでも生成AIの進歩には目を見張るものがあります。生成AIは、Generative AI（ジェネレーティブAI）ともいわれ、多様なコンテンツを作成できる人工知能の一種です。開発者がノーベル賞を受賞したことでも話題になりました。
最新の生成AIは、言葉で指示することで、画像や動画があっという間に生成できるようになりました。生成AIは19世紀の産業革命、自動車やインターネットの普及と同様に、私たちの社会やビジネスに革命をもたらしています。
大学生協連が2024年3月4日に発表した、学生生活実態調査によると、生成AIの利用経験がある学生が46.7％にのぼり、そのうち3割近くが継続して利用していることが明らかになりました。
日本版AI規制法を制定して、リスクに応じた厳格な管理を行います
AIは社会に大きな変化を与えるとともに、急速に進化を続けています。
生成AIの基盤である深層学習の技術を確立し、ノーベル物理学賞を受賞したカナダ・トロント大のジェフリー・ヒントン名誉教授からはAIが人間のコントロールを超える恐れについて、「注意を払う必要がある」と、たびたび警告が発せられています。
EUではAI規制法を制定し、リスクのレベルに応じて使用禁止や厳格な管理を適用しています。アメリカでもAIの安全な開発と利用に関する大統領令を発出しました。一方、日本では、厳しい罰則をともなう法制での規制をせず、事業者の自主性にゆだねたままです。
多くの技術と同様、生成AIの進歩を止めることはできません。生成AIの拡大に後れることなく、ルールや必要な規制を行って、混乱や悪影響を抑える必要があります。
いち早くAIの法規制を打ち出したEU
EUではAIの開発や運用を規制する世界初の包括的なAI規制法が発効しました。規制の開始は2026年になります。
EUのAI規制法は、AIのリスクを表のように4段階に分類して、高いほど規制を厳しくしています。
一番リスクが高いものは「直ちに禁止」です。また、「高いリスク」には事前審査や利用記録の保持といった厳格な規制を遵守させます。「限定的なリスク」の場合は、文書や画像をAIで作成した旨を明示するよう義務付けています。ゲームなど、上記のリスクに該当しないAIの利用は「最小限のリスク」として、強制的な義務は課さず、行動規範にとどめます。
違反した企業には最大3,500万ユーロ（約55億円）か、世界の年間売上高の7％という、巨額の制裁金を科す規定も設けていいます。
また、EUのAI規制法は、不適切な開発や利用がないかを、新設された専門組織が監視するように定め、加盟各国にも監視組織がおかれます。
国際ルール作りをリードしたいアメリカ
アメリカはどうでしょう。
巨大ITをはじめとするAI開発企業を多く抱えるアメリカでは、従来より企業の自主性にまかせていましたが、昨年7月、主要7社は自主的に生成AIに関する指針に合意しました。
その後、2023年10月、バイデン大統領がAIの安全性確保に向けた大統領令に署名。法的拘束力を持つ規制が初めて導入されました。
この大統領令は、高度なAI開発企業には重要情報を事前に政府と共有するように義務付け、生成AIで作成した文書や画像を見分ける「電子透かし」の技術や、コンテンツ認証に関する指針を作り、これらに沿った運用を開発企業に促していきます。
一方、企業への罰則規定は見送られ、AIの技術革新を後押しする項目も盛り込まれました。大統領令には、官民連携でAIの国際ルール作りをリードする狙いがあります。
企業まかせの日本
日本はどうでしょう。
経済産業省が4月にまとめた「AI事業者向けガイドライン」では「公平性」「透明性」などの10原則を掲げて、偽情報対策を強化する方針ですが、厳しい罰則をともなう法整備を進めるEUとは異なり、法制での規制をせず、事業者の自主性にゆだねる方針です。ここにも、巨大IT企業を抱えるアメリカ言いなりの日本の姿勢が表われています。
「規制をできるだけ少なくする」という姿勢を改め、日本版AI規制法を制定し、リスクに応じた厳格な管理を行うべきです。
偽情報や誤情報を排除し、個人情報を守る仕組みを作ります
データさえあれば、生成AIは本物そっくりの動画を作り出せます。偽情報を見分けることは利用者にとって極めて困難です。
能登半島地震の際にNHKなどを装った偽情報・偽投稿が現場に混乱をもたらしました。
ウクライナでは、解任されたザルジニ総司令官が昨年11月、ゼレンスキー大統領を批判し、軍事蜂起を呼びかける偽動画がネット上で拡散されました。この動画の作成にも生成AIが使用されたと指摘されています。
バイデン大統領が第三次世界大戦の開始を宣言するフェイク動画が拡散されたこともあります。意図的に生成AIを使って作られた偽情報・誤情報によって政治対立を深刻化する恐れが強まっています。
日本ファクトチェックセンターは、AIによって生成・加工された偽画像や動画が精巧になり、見極めるのは難しいと注意を喚起しています。
情報の収集・生成・発信・流通の過程で偽情報を排除する仕組み作りが早急に求められています。
AIによるプライバシーの侵害や個人情報流出を防ぎます
AIによるプライバシーの侵害や個人情報流出も重大です。
生成AIは大量のデータを必要とします。これらのデータは、個人の行動、嗜好、政治信条など、非常に機微な情報を含みます。これらの情報が適切に保護されていない場合、不正アクセスにより個人情報が流出する可能性があります。
また、個人情報を第三者と共有する場合、そのデータが本人の同意もなく流通すれば、プライバシーが侵されてしまいます。
AIシステムがサイバー攻撃の対象となる可能性もあります。セキュリティ対策が不十分な場合、攻撃者がシステムを侵害し、機密データを盗むことも可能です。
AIの推進と個人情報保護強化は一体です。個人情報保護法の改悪に反対し、真に個人情報を保護する改正を実行します。
情報漏えいやトラブルの原因解明と責任追及、被害者への補償などの規定を整備します。
AIやデータセンターによる資源の浪費を止めさせます
環境への負荷、資源の浪費も問題です。
いま、日本各地で巨大データセンターの建設が大きな問題となっています。生成AIの学習と運用には大量の計算能力を必要とします。生成AIに対応するデータセンターは膨大な電力を必要とし、政府は原発でこの需要増を補おうとしています。無計画な生成AIの拡大は地球温暖化の問題を悪化させ、持続可能なエネルギー供給への移行を阻害します。
AIに名を借りた原発推進をやめさせ、データセンターの使用電力についても、再生可能エネルギーで賄うことを事業者に義務付けます。
自律型致死兵器システムなどAIの軍事・安全保障分野での使用を禁止します
軍事利用などAIのリスク
ドローンや自律型致死兵器システムなど軍事に利用される生成AIのリスクが国際的に問題になっています。実際に、ウクライナでは、軍事用ドローンが大量に使用され、ドローンが戦局を左右するとも言われています。
ガザではイスラエル軍の「ハブソラ」と呼ばれるAIによる標的設定システムによって攻撃目標が自動的に決められ、巻き込まれる被害の許容件数を意図的に多く設定されているため、民間人の被害が極端に多くなっているという報道もあります。
AIの利用により、先制攻撃や予防攻撃の蓋然性が高まり、紛争のエスカレーションが加速するという指摘もあります。生成AIは「核戦争並みの脅威になりうる」と警告する科学者も多数います。
国連のAIに関する諮問委員会は、2024年1月、AI兵器が制御不能になった場合「人類存亡の脅威になる」との中間報告を発表しました。
国連のグテーレス事務総長は2026年までに自律型致死兵器システム（LAWS）を法的に禁止・制限するように強く要求していますが、協議は難航しています。軍事大国を巻き込んだAI兵器開発国と、非開発国のみぞが深いからです。
世界に先がけ、日本が自律型致死兵器システムなどAIの軍事・安全保障分野での使用の禁止を宣言することは大きな意義があります。
プラットフォーム取引透明化法を改正し、巨大IT企業に社会的責任を果たさせます
巨大IT企業による支配
生成AIの市場拡大によって、アップル、マイクロソフト、グーグルの親会社のアルファベット、アマゾン、エヌビディア、メタ、テスラのマグニフィセント・セブン（壮大な7社＝M7）と呼ばれるテクノロジー業界の巨大企業が世界を「支配する」と言われています。
生成AIの市場が拡大すればするほど、これらアメリカの巨大IT企業がもうかる構図のままでは、これまで以上に、M7の支配力が増していくことになります。
多くのデータを保管するクラウドサービスもM7のアマゾン、マイクロソフトなどのアメリカ勢の寡占状態が強まっています。
かつての石油のように、現代はどれだけ多くのデータを握るかに覇権がかかっています。規制や主権はデータの収集や生成AIの設計、開発と不可分です。開発段階からルールによる規制が必要です。生成AIのスピードに置いて行かれることのないように、そのリスクを規制する法整備が求められています。
同時に、国際的なルール作りにどういう立場で取り組むかも問われています。
2023年日本が主導したG7の声明は、EU、米国、日本などがそれぞれバラバラに対応していることを追認しただけのものです。
EUは、生成AIの覇権を握ろうとしているアメリカの巨大IT企業の横暴を許さないという立場で、幅広いAIを対象にして包括的に規制しています。
日本がアメリカや巨大IT企業の支配に手を貸すのか否かが厳しく問われています。
ノーベル賞を受賞したヒントン氏は「政府は開発企業に対して、安全対策に必要な計算設備を持つよう義務付けてほしい」とも訴えています。生成AIが国民生活や日本経済にとって「味方」になるよう、今まで以上に関心を払い、巨大IT企業を絶えず監視していくことが必要です。
著作権法を見直し、著作者の権利を守ります
AIが著作物を無断で学習することを認めている現行の著作権法をめぐっては、法改正せずに、例外的に一部を認めないケースを示す方向の政府に対して、日本新聞協会などからは早急な法改正を求める声が強まっています。
AI事業者がコンテンツを無断利用し、生成AIによる検索結果として示せば、新聞など報道機関の発行物やサイトを見る人が大幅に減り、事業者は行き詰まりかねません。
報道コンテンツの利用は許諾を得たうえで、正確性を十分確保するなど、生成AI事業者に責任ある対応を求めます。
文化・芸術分野でも同様なことがおきかねません。例えばあるアーティストの楽曲を、生成 AIに繰り返し学習させ、当該アーティスト風の楽曲を生成して大量に利用・流通させた場合、このアーティストの活動を著しく阻害することになります。生成 AI による開発・学習及び生成・利用を無制限に認め、創作者たる著作者の創作意欲を削ぐようなことがあっては、著作権法の目的に反することになります。
著作権法を改正しアーティストや作家、作曲家、映画監督、スタッフ、実演家などの権利と利益を守ります。