米人工知能（ＡＩ）企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日、自身のブログで「われわれはＡＩモデルの能力向上のペースを遅らせねばならない」と述べ、開発速度を落とすよう呼び掛けました。「ＡＩは強力な技術であり、そのリスクは深刻だ」とし、開発には「慎重さ」が求められると指摘しました。
アモデイ氏は、呼び掛けを行った理由として、▽今年の夏ごろからＡＩの進歩が劇的に加速しており、放置すればＡＩがわれわれの理解力や制御能力を超えてしまう可能性がある▽米オープンＡＩの自律型ＡＩエージェントが７月に意図せずに他社を攻撃した―ことを挙げました。
特にオープンＡＩの出来事に関しては、ＡＩがより高度な能力を持っていれば壊滅的な被害をもたらす可能性があったとし、「一企業の失敗」と片付けてはならないと警告。「６～１２カ月後には、ＡＩがインターネット全体を乗っ取る能力を持つ可能性があると懸念している」と述べました。
アモデイ氏は、対策として、▽ＡＩ開発企業に独立した第三者の評価者を常駐させる▽民主主義国の最先端ＡＩ開発企業が連携して共通の安全基準を確立する▽可能な限り国際協調を広げ、順守状況の検証に真剣に取り組む―という３段階の計画を提案しました。
国際協調に関しては、「圧倒的に高度なＡＩ能力を持つ中国との協力が必要だ」と強調。ただ「短期的には、米国と同盟国の主導権を守るような方法で」臨むべきだとしました。