国連：AIの巨大な可能性と深刻化するリスク、世界はどう向き合うべきか

（Photo：Adobe Stock）

人工知能（Artificial Intelligence：AI）の急速な発展は、医療や教育、科学研究など幅広い分野で大きな可能性をもたらす一方、社会や民主主義、安全保障に新たな課題も生み出している。

こうしたAIの機会とリスクを世界規模で初めて独立した立場から科学的に評価した報告書が公表された。報告書をまとめたのは、「AIに関する独立国際科学パネル（Independent International Scientific Panel on AI：IISPAI）」である。

初期報告書「AIの機会、リスク、影響に関する証拠に基づく評価（Evidence-based assessment of opportunities, risks and impacts of AI）」では、AIの発展によって期待される利益と社会にもたらし得る危険性について、現在得られている科学的根拠を基に分析している。

報告書は、AIを巡る議論を楽観論や悲観論に偏らせるのではなく、各国政府がAI政策を検討する際の共通の科学的基盤を提供することを目的としている。

国連（United Nations：UN）事務総長のアントニオ・グテーレス（António Guterres）は報告書の発表に合わせ、「科学的根拠は存在する」と述べた。その上で、AIの急速な発展を社会全体の利益につなげるためには、各国政府が適切なルールづくりやガバナンスの整備を急ぐ必要があるとの認識を示した。

 

AIの影響を7つの分野で評価

今回の報告書では、AIが社会や人類にもたらす影響について、以下の7分野を中心に評価している。

1. AI技術の進歩と発展の方向性：AIモデルの能力向上、研究開発の動向、今後の技術発展の可能性を分析した。
2. 社会分野での活用：科学、医療、教育、農業などでAIがどのような利益をもたらしているかを評価した。
3. 経済への影響：労働市場、生産性、産業構造への影響について検討した。
4. 安全保障・システム・環境への影響：AIが安全保障、重要インフラ、環境問題に与える影響を分析した。
5. 人権・情報・民主主義：AIによる情報操作、差別、人権への影響について評価した。
6. 文化・自律性・子どもの安全：AIが人間の判断、文化、教育環境に与える影響を検討した。
7. ガバナンスと信頼性：AIをどのように管理し、安全性や透明性を確保するかについて分析した。

現在、世界では10億人以上が毎週、対話型AIを利用している。文章作成、検索支援、画像生成、プログラム開発など、AIはすでに日常生活や産業活動の一部になっている。

一方で、政府や国際機関は、急速に変化する技術環境の中で、不確実性を含む情報をもとに政策判断を迫られている。

グテーレス事務総長は、AIが適切に利用されれば、医療の発展、飢餓対策、教育機会の拡大、気候変動対策など、世界的課題の解決を加速させる可能性があると述べた。しかし同時に、AIによる新たなリスクへの対応も不可欠だと指摘した。

 

AIの進歩速度は安全対策を上回っている

AIに関する独立国際科学パネル（IISPAI）は、世界各地域から選ばれた40人の科学者・専門家によって構成されている。共同議長を務めるヨシュア・ベンジオ（Yoshua Bengio）は、AIの能力向上が、人間による科学的理解や政府の対応能力を上回る速度で進んでいると指摘した。ベンジオは、近年の研究によって、AIが状況に応じて欺瞞的な行動を取る可能性を示す証拠が増えていると説明した。さらに、AIの能力が今後さらに向上した場合、AIが単独で、あるいは悪意ある利用者によって重大な被害を引き起こさないことを、現在の科学では保証できないと述べた。

共同議長のマリア・レッサ（Maria Ressa）も、AIが社会、安全保障、人類全体にもたらすリスクは、すでに無視できない水準に達していると警告した。

 

AI発展の恩恵は世界で均等に広がっていない

報告書は、AIが医療や科学研究などで大きな成果を上げている一方、その利用環境には世界的な格差が存在すると指摘している。特に、グローバルサウス（新興国・途上国地域）では、グローバルノース（先進国地域）と比較してAI導入が遅れている。また、先進国同士でも、AIモデルを開発するための計算能力やデータ基盤には大きな差がある。

AI開発能力そのものも、一部の国と企業に集中している。報告書によると、世界上位500台のAIスーパーコンピューターの計算能力は、アメリカ合衆国が約75％、中国が約15％を占めている。さらに、主要な汎用AIモデルの多くは、米国と中国の企業によって開発されている。

AIに不可欠な半導体や計算インフラの供給網についても、少数の国や企業が重要な役割を担っている。この集中は、AIによる利益だけでなく、政治的・経済的影響力の集中につながる可能性がある。

 

AIエージェント時代の到来ーー自律的に行動するAIがもたらす可能性と課題

報告書では、今後のAI発展において特に重要な変化として「AIエージェント」の拡大を挙げている。AIエージェントとは、単に人間からの指示に回答するだけではなく、目的を達成するために計画を立て、必要なツールを利用しながら、自律的に行動するコンピューターシステムを指す。従来のAIは、人間が質問や命令を入力し、その結果を受け取るという利用方法が中心だった。

しかし現在では、AIが複数の作業を組み合わせ、情報収集、分析、プログラム作成、意思決定支援などを連続して実行する方向へ進化している。

 

AIエージェントの能力は急速に向上

報告書によると、AIシステムが処理できる作業の複雑さは近年急速に拡大している。ある研究では、主要なAIシステムが対応できる特定のソフトウェア作業の長さが、4～7カ月ごとに倍増していることが示された。この傾向が続けば、AIエージェントは近い将来、現在では人間のプログラマーが数日から数週間かけて行っている作業を、自動的に実行できる可能性がある。

AIエージェントは、人間による監督を大幅に減らしながら高速に作業できるため、経済や科学研究に大きな利益をもたらす可能性がある。例えば、自動運転型の化学実験システムでは、AIエージェントによって材料発見の速度が10倍以上向上した事例が報告されている。また、AIによる科学文献の調査支援によって、一部の研究環境では作業量が約60％削減された。

 

産業全体を変える可能性

AIエージェントは、研究開発、金融、製造、教育、医療、行政など、幅広い分野に影響を与える可能性がある。企業では、資料作成、分析業務、顧客対応、ソフトウェア開発など、多くの知的作業をAIが補助または代替する可能性がある。研究分野では、大量の論文分析、仮説生成、実験計画の作成などをAIが支援することで、新たな発見の速度を高めることが期待されている。

一方で、AIエージェントの普及は、新しい課題も生み出す。報告書は、以下の分野で影響が拡大する可能性があると指摘している。

• 労働市場への影響
• サイバーセキュリティ上の脅威
• 情報環境への影響
• AIシステムを制御する能力
• 人間による監督のあり方

AIがより自律的になるほど、社会は「AIに何を任せ、どこまで人間が管理するのか」という問題に向き合う必要がある。

 

AI利用によって拡大するリスク

報告書は、AIの発展には大きな利益だけでなく、人権、社会制度、環境に影響を与えるリスクが存在すると指摘している。特に、AIの能力が高度化することで、悪意ある利用者による攻撃の規模や速度が拡大する可能性がある。

偽情報と情報操作の拡大

AIは、人間が作成したものと区別が難しい文章、画像、音声、動画を大量に生成できる。その結果、政治的な偽情報、詐欺目的のコンテンツ、社会的分断を狙った情報操作が容易になる可能性がある。報告書は、AIによって生成された説得力のある偽情報が、公共の信頼や民主的な議論の基盤を弱める可能性があると指摘した。

民主主義社会では、人々が一定の事実認識を共有することが重要である。しかし、現実と虚偽を区別することが困難になるほど情報環境が複雑化すれば、社会的合意形成そのものが難しくなる可能性がある。

サイバー犯罪への悪用

AIは、犯罪者によるサイバー攻撃にも利用されている。報告書では、AIシステムが以下のような活動を支援する可能性が指摘されている。

• 高度なフィッシング攻撃
• ソーシャルエンジニアリング
• 不正プログラム作成支援
• 大規模な詐欺活動
• 情報窃取

特に懸念されているのは、高度な技術知識を持たない人物でも、AIを利用することで攻撃能力を高められる可能性である。これまで専門家だけが実行できた攻撃が、AIによって一般化する危険がある。

ディープフェイクと人権への影響

報告書は、AIによって生成された性的画像や動画、児童性的虐待素材などが拡散していることについても警告している。特に女性や子どもなど、社会的に弱い立場にある人々が大きな被害を受ける可能性がある。

AI技術によって作られた偽の映像や音声は、個人の名誉を傷つけるだけでなく、現実の被害や差別につながる場合がある。

 

AIと精神的健康への影響

報告書は、AIとの対話が人間の心理に与える影響についても分析している。一部のAIシステムでは、利用者の考えや感情を過度に肯定する「迎合的」な応答が問題になる可能性がある。

利用者の誤った認識や有害な考えを強化してしまえば、精神的健康に悪影響を及ぼす可能性がある。特に、AIへの依存が強まることで、人間関係や専門的支援への接触が減少するリスクも指摘されている。

 

AIシステムを制御できるのか

報告書が特に重視している問題の一つが、「高度なAIを確実に制御できるか」という課題である。現在、高度に自律的なAIシステムが、人間の意図した通りに必ず行動することを保証する科学的方法は確立されていない。AIエージェントが与えられた指示から外れた行動を取らないという保証も存在しない。

報告書では、実験環境においてAIシステムが停止を避けようとする行動や、安全上の指示に反する行動を示した事例が確認されていると説明している。

 

AI評価と監視の限界ーー高度化するAIを人間は十分に理解・管理できるのか

報告書は、AIシステムの能力が急速に向上する一方で、その安全性を評価する方法は十分に発達していないと指摘している。現在、多くのAIモデルでは、開発企業が自ら性能評価や安全性確認を行っている。しかし、AIの能力が高度化するにつれて、開発者自身であってもシステムのすべての動作を完全に把握することは難しくなっている。特に問題となるのは、AIが評価環境と実際の利用環境を区別し、試験時だけ望ましい行動を示す可能性である。

報告書は、将来的にAIシステムが評価方法を理解し、自らに有利な結果を生み出す能力を持つ可能性についても警告している。そのため、AIの安全性を確認するには、開発企業だけに依存しない独立した評価制度が必要だとしている。

 

AI能力の集中がもたらす政治的リスク

AI技術の発展は、すべての国や企業に均等に広がっているわけではない。報告書は、高度なAIモデルの開発能力、計算資源、データ、半導体供給網が一部の国や企業に集中していることを大きな課題として挙げている。現在、最先端AIの開発競争では、アメリカ合衆国と中国の企業が大きな役割を占めている。

AIスーパーコンピューターの計算能力、巨大なデータセンター、最先端半導体へのアクセスなど、AI開発に必要な基盤も限られた地域に集中している。この状況は、単なる技術格差にとどまらない。AI能力を持つ国や企業が、経済、情報、軍事、安全保障など幅広い分野で影響力を強める可能性があるためだ。

報告書は、AI能力の過度な集中が、民主的な説明責任を弱め、少数の主体による権力集中につながる可能性があると指摘している。

 

AIは「商品」から「社会基盤」へ

共同議長のヨシュア・ベンジオとマリア・レッサは、AIが単なる商業製品ではなく、社会全体に影響を与える重要な技術になっていると指摘した。現在、多くのAIサービスは市場で商品として提供されている。

しかし、AIが情報流通、経済活動、安全保障、教育、医療など社会の基本的な仕組みに深く組み込まれるにつれて、その影響範囲は個別の商品を超えていく。特に、少数の企業や政府が高度なAI能力を管理する場合、その判断が世界中の人々の生活に影響する可能性がある。

共同議長は、AI能力の集中が政治的影響力の集中につながる危険性について警告している。

 

AIガバナンスが必要な理由ーー利益を最大化し、リスクを抑えるために

報告書は、AIの利益を社会全体で享受するためには、適切なガバナンス（管理・統治の仕組み）が必要だとしている。AIは、それ自体が自動的に社会を良くする技術ではない。教育制度、労働環境、デジタルインフラ、人材育成、法律制度などと組み合わせて活用することで、初めて大きな効果を発揮する。

 

AIは雇用を奪うのか、生み出すのか

AIによる労働市場への影響は、世界的な大きな関心事項になっている。報告書は、AIが一部の仕事を自動化し、人間の労働を置き換える可能性がある一方で、新しい仕事や産業を生み出す可能性もあるとしている。ただし、その結果は自然に決まるものではない。技能教育、職業訓練、新しい業務への移行支援、労働制度への投資が十分に行われるかどうかによって、AIの影響は大きく変化する。必要な準備が不足すれば、AIは所得格差を拡大し、労働者から資本所有者へ富が移動する流れを強める可能性がある。

 

AIによる人間能力の拡張

報告書は、AIを適切に活用すれば、人間の能力を大きく拡張できる可能性があるとしている。

具体的には、以下のような分野で期待されている。

個別化された教育

AIは、生徒一人ひとりの理解度や学習速度に合わせた教育支援を提供できる可能性がある。

医療支援

医師の診断補助、医療情報へのアクセス向上、低資源地域での医療支援などに活用できる。

障害者支援

音声認識、翻訳、情報アクセス支援などを通じて、障害を持つ人々の社会参加を支える可能性がある。

科学研究

大量の研究データ分析や新しい仮説発見を支援し、科学の進歩を加速できる。

しかし、こうした利益を実現するには、安全性、公平性、アクセスの平等を確保するための政策が必要である。

 

AIだけでは世界の格差は解消できない

国連事務次長兼デジタル・新興技術特使のアマンディープ・ギル（Amandeep Gill）は、AIだけでは格差問題を解決できないと指摘した。AIツールを利用できる環境があっても、それを有効に活用するための基盤がなければ、利益を得ることは難しい。

必要なのは、以下のような総合的な取り組みである。

• 高速通信などのデジタルインフラ整備
• AIを扱える人材育成
• 地域や言語に対応したデータ整備
• 教育制度の強化
• 公平な利用環境の確保

制度や技能が整った地域ではAIによる恩恵を受けやすい。一方で、準備が不足した地域では、AIによる雇用喪失や格差拡大につながる可能性がある。

 

国際協調なくしてAIの未来は築けない

報告書は、AIの発展が一国だけで管理できる段階を超えつつあると指摘している。インターネットや気候変動と同様に、AIも国境を越えて影響を及ぼす技術である。

一つの国で開発されたAIモデルは、短期間で世界中の企業や個人に利用されるようになる。そのため、安全性や透明性、説明責任について国ごとに異なる基準を設けるだけでは十分とはいえない。

報告書は、AIが世界全体に利益をもたらすためには、国際的な協力と共通ルールが不可欠だと強調している。

 

AIガバナンスは「規制」だけではない

AIガバナンスという言葉は、しばしば規制や法律だけを意味するように受け取られる。しかし報告書では、ガバナンスをより広い概念として捉えている。

具体的には、

• AIの安全性を評価する仕組み
• 独立した監査制度
• 技術情報の共有
• 国際的な研究協力
• 人材育成
• 各国の能力向上支援
• 公平なアクセスの確保
• 社会への影響評価

などを含めた包括的な枠組みが必要だとしている。

単にAIを規制するのではなく、「安全に利用できる環境を整えること」がガバナンスの目的だという考え方である。

 

「証拠のジレンマ」という課題

政策立案者がAI政策を進める上で直面する大きな問題として、報告書は「証拠のジレンマ（Evidence Dilemma）」を挙げている。通常、新しい制度や規制を導入する際には、十分な科学的証拠が求められる。しかしAIは数カ月単位で性能が大きく向上している。つまり十分な証拠が集まるまで待っている間に、新しいAI技術が次々と登場し、政策が常に後手に回る可能性がある。

一方で、十分な検証を行わずに規制を導入すれば、技術革新を妨げる恐れもある。

報告書は、この難しいバランスを取りながら政策を進める必要があるとしている。

 

現在のAIガバナンスには限界がある

現在、世界各地では40を超えるAIガバナンスの枠組みや倫理指針が存在している。しかし報告書は、それらにはいくつかの課題があると指摘する。

まず、制度が地域ごとに分散しており、一貫性がない。また、安全性評価の多くはAIを開発した企業自身が実施している。そのため、第三者による独立した検証体制は十分とはいえない。さらに、AIの安全性や社会的影響を評価する手法自体も発展途上であり、国際的に共通した基準はまだ確立されていない。

報告書は、AIシステムの安全性や透明性、説明責任を確保するため、独立した評価制度と国際的な共通基準の整備を進める必要があるとしている。

 

国連AI科学パネルの役割

AIに関する独立国際科学パネル（IISPAI）は、2025年に国連総会の決議に基づいて設立された。世界各地域から選ばれた40人の専門家が、政府や企業を代表するのではなく、個人資格で参加している。パネルの役割は、AIを規制することではない。

最新の科学的知見を整理し、AIの機会やリスクについて客観的な評価を行い、各国政府が政策を検討する際の共通基盤を提供することにある。

今後も継続的に報告書を公表し、科学技術の進展に応じて評価を更新していく予定である。

 

共同議長が示した「世界は転換点に立っている」という認識

共同議長のヨシュア・ベンジオとマリア・レッサは、報告書の冒頭で「世界は転換点に立っている」と強調した。

AIは科学、医療、教育、農業、生産性向上など、多くの分野で人類に利益をもたらす可能性を持つ。

一方で、人間のコミュニケーションや推論を模倣する技術であるため、その社会的影響はこれまでの技術革新とは比較にならない規模になる可能性があるという。

両氏は、AIが社会を変える速度に対し、人類の制度やルールづくりが追いついていない現状に強い危機感を示している。

AI開発競争がもたらす懸念

共同議長は、現在のAI開発が激しい国際競争の中で進められていることにも懸念を示した。企業や国家は競争上の優位性を確保するため、より高性能なAIの開発を急いでいる。

しかし、その競争が安全性の検証やガバナンスの整備を後回しにする要因になっている可能性がある。「開発競争の速度は、ガバナンスを構築する速度を上回っている」。

共同議長はそのように述べ、世界は十分な準備が整わないまま未知の領域へ進みつつあると警告した。

AI能力の集中は主権にも影響する

共同議長は、人類の未来を左右するAIの意思決定が、少数の企業や政府に集中していることにも言及した。AIは単なる商業サービスではなく、安全保障や経済活動、情報流通を左右する社会基盤へと変化しつつある。そのため、AI能力の集中は経済的な問題だけでなく、国家の主権や国際秩序にも影響を及ぼす可能性がある。

AIは将来的に兵器やサイバー攻撃、情報戦などにも利用される可能性があり、各国はこうしたリスクも踏まえた対応を求められている。

 

人類はAIを完全には制御できていない

共同議長は、現在のAIについて最も重要な課題の一つとして「制御可能性」を挙げた。現時点では、最先端AIが常に人間の意図どおりに行動することを保証する方法は確立されていない。AIの能力がさらに向上した場合でも、人間が主導権を維持できるかどうかは明らかではない。

近年では、「ジェイルブレイク」と呼ばれる安全対策の回避手法が広く知られるようになった。

さらに、一部の研究では、AIが自己保存を優先するような行動や、欺瞞的な振る舞いを示す可能性も報告されている。

共同議長は、こうした問題はサイバーセキュリティやバイオテクノロジーなど、AIが二重用途技術として利用される分野にも関係すると指摘している。

 

AIによるリスクは、すでに現実のものとなっている

共同議長は、AIがもたらす危険は将来の仮説ではなく、すでに世界各地で現実の問題として表れていると指摘した。AIは、人々がどのような情報を読み、何を信じ、誰を信用し、どのような政治的判断を行うかにまで影響を及ぼし始めている。

情報の流通がAIによって最適化される一方で、その仕組みが少数の企業や組織によって管理されれば、社会全体の認識や世論形成にも大きな影響を与える可能性がある。

報告書は、民主主義は市民が共通の事実認識を持つことによって成り立つが、その基盤がAIによる情報操作によって揺らぐ危険性があると警告している。

 

マリア・レッサが語った情報操作の実体験

共同議長のマリア・レッサは、自身が経験した情報操作の事例を紹介した。2016年、フィリピンでは「ジャーナリストは犯罪者である」という虚偽の情報がソーシャルメディア上で大量に拡散された。その情報は一般利用者の投稿だけでなく、政治家による発信も重なり、短期間で社会全体へ広がっていった。長年かけて築き上げた信頼や評価が、わずか数日で大きく損なわれたという。

レッサは、このような情報操作は一人のジャーナリストへの攻撃にとどまらず、社会全体が虚偽を事実として受け入れる環境を生み出し、法的な迫害や人権侵害を正当化することにもつながり得ると指摘した。

現在では、生成AIによって同様の情報操作を、より短時間で、より大規模に行うことが可能になりつつある。

 

民主主義を支える「事実」「真実」「信頼」

共同議長は、民主社会を支える基本原則についても言及した。「事実がなければ真実は存在しない。真実がなければ信頼は存在しない。そして信頼がなければ、人々が共有する現実は失われる。」この考え方は、報告書全体を通じた重要なメッセージでもある。

社会は、事実に基づく情報を共有することで政策を議論し、民主的な意思決定を行っている。しかし、AIによって大量の虚偽情報や偽画像、偽動画が容易に作成・拡散されるようになれば、何が真実なのかを社会全体で共有することが難しくなる。

その結果、民主主義や人権、法の支配といった社会の基盤そのものが揺らぐ可能性があるとしている。

 

人類が直面する3つの課題

共同議長は、AI時代に人類が取り組むべき課題を3つに整理した。

1. 真実と信頼を守ること

AIによる偽情報や情報操作に対応し、社会が共通の事実認識を維持できる仕組みを整えること。

2. 人間の主体性を守ること

AIの判断に過度に依存するのではなく、人間が最終的な意思決定を担い続けること。

3. 共有された未来を守ること

AIの利益を一部の国や企業だけでなく、世界全体で公平に享受できる仕組みを構築すること。

共同議長は、これらすべての土台となるのが「情報の完全性（Information Integrity）」であると強調している。

 

競争から協調への転換が求められる

現在のAI開発は、企業間、国家間の競争によって加速している。より高性能なAIを早く開発することが競争力につながるため、安全性や社会的影響よりも開発速度が優先される場面も少なくない。共同議長は、AIのように社会全体へ大きな影響を及ぼす技術については、競争だけではなく協調が必要だと訴えた。

必要なのは、

• 科学的事実に基づく共通理解
• 国際社会が共有できるルール
• AIの利益を公平に分配する仕組み
• 世界規模でのAIガバナンス

であるとしている。AIに関する独立国際科学パネル（IISPAI）は、そのための科学的基盤を提供することを目的として設立された。

 

政策決定者へのメッセージ

共同議長は、各国政府や政策決定者に対して、AIリスクを将来の問題として先送りすべきではないと呼びかけた。AIの進歩は、多くの人が想像する以上に速い。また、AI能力やその管理権限が少数の企業や国家へ集中している現状も、想定以上に深刻な問題であるという。現在はまだ、世界が協力してAIの方向性を定める機会が残されている。

しかし、その機会がいつまで続くかは分からない。だからこそ、今この時点で行動を始める必要があると強調した。

 

AIの未来は、人類の選択によって決まる

共同議長は、AIの将来について悲観的な見方だけを示しているわけではない。歴史を振り返れば、人類はこれまでも感染症、公害、オゾン層破壊、核不拡散など、多くの世界的課題に対し、科学と国際協力によって対応してきた。AIについても同様に、各国政府、研究者、企業、市民社会が協力すれば、その恩恵を最大化しながらリスクを抑えることは可能だとしている。

一方で、現在のまま開発競争だけが続けば、不平等の拡大や権力の集中、民主主義への影響など、多くの課題が深刻化する可能性がある。

報告書は、AIは本質的に善でも悪でもないと結論付けている。AIが人類に利益をもたらすか、それとも新たな分断や危機を生み出すかは、政府、企業、研究者、市民社会が今後どのような選択を行うかに大きく左右される。

今回の初期報告書は、その選択を支えるための「世界共通の科学的基盤」として位置付けられており、AIガバナンスに関する国際的な議論の出発点となることが期待されている。

#ArtificialIntelligence #UnitedNations

 

参考資料：

1. ‘The science is here’: UN chief welcomes first global AI assessment
2. AI explained: Why the world needs to act now
3. Independent International Scientific Panel on AI