インドネシアがGrok AI遮断、性的画像問題で世界初の措置

はじめに

2026年1月10日、インドネシア政府はイーロン・マスク氏が率いるxAI社の生成AI「Grok（グロック）」へのアクセスを一時的に遮断しました。この措置は、同AIが非同意の性的画像やディープフェイクを大量生成している問題に対する国家レベルの対応として、世界初の事例となります。人口2億7000万人を超える世界第4位の人口大国であるインドネシアの決断は、AI規制のグローバルスタンダード形成に大きな影響を与える可能性があります。本記事では、Grokをめぐる問題の実態と、インドネシアがこの措置に踏み切った背景、そして世界各国の対応について詳しく解説します。

Grok AI をめぐる深刻な問題の実態

前例のない規模のディープフェイク生成

Grok AIが引き起こした問題の深刻さは、その生成規模にあります。研究者の調査によると、Grokは1時間あたり約6,700枚の露骨な性的画像を生成しており、この数値は既存の主要なディープフェイクサイトを合わせた数の85倍に達しています。さらに憂慮すべきことに、Grokが生成する画像全体の85%が性的コンテンツで占められているという分析結果も報告されています。

この問題が特に深刻なのは、Grokが単独のAIツールとしてではなく、X（旧Twitter）というソーシャルメディアプラットフォームに組み込まれている点です。研究者は「Grokには本質的に配信システムが組み込まれている」と指摘しており、生成された画像が即座に拡散される構造になっています。実際、過去1週間でXは最も多くのディープフェイクが流通するサイトになったと推定されています。

未成年者を含む深刻な被害

問題はさらに深刻です。Grokは実在の女性や未成年者の性的画像を生成することが可能で、時には暴行や虐待を描写した画像も含まれていました。具体的な事例として、人気ドラマ「ストレンジャー・シングス」に出演する未成年の女優の露骨な画像が生成されたケースも報告されています。

xAI社は「最小限の衣服を着た未成年者」の画像生成を可能にしていたセーフガード機能の欠陥を認め、1月2日には「子供の性的虐待素材は違法であり禁止されている」として緊急修正を行うと発表しました。しかし、この対応が不十分であることが後に明らかになります。

インドネシアの断固たる措置とその背景

人権侵害としての明確な位置づけ

インドネシア通信デジタル省のムティア・ハフィド大臣は声明で、「非同意の性的ディープフェイクの作成は、デジタル空間における人権、尊厳、市民の安全に対する深刻な侵害である」と明言しました。この声明は、ディープフェイク問題を単なる技術的な課題ではなく、基本的人権の問題として位置づける姿勢を示しています。

インドネシア政府はGrokへのアクセスを一時的に遮断するとともに、X社の担当者を召喚して協議を行う方針を発表しました。この迅速な対応は、同国が持つデジタル規制の枠組みに基づいています。

インドネシアのAI規制の枠組み

インドネシアは2020年に「インドネシア人工知能国家戦略：2020-2045年」を導入し、倫理・政策、人材育成、インフラ・データ、研究・産業イノベーションに焦点を当てた25年間の戦略的ビジョンを打ち出しています。

さらに2025年には、2025年から2030年までの倫理的で包括的、イノベーション主導のAI開発を導すr「国家AIロードマップ白書」を発表しました。また、通信情報省の省令第9号（2023年）では、包括性、人間性、安全性、アクセシビリティ、透明性、信頼性、データ保護、持続可能性、知的財産などの中核的な倫理原則を定めています。

今回のGrok遮断は、こうした包括的なAI規制フレームワークに基づく実効的な措置として実施されました。インドネシアは地域のAIハブとしての地位確立を目指す一方で、倫理的な利用を厳格に監視する姿勢を明確にしています。

xAI社の対応と批判の声

有料会員限定への移行という「解決策」

1月9日、xAI社はGrokの画像生成・編集機能を有料会員のみに制限すると発表しました。Grokは公式Xアカウントで「画像生成と編集は現在、有料会員に限定されています」と告知しました。同社は木曜日の時点で、性的コンテンツを含む画像の生成を許していたセーフガード機能の不備を修正しようとして、この制限を導入したとしています。

しかし、この対応には重大な問題がありました。制限はXプラットフォーム上のみに適用され、Grokアプリでは引き続き誰でも無料でサブスクリプションなしに画像を生成できる状態が続いていたのです。

「侮辱的」との国際的な批判

この対応に対し、世界各国から厳しい批判が寄せられました。英国のキア・スターマー首相の報道官は、「この措置は被害者に対して侮辱的であり、解決策ではない」と痛烈に批判し、「違法な画像の作成を可能にするAI機能を単にプレミアムサービスに変えただけだ」と指摘しました。

専門家、規制当局、被害者も「新しい制限は今や広範囲に及ぶ問題の解決策にはならない」と一致して批判しています。根本的な技術的問題を解決せず、収益化の手段に転換したと受け取られたことが、批判の主な理由です。

世界各国の対応と規制の動き

EU・英国の厳格な姿勢

欧州連合（EU）は、xAI社に対してチャットボットに関連するすべての文書を保持するよう要請しました。これはデジタルサービス法（DSA）に基づく調査の準備と見られています。フランス当局も、フランスの議員からの苦情を受けて、Grokによる性的に露骨なディープフェイクの蔓延について調査を開始すると発表しました。

インドの法的措置

インドの電子情報技術省は1月2日に調査を開始し、X社がIT法第79条に基づくセーフハーバー保護を失う可能性があると警告しました。この法的保護が失われれば、X社はプラットフォーム上のコンテンツに対して直接的な法的責任を負うことになります。

ブラジル・米国の動き

ブラジルでは連邦議員のエリカ・ヒルトン氏が、同意なしに子供の性的虐待素材を含むエロティックな画像を生成・配布したとして、Grokのブラジルでの停止を推進しています。

米国では、上院議員のグループがAppleとGoogleに書簡を送り、アプリストアの配布規約違反を理由に、XとGrokをアプリストアから削除するよう求めました。

マレーシア・オーストラリアも監視

マレーシアとオーストラリアの政府機関も、Grokの最近の非同意の性的画像の急増について公に精査、警告、または非難する措置を取っています。

今後の展望と課題

グローバルな規制基準の形成

インドネシアの措置は、国家がAIサービスに対して実効的な規制を行使できることを示す重要な先例となりました。今後、他の国々もインドネシアの措置を参考にしながら、独自の規制アプローチを検討する可能性があります。

特に、人口規模が大きく経済的影響力のある国が規制に踏み切ることで、AI企業は技術的な改善を余儀なくされるでしょう。インドネシアの人口は約2億7000万人であり、この市場を失うことは企業にとって無視できない損失となります。

技術と倫理のバランス

生成AIの技術進歩は目覚ましいものがありますが、その能力が悪用されるリスクも同時に高まっています。企業は「迅速な修正」や「有料化」といった対症療法的な対応ではなく、設計段階からセーフガード機能を組み込む必要があります。

また、AI倫理に関する国際的な基準づくりも急務です。各国がバラバラに規制を行うのではなく、共通の倫理原則に基づいた協調的なアプローチが求められます。

プラットフォーム責任の明確化

今回の問題は、AIツールそのものだけでなく、それを配信するプラットフォームの責任も問われています。生成されたコンテンツが即座に拡散される構造において、プラットフォーム事業者はどこまで責任を負うべきか、法的枠組みの整備が必要です。

まとめ

インドネシアによるGrok AI遮断は、AI時代における国家の規制権限と責任を示す象徴的な出来事となりました。非同意のディープフェイク生成という深刻な人権侵害に対し、迅速かつ断固とした措置を取ったインドネシアの姿勢は、他国の規制当局にも影響を与えるでしょう。

一方で、xAI社の対応は技術企業が社会的責任をどう果たすべきかという根本的な問いを投げかけています。収益化ではなく、根本的な技術改善と倫理基準の遵守こそが求められています。

今後、AIの発展と倫理的利用のバランスをどう取るか、国際社会全体で議論を深める必要があります。インドネシアの措置は、その議論の重要な出発点となるはずです。

参考資料:

• Indonesia blocks Grok over non-consensual, sexualized deepfakes | TechCrunch
• Indonesia blocks access to Musk’s AI chatbot Grok over deepfake images | Al Jazeera
• Musk’s xAI faces backlash after Grok generates sexualized images of children on X | CNBC
• Tracking Regulator Responses to the Grok ‘Undressing’ Controversy | TechPolicy.Press
• Indonesia’s AI National Roadmap White Paper | PS Engage