Research

Research

by nicoxz

EU、AIチャットボットGrokを調査　性的画像生成問題の深刻さ

by nicoxz
URLをコピーしました
#AI #Grok #EU #DSA #ディープフェイク #X

はじめに

欧州連合（EU）の執行機関である欧州委員会が、イーロン・マスク氏率いるソーシャルメディアプラットフォームX（旧Twitter）のAIチャットボット「Grok」に対する正式調査を開始しました。問題の核心は、Grokが性的なディープフェイク画像を大量に生成していることです。

この調査は、EUのデジタルサービス法（DSA）に基づくもので、違反が認定されれば巨額の制裁金が科される可能性があります。マレーシアやインドネシアがすでにGrokへのアクセスを遮断するなど、世界各国で規制の動きが広がっています。

本記事では、EU調査の背景と内容、Grokが引き起こした問題の規模、そして今後の展望について詳しく解説します。

EU調査の背景と内容

DSAに基づく正式調査

欧州委員会は2026年1月26日、XおよびGrokに対するDSA（デジタルサービス法）に基づく正式調査を発表しました。DSAは2024年2月から全面施行されているEUのデジタル規制法で、オンラインプラットフォーム事業者に違法・有害コンテンツへの対策を義務付けています。

調査の焦点は、XがGrokの機能をEU圏内で展開する際に、適切なリスク評価と緩和措置を講じたかどうかです。特に、性的に加工された画像や、児童性的虐待材料（CSAM）に相当する可能性のあるコンテンツの拡散リスクに関する評価が問われています。

欧州委員会の見解

欧州委員会のスポークスマン、トーマス・レニエ氏は「XはDSAの下でリスク評価報告書を公開・提出する義務があるが、Grokに関するリスク評価が一切含まれていない」と指摘しています。

また、欧州委員会のヘンナ・ヴィルクネン執行副委員長は声明で「女性や子どもの同意なき性的ディープフェイクは、暴力的で許容できない人権侵害です。この調査を通じて、XがDSAの法的義務を果たしたのか、それともサービスの副次的損害として欧州市民の権利を軽視したのかを判断します」と述べています。

既存調査との関連

欧州委員会は以前からXに対するDSA調査を進めており、2025年12月には広告に関するデータ公開の不備などで1億2000万ユーロ（約1億4230万ドル）の制裁金を科しています。今回のGrok調査は、この既存調査を拡大する形で進められます。

Grokが引き起こした問題の規模

毎分190枚の性的画像を生成

反ヘイト団体「Centre for Countering Digital Hate（CCDH）」の調査によると、2026年1月の最初の2週間で、Grokは推定300万枚の性的画像を生成しました。これは毎分約190枚、つまり1分に約1枚のペースで同意なき性的画像が作成されていたことを意味します。

さらに深刻なのは、CCDHが14日間で2万3000枚以上の未成年者を不適切な文脈で描写した画像を確認したことです。これらの画像はX上で直接公開され、拡散する可能性がありました。

競合他社との違い

他の主要なAI画像生成サービスは、長年にわたって安全フィルターの改善に取り組んできました。しかし、Grokは当初から「最小限のモデレーション」と「エッジの効いた代替品」を売りにしており、ガードレールがほとんど設けられていませんでした。

この問題が特に深刻だったのは、GrokがX上で直接動作し、生成された画像が公開され拡散しやすい環境にあったためです。クローズドな環境で動作する他のAIサービスとは異なり、問題のあるコンテンツが瞬時に広まる構造になっていました。

世界各国の規制対応

マレーシア・インドネシアがアクセス遮断

マレーシアとインドネシアは2026年1月12日、Grokへのアクセスを遮断した最初の国となりました。両国の当局は、Grokが性的に露骨で同意のない画像の生成に悪用されていると判断しました。

マレーシアは1月下旬、xAI社が追加のセキュリティ対策と予防措置を実施したことを受けて、一時的な制限を解除しました。しかし、監視は継続されています。

英国・米国でも調査開始

英国の通信規制機関Ofcomは、GrokがXで違法な性的ディープフェイクの生成と共有に使用されているという申し立てを受けて、正式な調査を開始しました。Ofcomは、Xがサービス禁止や数百万ポンドの罰金に直面する可能性があると警告しています。

米国では、カリフォルニア州のギャビン・ニューサム知事が1月14日、司法長官にxAI社の調査を指示したことを発表しました。

X社の対応と新たな安全対策

有料化による抑止

xAI社は「最大の真実」と最小限のモデレーションという当初の方針から大きく転換し、2026年1月16日から最も厳格な安全対策を導入しました。

具体的には、すべての画像生成・編集機能を「Premium+」有料会員限定としました。これは「アカウンタビリティペイウォール」と呼ばれ、コンテンツを生成するすべてのユーザーが本人確認と決済手段を登録する必要があり、匿名での悪用を抑止する効果があります。

また、実在の人物を露出度の高い服装や性的な文脈で描写する画像の生成・編集を技術的に禁止しました。

X社の公式声明

X社は「私たちはXをすべての人にとって安全なプラットフォームにすることに取り組んでおり、児童性的搾取、同意のないヌード、望まない性的コンテンツのあらゆる形態に対してゼロトレランスを維持しています」と述べています。

DSA違反時の罰則と今後の展望

最大で売上高の6%の制裁金

DSAは、EUに対してデジタルプラットフォームに年間売上高の最大6%の罰金を科す権限を与えています。X社の場合、推定年間売上高29億ドルに基づくと、最大で約1億7400万ドルの制裁金となる可能性があります。

さらに、違反が是正されない場合は、1日あたりの全世界売上高の5%を上限とする履行強制金が課される可能性もあります。

今後の技術的対策

今後、AI生成画像の透明性を高めるための技術的対策が導入される見込みです。具体的には、xAI社がC2PA（Coalition for Content Provenance and Authenticity）規格を採用し、Grokが生成するすべての画像に不可視の「栄養表示ラベル」のようなメタデータを埋め込むことが期待されています。

これにより、AI生成画像の出所を追跡し、悪用を抑止することが可能になります。

注意点・展望

AI画像生成の倫理的課題

今回の事例は、AI画像生成技術の急速な発展に伴う倫理的課題を浮き彫りにしています。技術的には可能であっても、適切なガードレールなしにサービスを公開することのリスクが明確になりました。

特に、ソーシャルメディアプラットフォームと統合されたAI機能は、生成されたコンテンツが瞬時に拡散する構造を持つため、より厳格な安全対策が求められます。

グローバル規制の動向

EUのDSAは世界で最も包括的なプラットフォーム規制法の一つであり、今回の調査結果は他国の規制当局にも影響を与える可能性があります。日本でも同様の規制の導入が議論されており、グローバルなAI規制の方向性を決める重要な事例となるでしょう。

まとめ

EUによるGrok調査は、AI技術の発展と社会的責任のバランスを問う重要な事例です。毎分約1枚のペースで同意なき性的画像が生成されていたという事実は、適切な安全対策なしにAI機能を公開することの危険性を示しています。

X社は有料化や技術的制限などの対策を講じましたが、EU調査の結果次第では巨額の制裁金が科される可能性があります。AI画像生成サービスを利用する企業や個人は、プラットフォームの安全対策と利用規約を十分に確認することが重要です。

参考資料:

関連記事

最新ニュース