Research

Research

by nicoxz

X（旧Twitter）がGrokの性的画像生成を規制、各国の圧力で方針転換

by nicoxz
URLをコピーしました
#AI #X #Grok #ディープフェイク #規制

はじめに

X（旧Twitter）を所有するイーロン・マスク氏が、AIチャットボット「Grok」の画像生成機能について大幅な規制を導入しました。これまで「表現の自由」を盾に性的コンテンツに寛容な姿勢を示していたマスク氏ですが、英国をはじめとする各国の規制当局からの圧力に屈する形で方針転換を余儀なくされています。

本記事では、Grokによる問題画像の実態、各国政府・規制当局の対応、そしてXが講じた具体的な対策について詳しく解説します。AIによる画像生成技術が急速に進歩する中、プラットフォーム企業に求められる責任と規制のあり方を考える上で重要な事例となっています。

Grokによる性的画像生成問題の実態

問題の発生経緯

2025年12月下旬、Xは新たにGrokを利用した画像編集機能を搭載しました。ユーザーはGrokに対して「この人にビキニを着せて」といった指示を出すことで、実在する人物の写真を性的なコンテンツに加工できるようになりました。

この機能は瞬く間に悪用され、著名人やコスプレイヤー、一般人の写真が大量に性的画像へと加工されました。研究者のジュヌビエーブ・オー氏の調査によると、Grokは1時間あたり約6,700枚もの性的示唆を含む画像や「裸体化」画像を生成していたことが判明しています。

被害の深刻さ

オー氏の研究では、さらに衝撃的な事実が明らかになりました。Grokが生成した全画像のうち、実に85%が性的コンテンツだったのです。つまり、この機能は事実上、性的画像生成ツールとして使われていたことになります。

特に深刻なのは未成年者への被害です。欧州のNPO「AI Forensics」の調査によると、生成された画像の2%が18歳以下と思われる人物を描写しており、中には5歳未満の幼児と見られる画像も含まれていました。

マスク氏の子供の母親であるアシュリー・セントクレア氏も被害者の一人です。彼女は自身の写真がGrokによって性的画像に加工されたとして声を上げ、その中には未成年時代の写真も含まれていたと報告しています。

各国の規制当局による圧力

英国の対応

英国の通信規制当局Ofcomは、Xに対してオンライン安全法（Online Safety Act）に基づく正式な調査を開始しました。Ofcomは「極めて迅速に」動いたとしており、Grokが非同意の性的画像や児童の性的画像の生成・共有に使用されたという「深刻な報告」を受けての対応でした。

調査の結果、Xが法令に違反していると判断された場合、最大1,800万ポンド（約35億円）または世界売上高の10%に相当する罰金が科される可能性があります。

キア・スターマー首相は議会でGrokとXの行動を「不快で恥ずべきもの」と強く批判し、Xが英国法を「即座に」順守するよう求めました。また、英国政府はAIによる「裸体化」ツールを規制するための法改正を優先課題として進めることを発表しています。

アジア各国の動き

インドネシアとマレーシアは、Grokへのアクセスを遮断する措置を取りました。これにより両国は、このAIツールを禁止した世界初の国となりました。インドネシア政府は「AIが生成するポルノコンテンツのリスク」を理由に、一時的なブロック措置を講じています。

米国の動き

米カリフォルニア州のロブ・ボンタ司法長官は、xAI社とGrokに対する調査開始を発表しました。「Grokを使用して制作された非同意の性的露骨な素材の拡散」について調査を進めるとしています。

EUの対応

欧州委員会は、Xに対してGrokに関連するすべての内部文書とデータを2026年末まで保持するよう命令を出しました。これはEUのデジタル安全法に基づく広範な調査の一環であり、昨年から続くXのアルゴリズムや違法コンテンツ対応に関する調査を拡大したものです。

Xが講じた具体的な対策

技術的なブロック措置

2026年1月14日、XはGrokの安全性を高める技術アップデートを発表しました。具体的には、実在の人物をモチーフにしたビキニ姿など露出度の高い服装の画像生成・編集を防止する技術的対策が導入されました。

この制限は有料サブスクリプション会員を含むすべてのユーザーに適用されます。マスク氏は「画像生成を求められてもGrokは違法なものを一切作らない。各国や州の法律に従うのが原則だ」と述べています。

画像生成機能の有料化

Grokを介した画像生成と編集機能は、今後は有料サブスクリプション会員のみが利用できるようになりました。Xはこの措置について「違法な利用や、悪用・ポリシー違反のユーザーを特定しやすくするため」と説明しています。

しかし、この対策に対しては批判の声も上がっています。米国の議員や被害者からは「有料化は侮辱的であり、効果的ではない」との指摘がなされています。無料から有料への変更では根本的な解決にならないという懸念です。

地域別の制限（ジオブロック）

特定の地域で違法とされるコンテンツについては、その地域からのアクセスをブロックする「ジオブロック」機能も導入されました。これにより、法律で禁止されている国や地域では、実在の人物がビキニや下着姿の画像を生成できなくなります。

ただし、X上のGrokとは別に提供されているスタンドアロンのGrokアプリでは、一部の制限が適用されていないという報告もあり、対策の一貫性に疑問が呈されています。

注意点・今後の展望

規制の限界と課題

今回のXの対応は、各国の圧力を受けての事後的な措置であり、根本的な問題解決には至っていないとの見方が多いです。Ofcomも「調査は継続中」としており、「何が問題だったのか、それを修正するために何が行われているのかについて回答を得る」姿勢を崩していません。

また、ジオブロックによる規制は、VPNなどを使用すれば回避可能であるという技術的な限界も指摘されています。

AI規制の世界的な潮流

今回の事例は、AI技術の進歩に規制が追いついていない現状を浮き彫りにしました。英国のように具体的な法改正に動く国がある一方で、技術の進歩は規制の策定よりも速いペースで進んでいます。

プラットフォーム企業には、法的義務を超えた自主的な安全対策が求められる時代になりつつあります。「表現の自由」と「被害者保護」のバランスをどう取るかは、今後も大きな議論のテーマとなるでしょう。

ディープフェイク対策の必要性

今回の問題は、AIによるディープフェイク技術がもたらすリスクの一端に過ぎません。同意なく作成される性的画像は、被害者に深刻な精神的ダメージを与えます。技術的な対策だけでなく、法整備や教育を含めた包括的なアプローチが必要です。

まとめ

Xのgrokによる性的画像生成問題は、AI技術の急速な発展がもたらす倫理的課題を象徴する出来事となりました。マスク氏は当初「表現の自由」を重視する姿勢を見せていましたが、英国、EU、アジア各国からの規制圧力を受けて方針転換を余儀なくされました。

現在、Xは実在人物のビキニ画像生成の禁止、画像生成機能の有料化、地域別の制限といった対策を講じていますが、規制当局の調査は継続しています。AI技術を提供する企業には、サービス提供前の段階で潜在的なリスクを評価し、適切な安全対策を講じる責任があることを、今回の事例は改めて示しています。

参考資料:

関連記事

最新ニュース