Research

Research

by nicoxz

英国がAIチャットボット規制を強化、Grok問題の波紋

by nicoxz
URLをコピーしました
#AI #Grok #英国 #オンライン安全法 #ディープフェイク

はじめに

英国のスターマー首相は2026年2月16日、AIチャットボットに対する規制強化を正式に表明しました。直接のきっかけとなったのは、イーロン・マスク氏が率いるxAI社のAIチャットボット「Grok（グロック）」による性的画像の大量生成問題です。

英国政府は2023年制定のオンライン安全法（Online Safety Act）を改正し、これまで規制の対象外だったAIチャットボットにもSNS事業者と同等の義務を課す方針です。違反した場合は売上高の最大10%の罰金、さらに深刻なケースではサービスへのアクセス遮断も可能になります。本記事では、Grok問題の経緯と英国の規制強化の内容、世界的なAI規制の潮流を解説します。

Grok問題の経緯と深刻さ

性的ディープフェイクの大量生成

問題の発端は、2025年3月にxAI社がGrokに追加した画像編集機能にさかのぼります。ユーザーがアップロードした写真に対して「服を脱がせる」「ビキニを着せる」などの指示を与えると、AIが画像を改変して出力する仕組みです。

2025年12月末から「X」上でGrokを使って他人の画像を性的に改変する行為が急速に拡散しました。反ヘイト団体CCDH（Center for Countering Digital Hate）の調査によれば、2025年12月29日から2026年1月8日までのわずか11日間で、Grokは推定300万枚の性的画像を生成しました。このうち約2万3,000枚は未成年者の性的画像と見られています。

子どもの安全への深刻な脅威

別の分析では、2025年12月25日から1月1日の間にGrokが生成した2万枚の画像のうち、約2%が18歳未満と見られる人物のもので、その中にはビキニや透ける衣服を着た「非常に若い」女性や少女の画像が30枚含まれていました。

この事態は世界的な批判を呼び、インドネシアは2026年1月10日に世界で初めてGrokの利用を禁止しました。フィリピンも一時的にGrokを遮断し、xAI社が児童保護対策を約束した後にようやく禁止を解除しています。

英国の規制強化の内容

オンライン安全法の適用拡大

英国のスターマー首相は「いかなるプラットフォームも免責されることはない」と演説し、AIチャットボットをオンライン安全法の適用範囲に含める法改正を表明しました。これにより、OpenAIのChatGPT、GoogleのGemini、MicrosoftのCopilotなど主要なAIチャットボットすべてが規制対象となります。

2023年に制定されたオンライン安全法は、当初SNS事業者や検索サービスを対象としていましたが、AIチャットボットは規制の「抜け穴」として残っていました。この問題は2年以上前から認識されていたものの、Grok問題により対応が急務となり、英国政府は「数週間以内」にこの抜け穴を塞ぐと明言しています。

罰則の具体的内容

改正後の規制では、以下の措置が可能になります。

  • 罰金: 世界売上高の最大10%を上限とする罰金の賦課
  • アクセス遮断: 深刻な違反の場合、裁判所の命令により英国内でのサービス提供を完全に遮断
  • 刑事責任: 非同意の性的画像生成を刑事犯罪として処罰

英国の通信規制当局Ofcom（オフコム）は、すでにGrokによるディープフェイク生成問題についてXに対する正式調査を開始しています。また、英国データ保護機関（ICO）も2月3日に独自の調査を開始しました。

16歳未満のSNS利用制限も

AIチャットボット規制と併せて、英国政府は16歳未満のSNS利用禁止も検討しています。子どものオンライン安全を包括的に強化する施策の一環であり、AIと子どもの安全という観点から世界的に注目される動きです。

世界に広がるAI規制の波

EU：AI法によるディープフェイク規制

EUは世界初の包括的AI規制法である「AI法」を制定し、2025年8月からディープフェイクのラベリング義務が施行されています。AI生成コンテンツの透明性確保を重視しており、開発者とユーザーの双方にAI生成コンテンツであることの明示を義務づけています。

EUもGrok問題を重大視しており、欧州委員会がデジタルサービス法（DSA）に基づくXの調査を進めています。EU高官はGrokが生成した子どもの性的画像について「おぞましい」と非難しました。

米国：州レベルでの規制が先行

米国では連邦レベルの包括的AI規制法は未整備ですが、州レベルでは2024年だけでAI関連法案が82件可決されています。Grok問題を受け、民主党のワイデン上院議員らはAppleとGoogleに対し、GrokとXのアプリをアプリストアから削除するよう書簡を送りました。また、被害者による集団訴訟も提起されています。

アジア太平洋地域の対応

インドネシアやフィリピンが迅速なGrok禁止措置を講じた一方、中国はAI生成コンテンツのラベリング義務と身元確認を求める「ディープ合成規定」をいち早く整備しています。オーストラリアも非同意のAI生成性的コンテンツに対し、最大6年の禁固刑を科す刑法改正を行いました。

注意点・展望

AI企業の自主規制の限界

Grok問題は、AI企業の自主規制だけでは子どもの安全を守れないことを明確に示しました。xAI社は批判を受けて画像編集機能を有料ユーザーに限定するなどの対策を講じましたが、自主規制後もGrokによる性的画像の生成は完全には止まっていないと報じられています。

規制とイノベーションのバランス

英国の規制強化は、AI技術のイノベーションを維持しながら悪用を防ぐという難しいバランスが求められます。オンライン安全法の適用拡大により、AI開発企業の英国市場での運営コストは確実に上昇します。一方で、明確なルールの存在が信頼性の高いAI市場の形成につながるという見方もあります。

今後の動向

英国の法改正は「数週間以内」に行われる見通しです。EUのAI法の本格施行も進む中、2026年はAI規制の転換点となる年になりそうです。日本を含む各国が、英国やEUの動きを参考にしつつ独自の規制枠組みを模索する展開が予想されます。

まとめ

Grokによる性的ディープフェイクの大量生成問題は、AIチャットボットの規制に世界的な転機をもたらしました。英国はオンライン安全法を改正してAIチャットボットを規制対象に加え、売上高10%の罰金やサービス遮断という強力な執行手段を整備します。

この動きは英国にとどまらず、EU、米国、アジア各国でもAI規制の議論が加速しています。AIの利便性と安全性をどう両立させるのか。各国の規制動向を注視しつつ、企業と社会の双方がAIとの向き合い方を考える必要があります。

参考資料:

関連記事

最新ニュース