Research

Research

by nicoxz

OpenAIが国防総省との契約を修正、AI監視禁止を明記

by nicoxz
URLをコピーしました
#OpenAI #AI #国防総省 #監視規制 #Anthropic

はじめに

米OpenAIが国防総省（ペンタゴン）との間で締結したAIモデル提供契約について、重要な修正が行われました。新たに「AIシステムを米国市民の国内監視に意図的に使用してはならない」という条項が明記されています。

この契約修正は、競合のAnthropicがトランプ政権によって「サプライチェーンリスク」に指定され、連邦政府での利用が禁止された直後にOpenAIが契約を締結したことへの批判を受けたものです。AI技術の軍事利用と市民の権利保護のバランスをめぐる重要な動きとして、大きな注目を集めています。

Anthropic排除とOpenAI契約の経緯

トランプ政権によるAnthropicの排除

事の発端は、国防総省がAnthropicに対して自社AIモデルを「すべての合法的な目的」に無制限で使用することを求めたことです。Anthropicはこの要求を拒否し、大量監視や自律型兵器システムへの利用を禁止する条項を契約に含めることを主張しました。

ピート・ヘグセス国防長官がAnthropicに最後通牒を突きつけた後、トランプ大統領は連邦機関にAnthropicの製品使用を停止するよう指示。ヘグセス国防長官はAnthropicを「サプライチェーンリスク」に指定しました。

OpenAIの契約締結とその反応

Anthropicの排除からわずか数時間後、OpenAIは国防総省との機密システム向けAIモデル提供契約を発表しました。サム・アルトマンCEOは当初、この契約にもAnthropicが求めていたのと同様の制限（大量監視の禁止、自律型兵器の禁止）が含まれていると説明しました。

しかし、契約の詳細が明らかになるにつれ、批判が噴出しました。Anthropicが拒否した「すべての合法的な目的」という基準にOpenAIが同意していたこと、そして監視禁止の条項が曖昧であったことが問題視されたのです。

契約修正の内容と意義

追加された監視禁止条項

修正された契約では、以下の点が明確化されました。

第一に、「AIシステムを米国市民および米国民の国内監視に意図的に使用してはならない」という文言が明記されました。さらに、「国防総省はこの制限を、米国市民・国民の意図的な追跡、監視、モニタリングを禁止するものと理解する」と付記されています。

第二に、「商業的に取得された個人情報または特定可能な情報」の調達や使用を通じた監視も禁止対象に含まれました。これは携帯電話の位置情報やフィットネスアプリのデータなど、民間企業から購入可能な個人データの利用に関する法的グレーゾーンに対応したものです。

第三に、NSA（国家安全保障局）、NGA（国家地理空間情報局）、DIA（国防情報局）などの情報機関がOpenAIのサービスを利用することも禁止されました。

憲法修正第4条の保護

今回の修正は、合衆国憲法修正第4条（不合理な捜索・押収からの保護）の精神を明示的に契約に反映したものです。商業データの購入による監視は、従来の法的枠組みでは令状なしでも可能とされるケースがありましたが、今回の条項はこの抜け穴を塞ぐ意図があります。

社内外からの批判と対応

従業員の反発

OpenAIの多くの従業員が、Anthropicを支持する公開書簡に署名しました。サンフランシスコのOpenAI本社前の歩道には、同社の決定を批判するチョーク・グラフィティが出現する事態にもなりました。

消費者もAnthropicへの支持を表明し、AnthropicのAIアシスタント「Claude」がApple App Storeのランキングで初めてトップに立つという現象が起きました。これはOpenAIの判断に抗議するユーザーの乗り換えが影響したと見られています。

アルトマンCEOの謝罪

サム・アルトマンCEOは、契約発表のタイミングについて「急ぐべきではなかった」と認め、「日和見的で杜撰に見えた（opportunistic and sloppy）」と反省の弁を述べました。「状況をエスカレートさせず、より悪い結果を避けようとしていたが、結果的に日和見的に見えてしまった」と説明しています。

注意点・展望

今回の契約修正は前向きな動きですが、いくつかの課題が残っています。

まず、条項の実効性をどう担保するかという問題があります。「意図的な」使用を禁止していますが、意図的でない結果としての監視をどう防ぐかは明確ではありません。

また、AI技術の軍事利用に関するルール作りは、まだ始まったばかりです。Anthropicが排除された経緯は、政府契約においてAI企業が倫理的な条件を主張する難しさを浮き彫りにしました。今後、他のAI企業が政府と契約を結ぶ際のモデルケースとなる可能性があります。

さらに、OpenAIは非営利から営利企業への転換を進めており、軍事契約の拡大が同社の方向性にどう影響するかも注目されます。

まとめ

OpenAIが国防総省との契約に監視禁止条項を追加したことは、AI技術の軍事利用における市民の権利保護に関する重要な前例となります。Anthropic排除の直後に契約を締結したことへの批判を受け、OpenAIは条項の明確化に踏み切りました。

今後はこの条項の実効性の確保と、AI企業が政府契約において倫理的基準をどう維持するかが問われます。AI技術が安全保障分野で活用される機会が増える中、市民の権利保護とのバランスをどう取るかは、業界全体の課題です。

参考資料:

関連記事

最新ニュース