Grokの性的画像生成問題でXを正式調査　欧州委員会

欧州委員会は26日(現地時間)、デジタルサービス法(DSA)に基づきXに対する正式な調査を開始した。XのAI機能である「Grok」のEU導入にあたり、リスクを適切に評価・軽減したかどうかの検証を行なうもので、改変された性的画像の生成などの違法コンテンツ拡散などのリスクも含まれている。

Xは、25年12月末にXのプラットフォーム上でGrokによるAI画像編集機能を追加。Grokにメンションして、自然言語で画像を改変・編集できる一方で、「@grok 服をビキニに変えて」などの指示で、本人の同意なく性的な画像として出力するなどの悪用も見られた。1月中旬にはXも画像生成を有料会員に限定するとともに、違法な利用に厳しく対応する方針を示している。

欧州委員会では、Grokの画像生成による性的画像問題について、「これらのリスクは現実化したと見られ、EU市民に深刻な危害をもたらしている」と言及。XがDSAに定められた義務を遵守しているかを調査する。

具体的な遵守義務は、「Grok導入時に、違法コンテンツの拡散、ジェンダーに基づく暴力に関連する悪影響、身体的・精神的健康への悪影響など、体系的なリスクを注意深く評価し軽減したか」と「リスク評価報告書作成と、欧州委員会への提出」の2点。

欧州委員会は今後、Xに対する聞き取り調査、立入検査の実施などを実施。Xのサービスに改善が見られない場合には暫定措置を命じる可能性がある。

この調査は、23年12月に欧州委員会が開始したXへの調査を拡大するもの。25年12月には、Xの「青バッジ」誤認などを理由に1億2,000万ユーロの罰金を課している。