Claudeで生成した文章に「電子透かし」導入　編集しても残る

Anthropicは、今後「Claude」のAIモデルの出力として「透かし」が入ったテキストを生成すると公表した。欧州のAI規制法(EU AI Act)に対応するためのもので、主要なAIプロバイダー各社も対応。全世界のClaudeの出力に透かしを付与していく。11日に透かし導入の方針を公表していたが、14日にその詳細を公表した。

Anthropicによれば、同社が採用する透かし手法は、Claudeの出力の品質や内容に実質的な影響を与えず、利用者には識別できないとする。テキストに何も追加されることはなく、隠し文字も存在しないほか、透かし処理には追加のトークンは不要で、コスト増にもつながらないという。また、透かしには識別情報は含まず、特定の個人、組織、チャットに遡及することはできない。

8月2日から、EUはEU市場でサービスを提供するAI事業者に対し、AI生成コンテンツに透かしを入れることを義務付け。Anthropicを含む190社が署名しており、モデル提供各社も、独自の透かしを導入する予定。

また、GoogleのGeminiでは以前から電子透かしを導入しており、Claudeでも同様のSynthID-Textの仕組みを導入する。

Claudeなどの大規模言語モデルは、1語ずつ生成することで機能する。例えば「今日の天気は寒くて……」という文の場合、次の単語が「甘い」になる可能性は低いが、「曇り」や「どんより」になる可能性は高い。「曇り」と「どんより」のような、意味はほぼ同じで「どちらでもいい選択」が文章中に発生する場合に、透かしをかける際に「鍵」と直前の単語列を使って、あたかもランダムであるかのように単語を選ぶ。これにより、生成された文章を鍵と照合すれば「Claudeが書いた可能性」を判定できるパターンが残る、という仕組みとなる。

この仕組みは、内部テストやGoogle DeepMindのSynthID-Text論文で確認済みとしており、内部テストでは、透かし処理がClaudeのテキストの内容や創造性のレベル、読みやすさに影響を与えないことを確認した。

テキストを編集して、透かしを「回避」することも、「ある程度は可能」という。軽微な編集では透かしを完全に除去できないが、すべての単語を置き換える場合は、透かしは機能しない可能性がある。

なお、事実が中心となる文章や正解がひとつしかない文章では、透かしは機能しないことがあるほか、正確さが求められるコード生成では選択の余地が少ないため透かしが弱くなる。また、校正や簡単な編集などの場合も、Claudeが選んだ単語が少なくなるため、透かしが検出できないこともあるとする。一方、翻訳は全単語をClaudeが選ぶため、透かしがかかるという。

この透かしは、「Claudeがコンテンツを生成・処理した可能性があること」を示すだけのもので、所有権や著作者についてはなにも示さず、利用規約に基づくユーザーの権利を変更するものでもないとしている。

今後、テキストがClaudeによって生成されたものかどうかを確認するために、「透かし検出API(watermark detection API)」を提供予定。画像などのファイルは対象外で、C2PAなどの業界標準をサポートしていく。また、8月2日以前にリリースされた旧モデルでも、今後数カ月かけて対応予定としている。