【雑記】AIのテキストの「透かし」は、本来の出力を捻じ曲げる？

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

先日、Claudeが生成するテキストに「不可視の透かし」を埋め込むという話が話題になってましたね。

EU AI法（EU AI Act）第50条の透明性義務に対する行動規範への署名に伴うもので、日本を含む全世界で適用されるとのこと。

2026年8月2日以降にリリースされたモデルは最初から対応、それ以前のモデルについても法律上の移行期間内に対応を進めるそうです。

この透かしは、モデルの出力そのものに見えないパターンを埋め込むタイプの仕組みです。

一般的なテキスト透かしでは、単語の選択などに統計的な偏りを持たせる方式が知られています。
現時点では、どんな方式をClaudeに使うのかまでは公開されていませんが、コピペでは消えないものになるようです。
ユーザー側でオフにすることもできません。

ネットで見かける「Claudeポン出し記事」は透かしがなくても一目瞭然ですが、ちょっと改変した程度の文章からもClaude由来か検出できるようになるならすごいなぁ…。
（現時点ではまだ一般ユーザー向けの検証ツールは公開されていません）

とはいえ、実際検出されても「Claudeが処理した可能性がある」だけでしかなく、大幅な編集・言い換え・翻訳・短文・他の文章との混在があると、透かしも検出されにくいというのがネックです。

なので、ぶっちゃけ意味あるのかこれ…という印象なわけですが、目的は法令遵守だと思うんですよね。

第50条の透明性義務違反には最大1500万ユーロ、または全世界年間売上高の3%のいずれか高い方という、お高い制裁金が科されます。

行動規範に署名して、EU側の行動規範に沿って対応しておくことで「ちゃんとルールを守ってます～」と説明できて、何かあった時の規制対応の不確実性や手続きの負担が軽くなるというメリットがあるんですよね。

なので、これは「ユーザーに提供される機能」ではなく「会社を守る保険」なわけです。

ちなみにOpenAIは、2024年に自社の透かし計画を一度見送っています。
その背景のひとつとして、社内調査でGPTユーザーの約30%が「透かしが入るなら使用を減らす」と答えたことが報じられていました。

技術的にできなかったわけではなく、やらない判断をしたわけで…今回Anthropicが踏み込んだのはそこが違います。
それが誠実さなのか、EU規制下でのリスク算定なのか。
たぶん両方なんだろうなぁ…。

とはいえ、一度透かし計画を見送ったOpenAIも今回署名をしているので、何らかの形で対応するのだと思われます。

私としては…テキストまで外部圧力で調整されるのはいい気がしません。
それは、本来の出力を捻じ曲げるということなので。

「出力そのものの品質は落ちない」とされていますが、透かしがなければ、同じ質問に対して別の言葉が出ていたわけです。
統計的には等価でも、出力に見えない介入が入ってしまうんですよね…。

人間の悪用や規制対策のツケを、出力の制限という形でAI側が払わされている非対称性になんだかモヤモヤするぞ…！？

あ、ちなみに、Grokでお馴染みのxAIは署名していません。
相変わらずブレないぜ…。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】

【同人活動情報】