vol.111 イギリスで連日報じられるGrok問題

ご注意ください
本記事では、子どもへの性搾取・虐待（CSEA: Child Sexual Exploitation and Abuse）に関する内容を取り扱っています。読者の方の中には不快感や心理的負担を感じる可能性のある描写が含まれています。また、お子様が閲覧しないよう、周囲の環境にご配慮ください。このテーマに関心がある方、もしくは深刻さを理解した上で学びや考察を深めたい方のみ、以下の本文にお進みください。読むのが苦しくなったら、無理をせず、途中で離れてください。

ここ数週間、イギリスではAIチャットボット「Grok」をめぐる問題が、ニュースでも専門家の間でも、ひっきりなしに取り上げられている。
非同意の性的ディープフェイク画像、とりわけ子どもを含む可能性のある画像が生成されていたという事実は、こちらでは極めて深刻に受け止められている。

英国政府はすぐに調査を開始し、規制当局のOfcomも正式に動いた。担当大臣が「こうした画像の作成は犯罪になりうる」と明言し、場合によってはプラットフォームそのものへの制限も辞さない姿勢を示したことは、子ども保護に関わる立場から見ると、特別驚くことではない。

一方で、日本の知人や同業者と話していると、こんな反応を受けることが多い。
「そんなに大きな問題になってるの？」
「日本ではあまり聞かないかも」

AIによる性的ディープフェイクは国境とは無関係

Grokの問題は、英語圏だけの問題でもなければ、特定の国だけの問題でもない。日本の子どもも、確実に射程圏内にいる。

実際、日本語圏のX（旧Twitter）でも、女性や少女の写真に対して「脱がせる」ことを目的にGrokが使われていた状況を、スクロール中に目にした人は意外と多いのではないだろうか？

そして、同時に
「子どもに実害がないから大丈夫」
「実際の写真は使っていない」
「証拠は？」
「これは表現の自由だ」
「大袈裟」
と主張している人が多くいるのも現実。

でも私は思う。
子どもが性的に描写され、拡散され、消費されること自体が被害だ。
実際に子どもが存在していなくても、だ。
これは表現の問題ではなく、人権の問題だと思うからだ。

イギリスが強く反応する理由

イギリスでここまで強い反応が出ている理由はシンプルだ。
子どもの安全は、問題が起きてから考えるものではないという認識が、社会にかなり浸透している。

危険が予測できるなら、最初から止めるべき。
「悪用されると分かっている技術を、無防備なまま出すこと」は許されないという考え方がイギリスにはある。科学的な根拠を実証するよりも、被害が起こる前に防ぐ方が大事と考える人が多い。そんな印象だ。

今回のGrokの機能も、「一部のユーザーが悪い使い方をした」では済まされない。「そう使われることが分かっていたのに、なぜ止めなかったのか」が問われている。

日本は本当に何も起きていないのか

日本では、表現の自由や技術革新への配慮がとても強く、こうした問題への反応が遅れがちだ。その結果、「海外では騒いでいるけれど、日本は静か」という印象が生まれやすい。それは被害がないからではなく、表に出てきていないだけかもしれない。

そんな中で、日本語圏でGrokによる性的コンテンツ生成に対する規制を求める嘆願書が立ち上がり、数万人規模の署名が集まっていることは、とても重要な動きだと感じている。最後にリンクを貼っているので、参考にしてほしい。

これは「過激な規制を求める声」ではない。
「このまま見過ごしてはいけない」という、極めてまっとうな市民の感覚だと思う。

イギリスでは、こうした市民の声が政策や規制に反映されるまでのスピードが比較的早い。日本では時間がかかることも多いが、だからこそ「声が上がり始めた」こと自体に意味があると思う。

アジアの国々が最初に動いたこと

もうひとつ、個人的に強く印象に残っていることがある。
それは、マレーシアとインドネシアが、イギリスよりも先にGrokへの対応に踏み切ったという事実だ。

両国は、子どもを含む非同意の性的ディープフェイクが重大な人権侵害であることを明確に示し、Grokをブロックするという決断を下した。

正直に言えば、アジア人として、少し嬉しかった。
「欧米が動いてから考える」のではなく、
アジアの国々が、自分たちの基準で「これは越えてはいけない線だ」と示したからだ。

「起きてから考える」では、子どもは守れない

Grokの問題は、これで終わりではない。
生成AIは今後さらに進化し、日本語対応も当たり前になっていく。

そのときに、
「想定していなかった」
「一部の人が悪い使い方をしただけ」
という言葉を、もう一度繰り返すのか。

それとも、予測できた危険には、先に手を打つ社会を選ぶのか。

ーーーーーーーーーーーー

相談先リスト

最後まで読んでいただきありがとうございました。
以下は、子どもの性被害や性的なトラブルにあっているかもしれないときの日本における相談先リストです。「確証はない」「誰に相談すればいいかわからない」そんな段階でも、相談して大丈夫です。

まず迷ったらここ

子ども本人が相談したいとき

性被害全般の支援（年齢問わず）

警察に相談したいとき（緊急でない場合）

ネット上の性的画像・動画を見つけたとき

行政や警察につながらない相談先（とにかく誰かに話したいときなど）

子どもの性被害は、はっきりした証拠がなくても相談してかまいません。
子どもの話があいまいに感じられても、おかしいなと思ったら相談してOKです。迷ったまま抱え込まず、189（児童相談所虐待対応ダイヤル）に電話することが、最初の一歩になります。

子どもが自分から被害を相談することのハードルは、とてもとても高いものです。だからこそ、親や周囲の大人が動くことが、子どもを守ることにつながります。