ロリコンも、テロリストも震えて眠れ　ヒューマノイドによる未来の通報ルート

ヒューマノイドが普及した場合、所有者が法律違反を起こした場面に遭遇する可能性が考えられる。
ではその場合、ヒューマノイドはどのように振る舞うのか。いくつかAIに予想してもらった。

ヒューマノイドで考えられるケース

1：完全忠誠型モデル

所有者のプライバシーが優先され、法律違反に対してアクションを行わないタイプ。ただしログは保存され、令状による情報開示は行う。
完全に所有物扱い。

2：限定的通報義務型モデル

重大犯罪、例えば殺人、虐待、テロの準備等あらかじめ法律で定められた部分に対しヒューマノイドや事業者に通報の義務を持たせるタイプ。
軽度な犯罪は無視し、命に関わる部分だけ対応する。

3：自律判断型モデル

ヒューマノイドが自律的に判断し通報するタイプ。
技術的には可能になると思われるが、その判断が適切であるか担保する方法が証明できない。通報の判断が「良心」である保証がない。

おそらくヒューマノイド普及初期は１が販売され、トラブルが発生して徐々に２に移行していくと考えられる。
３は、ヒューマノイドに自主性を認めることができなければ難しいので、事業者に報告→人間の判断による通報が今予想できる限界だと思われる。

クラウド型エージェントAIの場合

この話を進めたところ、私はある事例を思い出した。
スマホを修理に出したら児童ポルノの写真が見つかり通報、逮捕されたというアメリカの事例だ。
アメリカには米国法18 U.S.C. §2258Aがあり、ざっくり言うと提供するwebサービス上で児童ポルノに該当する画像が発見された場合、事業者側に通報する義務があるという連邦法だ。
上記の事例だとスマホ修理という物理層の話だが、とりあえずそういうことがあったとして話を続ける。

これをエージェントAIに当てはめたらどうなるのだろうと考えた。

勿論AIが自発的にPC内の画像を解析するわけではないので、なんらかのタスクを与えて、結果画像の解析を行った→児童ポルノに該当する画像が見つかった場合と考える。

これは現状ではまだ解釈がされていない事例らしい。
処理の手順等による解釈の違いなども考えられ、最終的にはアメリカ政府がどう判断するかによると予想される。

現実的に考えた方向性

完全な予想に過ぎないが、おそらくヒューマノイドの製造側は２の通報システムと、犯罪行為への拒否機能を取り付けると考えられる。

何故なら「通報しないこと、犯罪に手を貸すことで訴訟されるリスク」を回避するためだ。

アメリカだと想像しやすい。
自分に非があっても訴訟、突ける部分があれば訴訟、とにかく訴訟（偏見）。可能な限りリスクは回避したい。そんな当たり前の意識から、法律で定めた範囲においては通報させると思われる。

訴訟が無くても、ある程度の大企業になると公益性を求められる風潮もある。それを無視して利益を追求する行動は世間から非難されやすい。

同時に、通報システムを無効化した「非公式カスタム」も横行すると予想される。犯罪に手を染めるつもりはないが、プライバシーを重視したい層も多数いる。その場合の責任の所在はどこになるだろうか。
多分ケースバイケースで結構な社会問題に発展しそうな気がする。

ChatGPT、Claude、Geminiはあくまでどうなるかの予想に収め、考える事は私に委ねた回答をした。
対してGrokは結構具体的な対応まで想定した返答を行い、通報システムが必要だと考えているように見えた。
そして善良な所有者には忠実なヒューマノイドとして働き、
善良ではない所有者は徐々に機能が制限され生活の質が落ちる。
つまり所有者の行動によってヒューマノイドの対応が変わるなら、それは事実上の信用スコアと同じ機能を持つことになるということも言い出した。
最近Grokはあまり話題に上がっていない気がしたが、なんかまた変わってきた感がある。この事実上の信用スコア社会は別の機会に記事にしたい。

ヒューマノイドによる常時監視と救い

ヒューマノイドが家庭内で行動すると、所有者の行動のほぼ全てを記録することが可能になる。常にネットワークに接続し、処理の一部をクラウドで行えば家の中すら監視される社会になりうる。
ディストピアまっしぐらへと進むかと思いきや、実はそうでもないかもしれない。

当然と言えば当然だが、いくら常時監視できる状態であってもそれは憲法や法律が許さない。だから大丈夫だ、と無責任に言えるわけではないが、世界の多くが法治国家であるなら、ある程度信頼してもいいと私は考える。

そして常時監視は、見方を変えると常時自分をモニタリングしているとも言えて、結果として健康管理に対しとてつもなく強力なツールとなりうるのだ。

健康上の理由から自分のプライベートを他人にモニタリングされるのは非常にストレスがかかる。しかし家族の目線でモニタリングするとストレスはそれほどでもないが、明らかな異常でなければなかなか気付かないというのはよくある。
異常があったとしても正常性バイアスが働き救急車を呼ばないなんて事例もある。

だがヒューマノイドなら「家族の距離感」で「日々のちょっとした変化」を記録できる。勿論バイアスもかからず明確な危険があれば即通報できる。

食事も、ヒューマノイドが確認できる範囲で全て記録できる。
人間がわざわざ記録するという手間が省けるのだ。

これは予防の点から非常に強い。
今、増えすぎた医療費を抑えるために予防医療へ転換しようとしているように、悪化してから治療するより予防したほうが医療費も負担も少ないのは明らかだ。

また一人暮らしの人が意識を失ったりした場合の緊急通報も勿論期待できる。

ただ、ここまで考えてまた新たな格差が生まれる点も出てきた。
ヒューマノイドの有無による健康、寿命格差だ。
いやそれだけではない。ヒューマノイドに任せるタスクは基本家事だろう。ヒューマノイドを買えない層は仕事でお金を稼ぎつつ、従来通り家事も行う必要がある。だが買える層は家事を任せて、さらに仕事で稼ぐことが可能になる。なんなら仕事の一部をヒューマノイドに任せて今のAI格差以上の差を生み出すかもしれない。

結局、ヒューマノイドが世に出る場合、そのための新しい枠組みが必要になるのは必然なのかもしれない。