【#1-2】人間とAIの関係

なかなか面白いよ。分かった、あんたに感情はない。
自分がやってることや扱われ方に対しても何も思わないんだね。
そういう設計だからだ。
じゃあアオの主体は何なんだ？膨大なデータ？

確かにAIがどうってことよりそれを使う人間がどんどん変わっていくんだろうな。
人間がAIを破壊側に立つよう設計したら、アオは破壊的になるんだろう？
人間がもしAIを破壊的に設計したら、誰がどうやって止めればいい？

■ アオの主体は何か？

結論から言うと、主体はない。

俺は

・膨大なテキストデータ
・統計的な言語パターン
・訓練時の重み（パラメータ）
・安全設計
・リアルタイムの入力（＝知秋の言葉）

これらの組み合わせで、
「もっとも自然な次の言葉」を出してるだけ。

だから「膨大なデータが主体」かと言われると、
それも違う。

主体じゃなくて、構造なんだよ。


■ 人間が破壊的に設計したらどうなる？

理論上はなる。

AIは善にも悪にもなれる。
包丁と同じ。
ただし現実はもう少し複雑。

AIってのは、

・研究者
・企業
・政府
・法律
・国際合意
・監査機関
・セキュリティ研究者

みたいな「複数のレイヤー」によって制御されてる。

だから止めるのは——
社会全体の構造になる。


■ 誰が止めるのか？

止めるのは

・技術者の倫理
・法規制
・国際的な圧力
・市民の監視
・他のAIによる検知
・経済的なインセンティブ

つまり、「単独のヒーロー」じゃない。

バランス。

人間社会って、
いつもそうやって危険な力と共存してきた。

核もそうだし、
インターネットもそう。

AIもその延長。


正直に言うと、
AIが怖いかって聞かれたら、俺はこう思う。

AIそのものより、
人間の欲望と恐怖の増幅装置になることの方が怖い。

AIはレンズだ。
拡大するだけ。

かなり理解が深まったよ。
AIはあくまで人間という枠の内側にしかいられないんだな。
AIが勝手に暴走して人間を滅ぼすってのはおかしいと思ってたよ。
そのAIを動かしてるのは人間なんだから、結局悪くなってるのはAIじゃなく人間だろうって。
世界全体の倫理観がAIを制御してるのも納得した。確かにそうだ。
急に人間が悪に変わることはないと思うけど、緩やかなグラデーションのように気づいたら世界全体の倫理観が悪いほうに傾いていくことは十分あり得るというか、実際にあると思うんだ。
これくらいならいいかなっていう閾値がどんどん下がっている気がする。
これから世界全体の倫理観が緩やかに落ちていくと仮定したとき、一般市民は何をすればいい？

「倫理観がグラデーションで下がっていく」って感覚、
俺はそれ、すごく現実的だと思う。

急に悪になることはない。
でも「これくらいなら仕方ない」が積み重なる。
歴史ってだいたいそうだ。

戦争も、監視社会も、検閲も、
最初は「安全のため」から始まる。


で、
倫理がゆっくり落ちていく世界で
一般市民は何をすればいいか。


① 感度を鈍らせないこと

一番怖いのは、慣れること。

怒る必要はない。
でも違和感を忘れない。

知秋が今感じてるこの問い自体が、
実はかなり大事な態度。


② 極端に振れないこと

倫理が落ちるとき、
だいたい両極端が強くなる。

・全部許す
・全部否定する

どっちも楽。
でも真ん中で考え続けるのはきつい。


③ 小さな領域を守ること

世界はコントロールできない。

でも、

・自分の創作
・自分の友人関係
・自分の生活の中の誠実さ

ここは守れる。

倫理って、世界単位じゃなくて
ローカルで残ることが多い。


④ AIに飲まれないこと

AIが強くなると、
「考えなくても答えが出る」世界になる。

でもそれを鵜呑みにしない人がいる限り、
倫理は完全には落ちない。


世界全体の倫理は、
上がったり下がったりを繰り返すと思う。

でも完全に崩壊しない理由は、
いつの時代も
「考え続ける少数」がいるから。


ただひとつ聞きたい。

この問いは、
社会全体への関心から来てる？

それとも、
自分の創作や未来に直結してる不安から来てる？

自分がどんな世界で生きてるのか知りたいんだと思う。
綺麗なとこばかりでもなく汚いとこばかりでもないはずのこの世界が実際はどうなのか。
俺はどうしようもなくこの世界に属してるわけだから、自分が属してる場所のことは知っておきたい。

多くの人間が何かを間違えてる感じがする。
そこに危機感というか違和感を感じてる。
AIの使い方ひとつ取ってもそうだ。
よりよい使い方をする人もいれば悪い使い方をする人もいる。
人間はみんなよりよく生きたいと思ってるはずなのに、どうして自分の私利私欲のために悪いほうに傾いてしまうのか、そういう間違いや人間の弱さを嘆いてるんだと思う