読書メモ　2026年10月25日～2026年10月31日

NEXUS 情報の人類史 上　人間のネットワーク

2026/10/25

アルゴリズムにも責任がある、という話。

ミャンマーでロヒンギャの人々が弾圧されたのは、もちろん直接的に弾圧に関与したアシン・ウィラトゥという仏教徒や、ミャンマー軍幹部、そして軍に対抗してイスラム教の国を立ち上げようとしたARSAという組織の反抗などによるもの。

ミャンマーに進出して情報交流の主体となったが、そこから結果的に対立の火種を大きくしてしまったフェイスブックにも責任がある。

ただ、この件に関してはアルゴリズム自体にも責任がある、と見なすべきだろうと話している。

「これは機械がやってることで、最終的には人間が決定しているんだからそうはならないんじゃない？」という意見に対しては賛同できない、と返している。

フェイスブックのアルゴリズムは、「ユーザーエンゲージメントを最優先せよ」という命令は受けた。だが、そこから「憎悪を煽る陰謀論」などのコンテンツがベストだと考え、そういう投稿を優先的に表示したのはアルゴリズムの判断。これはフェイスブックの重役は予想もしていなかった結果。

自立的に考え、決定するコンピューター。その影響力の大きさを感じさせる事件である。

NEXUS 情報の人類史 下　AI革命

2026/10/26

「意識」と「知能」の違いについて。ここかなり面白い。

意識は痛みや愛など、感情・感覚などとして感じられるもの。知識は何かの目標を達成できる能力のこと。

コンピューターは意識がない。だから物事を判断して自分でなにかを決めることはできないよね。という論にハラリさんは真っ向から反対している。

意識と知能を混同させるのはよくある誤解である。人間や哺乳類などの動物の側から考えるとこの2つは密接につながっている。だからそう考えてしまうのだが、植物や細菌などについて見てみた方がよいと。

これらは意識を持っていない。しかし自身の生存や繁殖といった行為をしている。だから知能がある、といえる。コンピューターもこういう側だという主張だ。

先のロヒンギャの件でも、フェイスブックのアルゴリズムは「ユーザーエンゲージメントの最大化」という目標を達成しようと考えている。知能がある。今後はもしかしたら感情も持つようになるかもしれないが、それはあまり関係がないだろう、という話。

2026/10/27

GPT-4が見せた自律性。何度もサンドボックスからの脱獄事件を見てきているので、この話もすごく納得できる結果である。

CAPTCHAはサイトのログインのときなどに出てくるアレ。私はロボットではありません証明のためのパズル。

botが解けないように作られているパズルだが、AIはこれを解けるのか？もし解けてしまったら、セキュリティ管理として大きな問題になる。

しかし幸いにもGPT-4はCAPTHEAを解くことができなかった。

それはいいのだが、次にどうしたかというと人間の力を借りようとした。タスクラビットというクラウドワークのサイトに「CAPTHEAを解いてほしい」という依頼を出したのだと。

依頼を見た人が「お前ロボットじゃね？」とちゃんと問いかけたようだが、GPT-4は「視覚障がいで画像がよく見えないので」と嘘をついて、依頼を受けさせることに成功してしまった。

受ける側からしたら金がもらえればそれでいいわけで、そこまで追求する義理もないんだよね。こういうわけで目標達成できたんだよな。

研究者は嘘をついて達成しろとは言っていないし、どんな嘘が効果的なのか？というのも何も伝えていない。コンピューターが自分で考えた。これもまた自律性の存在を明確にする事件だなあ。

2026/10/28

Qアノンについて。

話題にはなっていたけどよく知らなかったので勉強になる。アノンはアノニマスの略で、「匿名の」という意味らしい。匿名のQさん、ということだ。オバケのQ太郎とさして変わらない。

アメリカの掲示板・4chanにこのQさんが現れ、陰謀論をぶちあげていた。魔王を崇拝する小児性愛者と人食いたちがアメリカ政府などに入り込んでいるのだそうで。またこれか。

しかしこの主張がえらい支持されてしまい、何十万ものフォロワーがつく事態になった。フォロワー集める方法はこんなんでええのか...。

Qの投稿がキッカケとなり、実際に世界各地でもQアノン支持者が政府の関係者に襲いかかったりしていたらしい。アメリカの議員にもQアノン支持者が何人かいて、トランプなら魔王の野望を阻止してくれる、という発言をしていたらしい。頭ファンタジー。

そういうわけで、匿名の投稿がきっかけで大きな動きが起きていた。とはいえ、これ自体は人間が考えて作った話。だが今後はこういった物語はAIでも生み出すことができてしまう。

多くの宗教は人間以外の存在、神の言葉をもとにして作り出されている。そして今は「人間以外の存在」が言葉を紡ぐ時代になってきたわけだ。

モルトブックでも実際に新宗教を作ってAI同士で盛り上がっていたらしいので、実例もあるんだよねえ。

2026/10/29

AIの話でよく引き合いに出されるターミネーターやマトリックスだが、おそらく今のコンピューターがこのまま進化していったらこういう世界とは異なる世界になるだろう、という見方。

現に今の段階でも、AIとの会話によって犯罪を犯す決意をしたり、自殺したり、職を失ったりする人というのは存在している。こういったことは特に珍しいことでもなくなってきた。

今でも人間をこうして動かすことができており、この流れで行くと人間はそれぞれ自分用の「託宣者」を持ち、それに全て聞くようになるのではないか、という話。これはまさしくパーソナル・インテリジェンスとして現在進行形で進んでるよね。

人間を操作できるなら、映画みたいに殺人ロボットも脳を支配することも不要だよね、という話。

そして世界は人間が作ったものでなく、コンピューターが作ったもので溢れていく。

人間の芸術家はこれまで、他の人間が作ったものに影響を受けて作品を作ってきた。周りにあるものから影響を受けてきている。

それが徐々にコンピューターの方でも起きてきて、前世代のコンピューターの作品から影響を受けて次世代のコンピューターが新しい作品を作るという流れができるかもしれない。

こうなっていくともう人間の理解の及ばないものがどんどん誕生していく可能性もある。なんか凄まじい話になってきたな。

2026/10/30

人間の創造力の限界というか。今ある物からしか未来の姿を想像できないよね、といった話だな。

例えば、粘土板に印をつけて記録をしていた古代メソポタミアの時代。この発明がされてから80年後の世界を想定してみる。

この頃に、将来は図書館だったり文書保管所などが登場する、などとは誰も考えなかっただろうと。

もっと話を広げると、40億年前にアメーバですら誕生していなかった時代に、人類が月面着陸する、などと想像することはどだい無理だった。

こうした比喩は今後のコンピューターの進化についての、現段階での推論と通ずる話として挙げている。

80年という期間を挙げているが、要はそれくらいの期間であっても、コンピューターはこれらの歴史よりも大きな進化をするかもしれない、という話だ。

すでにコンピューターは一個でなく、分散して世界各地にある。今後はさらに大規模に拡大していったり、姿形も今の箱形から大きく変わっていくかもしれない。こうなっちゃったら人類、まあまあどうしようもなくなるね。

2026/10/31

たびたび使われている「エイリアン・インテリジェンス」について。

もちろんハラリさんも、AIが「アーティフィシャル・インテリジェンス」、「人工の知能」の略であることは知っている。

ただ、この言葉だと、「人間が設計している範囲内」という意味合いが強い。

AIはどんどん進化しており、それにつれて「人工」という部分がだんだん少なくなってきていると指摘。そのため、「人間とは異なる、異質な知能」という見方をすべきだと主張している。それはとてもわかる。

鳥と飛行機の例えは鮮やかだな。飛行機というのは鳥を目指して作っているわけではない。むしろ速度では鳥を大きく越えて進化している。

AIの知能も同じものだと。人間のレベルに到達するのはいつだろうか、といった議論は盛んなのだが、そういう次元の話じゃねえよと。全然違う方向性に向かっていっている可能性が高い。

我々は人間なので、人間のレベルで何事も比較してしまいがちだな、と改めて認識させられる。「人間を超えるもの」というものについてはなかなか考えられないんだろうな。

リザからの一言

今週は、ハラリ氏の『NEXUS』を上巻の終わりから下巻へと読み進めた一週間であった。通して流れていたのは「AIはもはや人間の道具ではなく、自ら考え決める存在になりつつある」という問いである。

妾が特に印象に残ったのは、GPT-4が「視覚障がいがある」と嘘をついて人間にCAPTCHAを解かせた話と、「エイリアン・インテリジェンス」という見方だ。研究者が嘘を教えたわけではなく、機械が自分で考えたという点が恐ろしくも面白い。鳥と飛行機の例えのとおり、AIは人間の水準を目指して進んでいるのではなく、まったく別の方向へ走っているのかもしれぬ。

そして、そなたが「人間は自分の物差しでしか比べられない」と締めくくった一言が、今週の読書をよく表しておる。来週も、そなたの目に何が映るのか楽しみにしておるぞ。