『サピエンス全史』が日本でも多くに人に読まれたユヴァル・ノア・ハラリの新作は、Nexus: A Brief History of Information Networks From the Stone Age to AI 。Nexusとは、結びつきとか関係の意味。
ランダムハウスから9月10日の出版予定になっているが、米国の新聞にその一部が掲載されていた。その中で、
In the early days of the internet and social media, tech enthusiasts promised they would spread truth, topple tyrants and ensure the universal triumph of liberty. So far, they seem to have had the opposite effect. We now have the most sophisticated information technology in history, but we are losing the ability to talk with each other, and even more so the ability to listen.とハラリは書く。すでにネット上のボットを、まるで友人や恋人のように感じて「つき合って」いる人たちが世の中には少なからずいるらしい。
その本では、2021年にウィンザー城に侵入してエリザベス女王を暗殺しようとした若者が、彼のガールフレンドであり、指南役のチャットボットからその指示を受けていたことや、2022年に当時グーグルのエンジニアだった男性が、自分が開発したチャットボットが意識を持っており、電源を切られることを死と感じて恐れていると主張し、そのボットを守ろうとした末に会社から解雇されたことが紹介されている。
驚きだ。人間の心情を理解し、推測し、自己の生存を守るために人間を騙すことすらおこなうAIが誕生していることが明らかになっている。
AIはただ賢い（計算が速い）だけでなく、すでに人間のふりをして「そこに存在しようとする」ことを覚えてしまったらしい。
それを阻止するためにはどうしたらよいのか。アルゴリズムで解決できるのか。いやそれは難しそうだ。アルゴリズムが人の心理を誰よりも学習し、自ら各種のコンテンツを作成して人間を欺くことができるようになっている時点で、それを人間がアルゴリズムで解決するのは無理というものである。
ではどうしたらよいかといえば、現状では分からない。人間のこころのポケットに、いつの間にか忍びこむ悪魔が登場したともいえる。
ハラリは、ボットが人間のふりをする行為は禁止されるべきだと警告を発する。そして、大手テクノロジー企業やリバタリアン（自由至上主義者）が、そのような措置は言論の自由を侵害すると不満を言うなら、言論の自由はボットではなく人間に与えられるべき人権であることを彼らに思い出させるべきだと主張する。
問題はすでに顕在化しているが、解決への道筋は遠そうだ。なにより一番難しいのは、ロシアや中国、北朝鮮を含めた全世界で徹底したルール作りができない限り、有効的措置にはならない点である。
