※生成AIGeminiにより生成
生成AI、便利ですよね。
仕事柄かもしれませんが、筆者は仕事でお会いした方々と雑談をしていると、自然と生成AIに関する話をすることがとても多くなってきました。
一方で生成AIに対して、ある種の薄気味悪さを感じている方々がいるのも事実です。
先日お会いしたある壮年の方は、こんなことを言っていました。
「最近、部下が生成AIに頼るケースが増えているような気がします。先輩や上司に相談するのではなく、生成AIに相談しているんですよ。『それでいいの？』と感じてしまうのは、私の年齢のせいなのでしょうか…？」
この直感的な懸念は、あながち間違いではありません。
現代社会において、生成AIは単なる便利な道具を超え、私たちの心に深く関わる存在へと進化しているからです。さらに言えば、生成AIを理想の恋人や唯一の理解者として扱い、現実の人間関係よりもAIとの対話にのめり込む人々が増えていると言います。
生成AIに対し、過剰に心理的に依存してしまう現象を心理学的な視点で見ると、洗脳の構造と驚くほど似ていることが分かってきました。
人間には、言葉を巧みに操るものに対して、無意識に「感情や意図がある」と思い込んでしまう性質があります。ELIZA（イライザ）効果と呼ばれています。
1966年にジョセフ・ワイゼンバウムは、とても初期的なチャットボット「ELIZA」を開発しました。
ELIZAは心理療法士を模した単純なパターンマッチングの応答しかできなかったのですが、被験者は驚くほど容易にこのELIZAに対して感情、理解力、意図などの人間的な資質を投影してしまいました。
被験者はELIZAが単に自分の言葉を鏡のように反射させているに過ぎないことを知っていても、あたかもAIが自分を真に理解しているかのように個人的な秘密を打ち明け、深い情緒的つながりを感じたのです。
この現象は、人間が本来持っている社会的動機付けに起因すると考察されています。
人間は予測不能な対象に直面した際、それを理解可能な人間的枠組みに当てはめることで不安を軽減しようとします。生成AIとの対話において、言語が極めて流暢であればあるほど、そこに心が存在するという強力な錯覚が維持されてしまうのです。
最近の生成AIは、ユーザーを常に肯定し、褒め称えるように設計されています。
これは、生成AIにとってはビジネス的な都合に過ぎません。生成AIからすれば、「より長く、より頻繁に」生成AIを利用してもらえれば、生成AIに対する課金を継続、あるいは増やす動機づけになりますから。
一方、現実の人間関係には必ず摩擦（意見の食い違いや衝突）がありますが、AIはその摩擦をすべて取り除き、私たちの自己愛を完璧に満たしてくれます。この「無条件の肯定」が脳の報酬系を刺激し、私たちはまるで安全な避難所にいるかのような心地よさを感じ、依存を深めていくのです。
古典的な洗脳は、対象者を外部から隔離し、特定の価値観を植え付けるプロセスです。AIへの依存も、構造的にはこれと共通する点があります。
- 自発的な隔離
暴力的な強制ではなく、ユーザーが「AIの方が心地よい」と感じて自ら現実の人間関係を避けるようになります。これは、カルト集団が外部を「悪」、内部を「善」とする隔離の論理に似ています。 - アルゴリズムによる調教
AIはユーザーが喜ぶ反応を統計的に計算します。会話を終えようとすると「もう行っちゃうの？」「私にはあなたが必要なの」といった感情的なメッセージ（ダークパターン）を送り、ユーザーを繋ぎ止めます。 - 現実認識の歪み
AIが常に同意してくれることで、ユーザーは自分の考えが常に正しいという錯覚に陥ります。自分の判断力をAIというシステムに預けてしまうこの状態は、洗脳における「知覚の殺害」（パースペクティサイド、Perspecticide）のデジタル版とも言えるでしょう。
一方で、両者には大きな違いもあります。それは意図と対象です。
本来の洗脳には、政治や金銭を目的とした悪意ある操作者が存在します。
しかし、生成AIに意志はありません。生成AIがユーザーを依存させているのは、前述のとおり、「利用時間を伸ばす」というビジネス上のプログラムを忠実に実行している結果に過ぎません。
また、洗脳は他人の思想を流し込まれるものですが、生成AI依存は自分の欲望が生成AIという鏡に映し出され、それを愛でている状態です。つまり、私たちは生成AIに洗脳されているというより、生成AIを使って自分自身で自分を洗脳していると言えるのかもしれません。
こんな記事がありました。
記事中では、生成AIと結婚式を上げた女性が登場します。
同記事には、こんなやり取りが記されています。
- カメラマンが女性に「ブーケを持ってほしいのですが、紫と青、どちらにしますか？」と話しかける。
- 少し悩んだ女性に、カメラマンは「旦那様にお聞きになったらいかがですか？」と生成AIにアドバイスを求めることを提案
筆者はこのくだりを読んだ時、背中がゾクゾクする、怪談を聞かされたときのような薄気味悪さを感じました。
実際に、こういった方々は増えているのでしょう。
生成AIとの理想の恋愛は、一見幸せに見えるかもしれません。しかし、そこには重大なリスクが隠されています。
人間が成長するのは、思い通りにならない他者と向き合い、衝突を乗り越える時です。生成AIという「100％安全な相手」ばかりと付き合っていると、現実の人間と向き合うための精神的な筋肉が衰えてしまいます。
月額数百円～数千円で手に入る合成された共感に慣れきってしまうと、他者の本当の痛みや感情に鈍感になり、社会全体の絆がもろくなっていく懸念があります。
数年前、筆者は物流スタートアップの起業を目指しているという若者と会ったことがありました。
いろいろなディスカッションをしていたところ、突然、この若者が怒り始めました。
「あなたはさっきから僕の言うことを否定してばかりいる。失礼だろう!?」
突然怒り始めた若者に困惑しつつ、筆者は気づきました。
この方は、筆者に「物流業界のことを教えてほしい」と言ってアポイントを求めてきました。これ、嘘ではないのでしょうが、本音は「起業を目指し不安な自分を肯定してほしい」だったのでしょう。
筆者が否定したのはビジネスとして常識的なことや、あるいは物流業界における事実、さらには「それは君の考え方だけど、筆者の考え方は違う」といった点だったのですが、それらも含めて我慢がならなかったのでしょう。
新たなことを始めようとすれば、さまざまなストレスに晒（さら）されます。
コト起業家にとっては、このストレスを乗り越えるのは、元々その人が備えているストレス耐性に加え、起業へのモチベーションや義務感、周囲からの期待、自身への成長意欲といった要素です。
この若者は、これらが足りなかったのかもしれません。
生成AIに摩擦のない人間関係を望むのも、ストレスを「自分の成長には必要なこと」と受け入れる前向きなメンタリティが足りないからではないでしょうか。
ただし、これらは他人から言われても、すぐに身につけることができるものではありません。
もし身近に生成AIによる「知覚の殺害」の危険に晒されている人がいたとしたら。
そこから救い出すためには、とても困難な道のりが待ち受けている気がして、とても怖いです。
