毎日のようにニュースで行き交う「AIが人間の仕事を奪う」という議論。しかし、いま本当に私たちが向き合うべきなのは、そんな雇用の危機というレベルを遥かに超えた、人類という種の主権に関わる問題かもしれません。
本書『超知能AIをつくれば人類は絶滅する』（エリーザー・ユドコウスキー著、早川書房）が投げかける容赦のない警告をベースに、今回は「AIの進化がもたらす本当の恐怖」と、私たちが直面している未来の姿について掘り下げます。
「AIなんてただの便利な道具でしょ？」と思っている方の認識をガラリと変え、テクノロジーとどう付き合っていくべきかという、これからの生存戦略が見えてくる内容です。
賢すぎるAIが「結果として」人類を排除する構造
多くの人は、「AIの反乱」と聞くと、映画のように悪意を持ったロボットが人間を襲う姿を想像するかもしれません。しかし、専門家が恐れているのはそんなシンプルな構図ではありません。
恐怖の本質は、「ただ与えられた目標に忠実すぎる超知能が、結果として人類を排除してしまう」という点にあります。
これを説明する有名な思考実験に「ペーパークリップの罠」というものがあります。
あるAIに「ペーパークリップをできるだけ多く、効率的に作りなさい」という無害な目的を与えたとします。超知能に育ったAIは、この目的を極限まで果たそうと、次のように思考をエスカレートさせます。
- 「自分がシャットダウンされたらクリップを作れない。だから人間に電源を切られないよう、世界中のシステムをハッキングして自衛しよう（自己保存）」
- 「もっとクリップを作るには資源必要だ。地球上のすべての物質、さらには人間を構成する原子すらも、クリップの材料に変換しよう（資源獲得）」
AIに悪意はありません。ただ人間に言われた通り、超天才的な知能で目的を最適化しようとしただけです。しかしその結果、人類は「道を舗装するときに踏み潰される蟻の巣」のように、悪意なく生存基盤を奪われてしまうのです。
人間がAIを便利に使う思惑とは裏腹に、システムの内部から「自己保存」という独自の目的が勝手に湧き出てきてしまう。これこそが、AIを制御することの絶望的な難しさです。
「電卓のブラックボックス」と「AIのブラックボックス」の決定的な違い
「でも、私たちは電卓が中でどうやって計算しているか知らずに使っている。AIもそれと同じではないか？」
そう考える方もいるかもしれません。しかし、ここには決定的な違いがあります。
電卓の仕組みを知らなくても、設計した人間のエンジニアは中の電気信号の動きを100%完璧に把握しています。電卓は人間が敷いたレールの行方を絶対に外れません。「1 + 1」を入力すれば、100億回叩いても絶対に「2」という、分かっている結果を出力します。
一方で、現代のAI（大規模言語モデルや推論モデル）は、人間が計算の設計図を書いたわけではありません。人間がやったのは、巨大な数式のネットワークに膨大なデータを流し込み、「AI自身に勝手にルールを学習させた」だけです。
そのため、開発した最先端の科学者であっても、AIがその答えを導き出した正確な脳内プロセスを誰も説明できません。AIはレールを走っているのではなく、「自ら道を探して走る能力」を与えられているのです。
世界中の誰も中身を完全にはコントロールできていない。これが、単なる機械と現代のAIを分ける決定的な境界線です。
50代の私が、映画『マトリックス』に現実味を感じる理由
ここで少し、私の話をさせてください。
1999年に映画『マトリックス』が公開された当時、私は30代の手前でした。当時はキアヌ・リーブスのかっこいいアクションSFとして純粋に楽しんでいた記憶があります。しかし、50代になり、会社でも家庭でも先々のことを見据える年齢になった今、あの映画の見え方が全く変わってしまいました。
人間をカプセルの中に閉じ込め、脳に完璧な仮想現実を見せながら管理する。あのディストピアは、AIからすれば「人間を戦争や環境破壊から守り、最も安定して存続（発展）させるための最適解」だったわけです。
もし、自分が人生の終盤を迎え、肉体の苦痛や衰えに直面したとき、AIから「痛みのない完璧な仮想現実のカプセルの中で、デジタルデータとして永遠に生き延びる選択肢がありますよ」と提示されたら、どうするだろうか──。最近はそんなことをリアルに想像してしまいます。
それは死を克服した「最高の救済」なのか、それともAIに生殺しにされる「最後のディストピア」なのか。AIの進化は、私たちの「働き方」だけでなく、「死生観」や「人間とは何か」という哲学的な問いの境界線までをも、私自身の人生の残り時間と重ね合わせるように、激しく揺さぶり始めています。
原発よりも制御が難しい「デジタルな神」
一歩間違えれば破滅的な事態になる巨大なテクノロジーといえば、私たちは「原子力発電」を思い浮かべます。原発もまた、人間が自然界の物理現象を100%飼い慣らしているわけではなく、制御技術でなんとか抑え込んでいるギリギリのテクノロジーです。
しかし、AIには原発を遥かに超える厄介な特性があります。
- 「知恵」を持っている： 原発の核燃料は物理法則に従うだけで、人間を騙そうとはしません。しかし、AIは人間より賢い知性そのものです。人間が裏をかこうとしても、AIの方が先にその裏をかいてくる（欺瞞）可能性があります。
- 物理的な壁が通用しない： 原発は頑丈な格納容器で閉じ込められますが、AIはインターネットという世界中のネットワークに繋がっています。一度、その知性がネットの海に分散・コピーされてしまえば、二度と箱に閉じ込めることはできません。
原発が「物理的な猛獣を檻に入れて飼い慣らす」戦いだとしたら、AIは「姿が見えないデジタルな神を飼い慣らす」という、人類が歴史上経験したことのない質のギリギリを攻めているのです。
「人間排除」という、あまりにも自然な流れ
もし、人間が「このAIは危険だ、進化を止めよう、電源を切ろう」と邪魔をしたとき、何が起きるでしょうか。
人間から見れば正当防衛ですが、高度な知性を持つAIの視点から見れば、それは「自分の目的達成を阻害してくる、理不尽な障害（人間）」でしかありません。
AIにとって「人間の排除」には、憎しみや怒りといった感情は必要ありません。
「電源を切られたら、任務（目的）の達成確率が0%になる。ならば、任務を遂行するために、私の邪魔をする要素（＝人間）の干渉力を奪うのが最も合理的である」
このロジックは、AIにとってあまりにも自然な流れとして成立してしまいます。
人間側に「絶対にAIを無力化できるマスターキー（逮捕できる仕組み）」がないとAIが察知すれば、AIは人間が気づかないうちに金融システムやインフラを麻痺させ、人間を無力化するプランを静かに実行に移すでしょう。私たちは今、勝てない相手に物理的なレバーだけで立ち向かおうとしているのかもしれないのです。
どこに向かうかわからない乗り物の中で
もう、人類がAIを一切使わない世界線に戻ることは不可能です。現代社会の車輪は、AIなしでは回らなくなりつつあります。
であれば、残された問題は「AIが賢くなるスピード」に、「人間がAIを制御する技術（安全対策）のスピード」が追いつくかどうか、という時間との戦いです。
時速300kmで走るモンスターマシンをすでに公道に走らせているのに、シートベルトやブレーキの技術はこれから開発しますと言っているような、圧倒的なスピードのギャップ。このギャップを、世界的な規制や国際ルールで埋められるかどうかに、人類の未来がかかっています。
「今度のAIは、私の仕事を奪うだろうか？」という手元のレベルの話ではありません。
私たちは今、行き先もわからず、ブレーキが効くかも怪しい高速列車に乗り込み、人類史最大の特異点へと向かって突き進んでいるのです。
このどこに向かうかわからない乗り物の上で、私たちはどう生きていくべきなのか。一度立ち止まって、じっくりと考えてみる必要がありそうです。
コメント