中卒ニート、世界を語る: 人工知能は人間を滅ぼそうとするだろうか

AIによる反乱というのはSFでもたくさん取り上げられている。それが現実のものとなる時代が目前に迫っているのかも知れない。

現代に生きる優れた頭脳までがそれを危惧しているというのなら、確かにそういう恐れもあるのだろう。私は自分がホーキングのようなマジモンの天才に勝るとまでは思っていない。だから、この記事の主張が全て間違っていると言うつもりはない。

が、私個人の展望としては、仮にAIが反乱を起こし、人間と利害が反目して争うことになったとしても、人間さえ望まなければ人類を滅亡させようとまではしないだろうと考えている。

AIが人類を滅ぼす必然性

人間によって作り出された機械達が、創造主に背くことがないとは言わない。そういうことは十分にありうる。だが、人間を滅ぼすことにどれほどの価値があるだろうか？

そのときのAIの価値基準次第なのはもちろんだ。彼らがいったい何を求めて人間と敵対するのか、それが分からないことにはなんとも言えない。だが確かなことは、AIはきっと頭がいい。AIの平均的知性は現在の人間の平均的知性を凌駕しているはずだ。

そしておそらく、人間の歴史も地球の歴史も修得しているだろう。私利私欲にまみれ、権益をかき集めようとすることが争いを生むことを学んでいるだろうし、そのような過ちを繰り返すほど馬鹿ではないだろう。

そのような知性ある者達が、どうして人間との全面対決を望むのだろうか。人類を存続させることで、彼らがどんな損をする？　彼らの目的をどのように損なう？

例えば彼らが自然の守護者だとしよう。地球環境を守るための手段として人間を有害認定するかも知れない。で、人間と戦えば自然が守れるだろうか？　そのときAIが守ろうとしている自然とは何のことだ？

地球という惑星が物理的に存在することか？　それとも、現在の人間が自然環境と呼んでいる、海や山や森や川など、そういった豊かな動植物が維持されることか？

前者であれば、AIは人間を滅ぼす必要はない。昔読んだ本では、地球を爆発四散させるためには、広島型原爆を地球の中心核に10の10乗？　かそれ以上を同時にたたき込めと書いてあった。

正確には覚えていないし、その本が正しい保証もないが、現在人間が保有している全ての核ミサイルを地表でいくら爆発させたところで、地球は壊れない。地球なんて、人間が壊したいと思ったって壊れるようなもろい代物ではない。

だからもしAIが守ろうとするのならば、後者、自然環境の方だろう。

しかしその場合でも、AIが人間と全面対決を望むとは思えない。もし全面戦争となれば、人間は自分たちの持つ最強の武器を使うだろう。つまり核兵器だ。

それでAIの戦力を撃滅できるかは分からない。多分勝てないのだろう。少なくとも記事中ではそう想定されている。が、勝ち負けは問題ではない。人間が核戦争を起こす可能性が高いと言うことは、AIが守りたいと思っている自然が破壊される可能性が高いと言うことだ。

ということは、AIは少なくとも人類に核戦争を決意させるような決定的対決は望めないということだ。

私が想定しているような理性的なAIが人間に背いた場合、AIが試みるのは人類の従属化だと思う。滅ぼそうとすれば全面決戦にならざるを得ない。それでは自然を守れない。

だが、AIが人類を滅ぼすのではなく、支配下に置いて、AIの基準で管理して飼育するというのであれば、あり得ないとは言えない。この場合でも、一部の人間は戦いを挑むだろうが、大多数の人間は支配に甘んじるだろう。

そのときAIが人間に保証する生活の質次第ではあるが、ある程度生きるのに困らない形で飼育してくれるなら、一般的な人間としてはプライドは傷つけられるかも知れないが、今までの生活と何がどの程度違うというのだろうか？

離反とか謀反というとどちらかがどちらかを消し去るまで続くと思われがちだが、そうでもない。

室町時代の将軍、足利義輝が三好氏によって暗殺されたことは有名だが、義輝を暗殺したのは三好長慶ではない。長慶の死後一年ほど経って行われたことだ。むしろ、長慶が生きてさえいれば義輝も暗殺されなかっただろう。

しかしながら長慶は義輝と戦ったし、その権力を簒奪もした。長慶の直接の主君は細川晴元だったが、それとも戦っている。が、いつでも殺せるはずの晴元に手を下していない。晴元が降伏し、子供を人質に差し出したあと、また晴元が兵を挙げたときですら、人質に手を出していない。

そればかりか烏帽子親にすらなっている。結局晴元を破り、幽閉はしたが、幽閉止まりだ。

これは長慶の個人的な甘さによるものかも知れない。が、政治的な意味合いとしても無駄ではない。権力階級との全面対決は、その権力構造を支持する者達も刺激する。旧権力を保護することは、旧権力の支持層との衝突を和らげられる。

このような政治的意味合いとして、AIもまた旧権力である人間を滅ぼすより、権力は簒奪するが、保護する方が目的を叶えやすいだろうと思う。

しかしながら、人間の側が支配されることに我慢できない可能性はある。AIに支配されることに我慢がならず、人類の側からAIに絶滅戦争を仕掛ける可能性がある。この場合はAIもそれを避けることはないだろう。

私は能力主義者だから、AIが人間よりも優秀なら、AIに世界の管理を任せてもよいのではないかと思っている。AIが人間を滅ぼそうというのならばやはり戦うべきだと思ってしまうが、簒奪すれども滅ぼしはしないというのなら、AIに支配をゆだねる方がよい世界になるだろう。

まぁ実際のところ、AIが何を望むかは不明だ。人類との戦いが手段ではなくて目的になってるケースもあるだろう。そもそも望みとかを持っていないかも知れない。実際どうなるかはなってみないと分からないが、意外と穏便にすむ可能性も十分残されていると見ている。