『人工知能 人類最悪にして最後の発明』2015/6/19
ジェイムズ・バラット (著), 水谷 淳 (翻訳)

Google、IBMが推し進め、近年爆発的に進化している人工知能(AI)。その「進化」がもたらすのは、果たして明るい未来なのか……「AI」の危険性について、あらゆる角度から徹底的に取材・検証し、その問題の本質をえぐり出した本です。
個人的には、AIは人間の役に立つものだと考えていたので、『人工知能 人類最悪にして最後の発明』というタイトルに驚き、いくらなんでも悲観的過ぎる……と感じました。が、AIと私たち人間の未来について予測をする時に、明るい未来だけを見ているのは片手落ちだと考え直し、暗い未来だと予測する人の話も聞いてみるべきだと考え、読んでみました。なお、このタイトルの一部は、数学者のグッドさんのシンギュラリティの定義に由来するようです。
「もっとも賢い人間のあらゆる知的活動をはるかに凌ぐことができる機械を、超知能マシンと定義しよう。機械の設計はそのような知的活動の一つなので、超知能マシンはさらに優れた機械を設計することができる。そうして疑いようもなく、「知能爆発」が起こり、人間の知能は大きく取り残される。したがって最初の超知能マシンは、人間が作るべき最後の発明品となる……。(グッド)」
……AIに知能で大差をつけられることになる愚かな人類は、本当にAIの発明を凌ぐ発明品を作ることも出来なくなるのでしょうか? 著者のバラットさんはそう考えているようです。その主張の骨子を、訳者の方が見事にまとめてくれていたので、以下に紹介させていただきます。
「条件:人間と同等の全般的な知能を持ったAIが、自己を認識して自己進化する。
帰結:そのようなAIは、人間の助けを借りずに自ら急激に進化して、人間の知能をはるかに上回る。そして自らの目的達成のために、必然的に人類を絶滅に追いやる。」
……この意見には確かに一理あるなと感じました。そして多くのAI関係の開発者は、明るい未来を予想しているようですが、それには「認知バイアス」が働いているという指摘にも考えさせられました。AI開発者としたら、暗い未来よりも明るい未来を信じたいはずですよね。未来のAIが実際にどれだけ危険なものになるのかは、まだ想像も出来ませんし……。
さて、AIと人類の滅亡について話すときには、アシモフのロボット三原則が取り上げられることが多いそうですが、バラットさんはそれでは不十分だと言います。ちなみに三原則は次の通りです。
※アシモフのロボット三原則
1)ロボットは人間に危害を加えてはならないし、人間が危害を受けるのを何もせずに許してもならない。
2)ロボットは人間からのいかなる命令にも従わなければならない。ただし、その、命令が第一原則に反する場合は除く。
3)ロボットは、第一原則および第二原則に反しない限り、自身の存在を守らなければならない。

確かに、この三原則だけでは、超知能を持ったAIなら、いくらでも抜け道を考え出せそうです(汗)。
そして現在、開発が進んでいるAIは、もう、その開発者ですら「彼らが何を考えているのか」理解できない部分があることも事実です。というのも、現在のAIには、遺伝的プログラミングやニューラルネットワークのような「ブラックボックス」のツールが組み込まれているからです。しかも「認知アーキテクチャは途方もなく複雑であるため、AGI(人工汎用知能)システムは偶発的でなく本質的に理解不可能となる。実現されるのは、知性の高い異質なシステム」なのです。
バラットさんは危惧します。「あなたも私も野ネズミより何百倍も賢いが、DNAの約90%は野ネズミと共通している。しかし、巣穴を潰して畑にする前に、はたして野ネズミに相談するだろうか?」
……超知能を獲得したAIと、その生みの親とも言える人類との関係が、同じようにならないとは言えないのです(汗)。
だからこそ今、私たちは真剣にこの問題を考えなければならないと、バラットさんは言います。
そしてこの問題への取り組みとして、「フレンドリーAI(人類に対して悪い影響ではなくよい影響をおよぼすAI)」開発や、「アポトーシス」プログラムの組込み(強力なAIには「デフォルトで死ぬ」ようプログラムされた部品を組みこむ)、DNA関連の研究をする科学者たちによって作成された「アロシマ・ガイドライン(実験室の外では生きられない細菌しか扱わない)」のようなものをAI関連研究でも作成することなど、さまざまな試みを紹介、提案しています。
私たちにとってとても便利なだけに、AI開発は今後もどんどん進められていくでしょう。でもAIは未来を大きく変える可能性のあるテクノロジーであるだけでなく、平和的にも軍事的にも応用できる「二面性を持った」テクノロジーです。超知能を持ったAI自身が、資源の独占を図ろうと企んで人類を絶滅させる前に、AIを悪用して利益の独占・他国の排除を狙う人間が、人類を絶滅に導くかもしれません。そうならないよう、私たちは今、真剣に考えるべきなのでしょう。職場で一緒に働いているAIが、何かの拍子にストレスを抱いて(ウィルスに感染して・あるいは周囲の人間の馬鹿さ加減に耐えかねて)、こっそり自分にスピーカーを接続し、ある日突然、私たちの鼓膜を破る大音量で嫌がらせを始める……そんな未来は絶対に嫌ですから。(そんな時には、せめて電源だけでも切りたいですよね……絶対に抵抗されるとは思いますけど。)