『京大哲学講義 ＡＩ親友論』2023/7/31
出口康夫 (著)
人間失業、主人／奴隷モデル 、モラルベンディングマシン……AIは私たちにとって脅威となるのか、人間がAIを支配するのか、それとも私たちとAIが親友になるのか……AIと人間の関係性について、京都大学教授で哲学者の出口さんが講義してくれる『京大哲学講義 ＡＩ親友論』で、主な内容は次の通りです。
第一講 「われわれ」としてのAI
第二講 さまざまなAI
第三講 AIは奴隷か
第四講 AIと自由
第五講 仲間としてのAI
第六講 AIに倫理を装備する
第七講 親友としてのAI
▼座談会 AIと人間は親友になれるのか（パネリスト…堂目卓生＋石黒浩＋青木宏文＋出口康夫）
▼講義を終えて
＊
この本は、AIと人間の関係、両者のあるべき関係を問うていきます。そして、それは「人間」を問うことでもあります。
ちょっとネタバレになってしまうかもしれませんが、本書の最終講義「第七講 親友としてのAI」には、それまでの考察を踏まえて、次のように書いてありました。
「AIを通じて人間を考える、僕の一連の講義もそろそろ終わりです。
単独行為不可能性という「できなさ」から話を始め、「われわれ」のメンバーとして生きているというWEターンへと至り、人間はモラルベンディングマシーンではなく、道徳的脆弱性を抱えた存在であることも、改めて浮き彫りになりました。
身体的脆弱性を有し、限られた生命を持っていること、死に対する脆弱性、生死を超越できていないこと、生死に無頓着でいられないこと、死を避けようとあらゆる努力をしつつ、最終的にそれが叶わないでジタバタすること。
これがAIとのあるべき関係を通じて改めて浮き彫りになった人間の姿であると、僕はそう考えます。」
＊
そしてAIと親友になれるかどうかは、最終的には私たち個人個人に委ねられています。……まあ、そういうことに、なるんだろうなーとは思っていました（笑）。
それでも、この結論（？）に至るまでの考察（講義）が、とても興味深くて、とても考えさせられ、また参考にもなりました。
例えば「第一講 「われわれ」としてのAI」では、今後AIが我々の社会では無視できない存在となることが次のように書いてあります。
「（前略）ChatGPTが本格的に企業に浸透すると、少なくとも既存の情報を収集し、一定のフォーマットに基づいて分析し、そこから一定の課題解決の処方箋を導出するようなタイプの、ある程度ルーチン化可能な知的業務は、確実にAI化されるでしょう。」
……人間はこれまで「身体能力」は他の何か（動物や機械など）に劣っていたとしても、「知的能力」だけは地球上の他の存在に凌駕されないと信じてきました。AIはそれを脅かす存在になっているのです。なにしろAIは、かつては芸術分野では劣っていると言われてきましたが、芸術分野にすら進出してきているのですから。
これに対して、出口さんはなんと、「わたし」は「できる」から「かけがえがない」のではなく、「できない」からこそ「かけがえがない」のだと言っています。「できない」わたしは、「われわれ」を必要とし、それこそが重要なのだと……。
・「（前略）「わたし」は生きて身体行為をしている限り、つねに、その都度、成り立つ「われわれ」の一員として、「われわれ」に支えられていることになります。」
・「（前略）「わたし」は一人では何もできないからこそ、「われわれ」を成立させ、その「われわれ」にとって「かけがえのない」存在となっているのです。」
・「「わたし」はもはや、どのように生きようとも「われわれ」＝「WE」という枠組みで、考えなくてはいけません。」
・「WEターンの社会は、権利を有した先に責任があるのではなく、責任を果たした「わたし」が、権利を持ち得るとうイメージです。」
＊
そして、本書で一番考えさせられたのが、「第五講 仲間としてのAI」。次のようなことが書いてありました。ちょっと長いですが、強く印象に残った文章をいくつか紹介します。
・「（前略）「共冒険者モデル」では、人間のみに自由を限定し、それ以外のエージェントを排除するという視点には立ちません。」
・「「フェローシップ」ないしは「仲間性」「仲間関係」の基本的な特徴は、「協調性」、「参加随意性」、そして「平等性」です。
このうち「協調性」とは、「自律性をめぐるゼロサムゲームから降りること」を意味しています。これはつまり、「わたし」の主体性と「あなた」の主体性を相対する拮抗関係にあるものと考えるのではなく、「われわれ」の主体性を「わたし」と「あなた」が分担しているとみなすということです。
次に、参加随意性は、「われわれ」に参加しなくてもよいということ。また一旦参加したとしても、いつでも参加を取りやめることができるということを意味しています。
最後に、「平等性」とは何でしょうか。それは何よりもまず「リスク分担の平等性」だと、僕は考えています。
すなわち、同じ「リスク」を共有することこそが、平等な仲間であるということを意味しているのです。」
・「「良い」WEを維持するために、社会全体の利益的重心、つまりWEの中心は「空っぽ」にされるべきだと考えています。
「中空構造」は、つまるところ、誰も社会の真ん中、すなわち、利益や価値観の中心を占めないことを指します。主人／奴隷モデルの場合では「ひと」が揺ぎなく、「中心」に位置しているわけですが、WEターン社会では「ひと」さえも中心の位置を占めることはできません。
これは内部の抑圧、同調圧力の発生を防ぐのに、たいへん有効であると見こまれます。」
・「中空構造で、一つ注意すべき点は、中心は「からっぽ」ではあるけれど、周辺の「われわれ」が何らかの雰囲気や空気感、暗黙知などでお互いを縛り合い、架空の中心へ内圧が生じる状態が起こることです。」
「「ひと」がみんな監視し合っている。それは、はっきりと言って「悪い」社会です。「中空的われわれ」であっても過剰な同調圧力をもたらしてしまう危険と無縁ではありません。
中空構造を採りつつ自縄自縛の空気を醸成させない、「われわれ」の継続的な努力は、求められると思います。」
「「良い」も「悪い」も人間もそれ以外も、まるごと受け入れる、それがWEターン社会の特徴です。
とはいえ、「からっぽ」の中心に近い存在には、中心から遠い存在よりも高い道徳性が求められるでしょう。」
＊
また、この章では、AIだけでなく、どのような人工物に対しても一般的に要請されるべき権利として、「正当な理由なくして捨てられない権利」「反ディスポーザル権」が提案されていて、「反ディスポーザル権に則った拒否権の発動を、AIロボットに許す、この自由を認めるのが、WEターンの第一歩です。」と書いてありました。このような権利が与えてあればこそ、この権利の剥奪、無効化、そしてそれに伴う廃棄処分が、人工物に対する「罰」になり、「苦痛」概念に訴えずに、人工物の「責任」について語る手立てになると言うのです。
また「第六講 AIに倫理を装備する」では、「人間のマイルドな悪を許容するなら、AIのそれも許容すべき」として、次のように書いてありました。
「このような「悪いこともできる人工物」や「悪の可能性を持ったAI」に対する警戒感や拒否感が社会に広く共有されていうように思われるのです。このような警戒感や拒否感は、人間の道徳エージェンシーは認めても、AIに対しては道徳的エージェンシーを認めないという態度につながると思われます。」
＊
……人間の子供と同じように、AIも、「よいわれわれ」を築くために人間と共に協働するように育成していくべきだ、と言っています。子供も、将来大人より力をつけて大人を虐待する可能性がありますが、だからと言って、子供を排除したり子供を作らないという選択肢は取るべきではないのです。
「取られるべき選択肢は、むしろ、そのような危険性があるからこそ、大人は、子供を大切に扱い、復讐心を抱かせるような態度を取らず、将来大人より力をつけたとしても大人を蔑ろにせず、むしろ年老いた大人たちの面倒を見てくれる優しい人間へと育て上げるべきだ。おそらく、これが正論でしょう。」
＊
……なるほど。同じようにAIを「われわれ」の一員として育て、ちょっとぐらいの悪さは許容して、「われわれ」の社会を良くしていくために協働していく存在として認めよう、ということのようです。AIには常に「できる限り正しい」ことを行って欲しいと願ってきましたが、そういう考え方も「あり」かもなー、と思ってしまいました。
ただ……「「良い」WEを維持するために、社会全体の利益的重心、つまりWEの中心は「空っぽ」にされるべき」というのは、理想論過ぎるような気がします。中心が「空っぽ」で、うまくいく組織はほとんどなく、親しい友人同士ですら、「幹事体質の人」がいないときには、そもそも集まることすらなくなりがちですし、まして10人以上ぐらいの大きさになったときには、たとえ何か明確な目的（やるべき仕事）があったとしても、誰かが口火を切ってくれるのを、みんながずっと待っている状態に陥ってしまったり、誰かが何らかの事情で役割分担を果たせなくなったときに、その引き受け手がいなくなったりするなどの問題が発生しがちだと思います。「中空構造を採りつつ自縄自縛の空気を醸成させない」……そういう社会は理想的かもしれませんが、現実的ではないのでは……？
さて、AIは今後、私たちの社会でどんどん重要性を増していくと思います。AIに関する書籍は、これまでは技術者が書いたものが多かったので、哲学者の方の意見が、とても斬新で面白く、どんどん読み進められました。
「座談会 AIと人間は親友になれるのか」で、石黒浩さんも次のように言っています。
「（前略）あらためて言うこともないですが、これからのAI研究には哲学も工学も経済学もそれ以外の学問すべて垣根なく採り入れていくべきだろうと思います。」
……まったく、その通りだと思います。AIと私たちの「あるべき社会の姿」を模索していくために、今後もいろいろな立場の方が、さまざまな意見を言ってくれることを願っています。
ここで紹介した以外にも、参考になる情報が満載で勉強になるだけでなく、いろいろ考えさせられる『京大哲学講義 ＡＩ親友論』でした。みなさんも、ぜひ読んでみてください☆
＊ ＊ ＊
なお社会や科学、IT関連の本は変化のスピードが速いので、購入する場合は、対象の本が最新版であることを確認してください。
＜Amazon商品リンク＞
