『AIと人類』2022/8/17
ヘンリー・キッシンジャー (著), エリック・シュミット (著), ダニエル・ハッテンロッカー (著)

　AIはどのようなイノベーションを起こすのか？　AIは人間には認識できない現実を認識するようになるのか？　人間の評価にAIが使われるようになったら、人間はどう変わるのか？　そして、これらの変化が起きたとき「人間である」とは最終的に何を示すのか？　……元・米国国務長官、元・グーグルCEO、そしてコンピュータサイエンスの研究家、それぞれの分野で頂点をきわめた三人が、人類史という大きなスケールから、AIのもたらす社会的変化と、私たちの未来について語っている本で、内容は次の通りです。
第1章 いま何が起きているのか
第2章 ここまでの歩み 技術と人間の思考
第3章 チューリングから現在、そして未来へ
第4章 グローバル・ネットワーク・プラットフォーム
第5章 安全保障と世界秩序
第6章 AIと人間のアイデンティティー
第7章 AIと未来
　　　＊
　AIに何ができるのか、どのように学習しているのか、どのように開発されてきたのか、今後どのようになるのかなど、AIについて総合的に解説されている面でも勉強になりましたが、個人的にとても参考になったのは、「第4章 グローバル・ネットワーク・プラットフォーム」以降。「第4章 グローバル・ネットワーク・プラットフォーム」には、次のような記述がありました。
「（前略）AIを使ったネットワーク・プラットフォームの台頭は、国防、外交、通商、医療、輸送に複雑な影響を与え、単一のプレーヤーあるいは学問領域ではおよそ解決できないような厄介な戦略的、技術的、倫理的ジレンマを産み出している。（中略）
　勝利を収めるには社会が長期的に持続できる成功とは何かを再定義する必要があることに気づくべきだ。」
　そして「第5章 安全保障と世界秩序」では、AIの脅威が指摘されています。
「AIによって通常兵器、核兵器、サイバー兵器の性能が強化される可能性がある。その結果、敵対する国同士の安全保障は予測や維持が難しくなり、衝突を抑えるのも困難になっている。」
「戦略を一変させる可能性に加えて、AIの自律性と独立したロジックは計算不可能なレイヤーを生み出す。」
「敵国がAIを訓練し、戦闘機の操縦や標的の決定と発射を完全に委ねたとしたら、それは国家の戦術、戦略、あるいは（核兵器など）強力な武器への依存度の面で、どのような変化をもたらすのか。」
　またAIには、真実味のありそうな偽情報を大量に生み出せるという脅威もあります。
　これらについて、キッシンジャーさんたちは、「重要なことについての最終的判断とコントロールは人間の手に」あるべきだとして、次のように言っています。
「AIあるいはAIを使った兵器や防衛システムに移行するのは、人間とは根本的に異なる経験的パラダイムに基づく、高度な分析能力を持つ知能にある程度依存する（極端なケースでは全面的に権限を委譲する）ことを意味する。そのような依存関係は未知のリスク、あるいはよく理解されていないリスクをともなう。だからこそ殺傷リスクのあるAIの行動と監視と管理には、人間のオペレーターを介在させなければならない。人間が介在することですべてのミスを防ぐことはできなくても、少なくとも道徳と説明責任は守られるだろう。」
「（前略）設計段階と実用段階の双方においてAIが遂行できる活動の幅は、システムがおかしな動きをするようになった場合に、人間が停止か修正できるように調整しておく必要がある。予想外の悲惨な事態の発生を防ぐため、そのような規制には相互性を持たせなければならない。」
「各国が今後、生死にかかわらない個別のタスクを（民間が運用するものも含めて）AIアルゴリズムに委ねていくのは必然だ。そこには、たとえばサイバー空間への侵入を探知・予防するといった予防的機能も含まれる。高度にネットワーク化されたデジタル社会の「アタック・サーフェイス（攻撃対象領域）」は、人間のオペレーターが手作業で守るには広すぎる。人間の生活の多くの側面がオンラインに移行し、経済のデジタル化が進むなかで危険なサイバーAIが登場すれば、産業そのものが破壊されかねない。国家、企業、さらには個人も、そのようなシナリオから身を守るためにフェイルセーフ策（訳注・故障が起きた際に自動的に安全側に移行する）に投資すべきだ。」
「AIのスピードからして、ひとたび軍事対立に使われたら外交努力が追いつかないペースでさまざまな事態を引き起こすのは間違いない。たとえ戦略的概念を表わす共通の語彙や、お互いにとって越えてはならない一線を確認する程度の成果しか得られなくても、主要国はサイバー兵器やAI兵器について議論の席に着かなければならない。」
　……まったく同感です。
　そして最終章の「第7章 AIと未来」では、次のような提言をしています。
「AIの行動を制限するため、政府、大学、民間部門のイノベーターを巻き込んで合理的な議論や交渉を重ね、現在個人や組織の行動に課せられているようなルールを策定すべきだ。」
「AIを監査の対象とすること、すなわちそのプロセスや結論の妥当性を確認し、修正できるようにする方法を検討すべきだ。また修正を加えるためには、AIの認知や判断の様式に対応した原則をつくることがカギとなる。」
　……AIには、既存の人間の原則や正義の概念が当てはまらないので、「AIの認知や判断の様式に対応した原則」が確かに必要だと思います。
　想像以上のスピードで進化・拡大しているAIですが、社会全体として、どう対応していくか真剣に検討すべき時期をすでに迎えています。とりわけ安全保障の面は、深刻なのではないかと懸念しています。
　とくにAI兵器に関しては、国際社会全体として「制限」を検討すべきではないでしょうか。本書でも次ののことが書いてありました。
「19世紀から20世紀にかけて、各国は戦争行為に一定の制限を設けた。たとえば化学兵器の使用、民間人を狙い撃ちすることなどだ。」
　……AI兵器にも、このような方法を早急に検討する必要があると思います。
　AIと人類のパートナーシップのあり方について深く考察するとともに、現実的な提言をしている本でした。とても重要な意見をたくさん読むことが出来るので、みなさんもぜひ読んでみてください。
　　　＊　　　　＊　　　　＊
　なお社会や科学、IT関連の本は変化のスピードが速いので、購入する場合は、対象の本が最新版であることを確認してください。
＜Amazon商品リンク＞