2014-04-19

前回で終わりにしようかと思ったのですが、本を読みなおしてたら他にもおもしろそうなトピックがあったので、引き続き A I （人工知能）のシリーズエントリです。

第一回：　A I （人工知能）　＜冬の時代を超えて＞
第二回：　A I 開発　＜新しい主役の登場＞
第三回：　A I のある生活　＜イメージ編＞

今日は、A I のリスクや問題点についてまとめておきます。A I 研究が進んだ先にあるのは、バラ色の未来だけではないと不安に思う人もいますよね。具体的にはどんな問題が起こり得るのでしょう？

１）A I のミスの責任は誰がとるの？

自動運転の車が事故を起こしたとします。この事故の責任は誰がとるのでしょう？　自動車の開発会社？　販売会社？　それともドライバー？？　ってか、運転席に座ってた人？

今でもクルーズコントロールのような“半自動運転”みたいな機能はありますが、この場合は（プログラム側によほどのバグがない限り）運転手＝人間の責任になると思います。

が、将来の自動運転車が高齢者や障碍者など、自分で運転できない人にも自動車での移動手段を提供するものとして実用化されるなら、免許を持たない人、運転技術のない人が完全自動運転車に乗るということも想定されます。

その車が交通事故を起こし、他の人を傷つけた場合、いったい誰が責任を問われるのでしょう？

自動運転車だけではありません。介護ロボットのアームに挟まれて高齢者が死亡したり、おそうじロボットが寝ている赤ちゃんに乗り上げたり、調理ロボットが（工場の食品製造ロボットでもいいですが）醤油の代わりに洗剤を投入したら？？

いったい誰が、そしてどの企業が、訴訟の対象になるんでしょうね？

２）A I が金融危機を起こす？

人工知能を持った（未来の）ロボットが暴走するという S F はよくありますが、未来ではなく、今の段階で既に暴れまくっている人工知能は、金融市場における「自動取引プログラム」です。

機関投資家や投資ファンドが使用するこれらの“ボット”は、株式市場の大暴落など実害を伴う問題を既にしばしば引き起こしています。

本書によれば、 2010年 5月には、売り連鎖を始めた“自動取引ボット”のために NYSE のダウ工業株平均が 10分で 900ポイントも下がり、中にはなんと 20秒で株価が 20ドルから1セントになった企業もあったそうです。

2001年にNYでテロが起こり、飛行機がマンハッタンの超高層ビルに突っ込んだ時、株式投資の世界で大きな影響力をもつジョージ・ソロス氏は、「私は株を売らない」と声明をだしました。

この声明に多くの大口投資家が賛同し、911の際の株式の暴落はかなりの程度、緩和されたと言われています。しかし、こういった非合理的な判断を A I がすることはありえないでしょう。（人間を超える人工知能が存在しえるというなら、そういうことまで判断してほしいところですが・・）

1997年のアジア通貨危機はヘッジファンドの売り浴びせにより、2008年のリーマンショックは不動産デリバティブ市場の行き過ぎと、米国金融当局の政策判断ミスによって起こりました。

いずれの危機の収拾にも、世界各国で多大な公的資金（税金）が投入されています。A I が暴走して金融危機が頻発しはじめれば、その対処資金は膨大な額になるでしょう。

理論的には限界を迎えつつあると言われる日本国債を抱える日本にとっても、他人ごとではありません。各国の首相や大統領が日本の首相と「日本国債を守ろう」と政治的な合意に達しても、自動取引プログラムはお構いなしに売り浴びせを始めるかもしれないのです。

３）人間の仕事がなくなる？

「機械」が私たちの社会に登場して以来の、古典的な心配がコレです。産業革命のときには仕事を奪われると危惧した労働者が、靴下製造機などを物理的に破壊しました。

工場の生産機器はブルーカラーの仕事を奪いましたが、今後は A I の登場で、主にホワイトカラーの仕事が無くなると予想されています。医者や法律家などの、専門職も安泰ではありません。

過去の経緯から言って、短期的には失業が増えても、人間はそのたびに「機械にはできない仕事」を開拓し、スキル分野をシフトしてきているので、これからもそういう方向に向かうだろうとは思います。

しかしその過程で短期的には、多くの人が仕事を奪われる、もしくは、賃金の低下を余儀なくされそうです。

４）ロボットにより戦争が増える？

今でもアメリカ軍は無人偵察機や、リモートコントロールの爆撃機を使用しています。しかしそれでも今の戦争では、生身の人間を兵士という形で大量に戦地に投入することが不可欠です。

これが戦争の抑止力ともなっています。どこの国でも自国兵士の戦死が増えれば、国内で厭戦気分が高まり、さらには反戦運動が大きくなって、政治家の責任が問われます。

しかし「人間はひとりも投入しない。死ぬのは（壊れるのは）ロボットだけ、という戦争が実現するなら、今よりずっと気楽に「武力で国際紛争を解決しよう」と考える国や指導者が出てくる可能性があります。

相手側の国もロボット兵士を持っているならいいですが、こちらはロボット、相手は生身の人間の兵士では、悲惨すぎます。

また、ロボット同士が戦争を始めた場合、兵士は死ななくても、戦場に選ばれた土地（たいていの場合、戦っている国の領土ではない）では、今より甚大な被害がでそうです。

５）人間を支配するロボットが現れる？

これは S F の中でよく起こっていますね。ロボットが人間の命令を無視して勝手に動き始めたり、自分たちで自己増殖できる能力を身につけたり・・・

金融市場において A I 自動取引システムが暴走している様を見る限り、「ロボットの暴走はあり得ない」とは言い切れない気もします。

６）人間の存在価値が無くなる？

これは A I のせいで人間の雇用が無くなるという話ではなく、存在意義がなくなるという話です。既に　A I プログラムに小説を書かせたり、音楽を作らせようという試みも始まっています。

プロポーズの代行をしてくれるロボット、友達や恋愛相手になってくれるロボット、お葬式の弔辞を述べてくれるロボット、学校でいろんな教科を人間の先生よりよほど巧く教えてくれるプログラム、ケガの治療や精神的なケアまでやってくれる医療ロボットや、人間より感動的な芸術作品を創造できる人工知能などが実現した暁には、人間、そして“人間関係”の存在意義は何になるのでしょう？

もしかして「人間は生殖だけ担当してください」と言われる世界がやってくる？？　いやそれだって iPS 細胞培養ロボットが・・・

★★★

以上、A I が進化した時に起こりそうな問題をざっと列挙してみました。これらのリスクについても、夏に開催予定の「第三回 Social book reading with CHIKIRIN 」（日程は未定）の際に、ぜひみなさんの意見をお聞かせください。

SBRw/Chikirin（ツイッターでの読書会）の課題図書は下記となります。今回のシリーズエントリは、この本から多くの情報、着想を得て書かれています。

＜キンドルなら500円未満、新書も千円未満です＞