デトロイトから学ぶ人間性

＜本日のテーマ＞

Q.アンドロイドは"人間"と言えるのか？ inデトロイト

パスカルは考えることが人間であることの由縁とし、カントは人間とは自律的主体であるとした。

プレスナーは脱中心性が人間の特権であるとし、思いやりが人間の根幹だと主張する研究者も存在する。

「1+1は？」

こう聞かれたときにどう答えるだろうか。

「2」「普通なら2」「どうしてそんなことを聞くの？」「(ちょっと間を置いて)……分かり得ない」

等々様々な返答が考えられる。これらの考えられる回答のうちのどれかを相手に返すわけである。

機械であればどうだろう。計算機ならば迷わずに「2」と返すだろう。

しかしそれは"弱いAI"の場合である。弱いAIとは、例えば将棋ソフトのような、特定の問題解決に用いられるプロセスのことを指し、自意識を持てないプログラムであるが、AGI --Artificial General Intelligence--(汎用人工知能) のような"強いAI"であれば自力で思考してただの数字以上の返答をするはずである。これがジョン・サールの提唱した、強いAI・弱いAI概念※1だ。

デトロイトに登場するアンドロイドたち、正確には主人公であるカーラ・マーカス・コナーたちは複数の選択肢の中から「選択」する。

人間も選択の結果として行動を定めるのだ……と言ったとき、ギャビンならここで「人間と違ってこいつらは与えられた行動しかできない。所詮プログラムなんだ！」と言うかもしれない。

掛けられた言葉に対し、仮に4つの選択肢が規定されており、そこからランダムに選択して行動するだけなら非思考的であり、ただの機械と言えるかもしれない。しかし、強いAIであり、適切なものを選択する彼らは、さらに言うと裏に隠れた無数の選択肢の中から一つを選ぶ彼らは人間とどこが違うのだろうか。

あるいは、人間の方こそ思考パターンに限界があるとも言える。デトロイトにおいては、型にはまらない柔軟でイレギュラーな行動ができる者が人間である、とは定義できないのだ。

そもそも、アンドロイドに生命を認めたときに何が問題なのか。

自律的に動くことが生命の条件だとしたとき、遡って人間の自由意思の有無、という別の問題が発生する。

「自律的に見えること」を生命の構成要件とし、アンドロイドを人間と同格に見なしたとき、その逆もまた辿れることとなる。すなわち自律的に行動しているように見える我々人類も、結局は脳の神経系により機能的に動かされている非自律的存在と見做せる……ということである。クラレンス・ダロウは人間の機能論を裁判において主張し、「そのように作られているために人を殺めたのであり真の責任はない」と弁護した ※2 が、この主張が通るとすると法体系は意味を成さないため、責任の拠り所となる「当人の自由意思か否か」という条件を捨て去り、犯罪行為自体に罰則を設けなくてはならなくなる。

これを防ぐためには「自律的に行動しているように見えること」が「自律的存在」の条件でなくてはならない。前提として人間は主観的な存在であり、他人が自律的に行動しているように見えるからといって、全てプログラミングされた行動でないとは断言できないのだから。

本題に戻る。

ここまでで、冒頭に挙げた①考える存在、②自律的主体の問題に触れてきた。

では、③脱中心性、④思いやりについてはどのように判断すればよいのか。

これについては作中に答えがある。

「脱中心性」とは主観存在を脱し、客観的に物事を見ることができる性質である。人間の社会性を成す一性格でもあり、周囲からどのように見られているか、また今起こした行動が周囲にどのような影響を与えるか、と言ったことを考えられることを示す。

ここで念を押すまでもなく、アンドロイドがこれらの性質を保持していることを、カーラ編やマーカス編から通底してプレイヤーは感じていることだろう。(無数の選択肢の中から選択しているという前提において、思考の自律性は人間と等しいものとする)

定義の難しい「思いやり」であるが、ここでは「他者の感じている気持ちを感じ、察する能力」とする (参考※3) 。幼稚園での「思いやり」学習プログラムを経て思いやりを持てるようになった子ども、引いては我々は果たして真に"思いやり"を持っているのか。相手の望みを相手の立場に立って考え(脱中心性)、相手がしたいことをサポートすることが思いやりである、そう我々は教えられてきた。その成果として、電車で座っているところにお年寄りがやってくると、つい立って譲ってしまう、という人すらいるが、これが規定された行動でなくて何なのだろうか。

作中で、ハンクは自分を助けたりアンドロイドを撃たなかったりしたコナーに人間性を見出す。一つ一つの行動様式自体は規定された動きであったとしても、無数の選択肢の中からあえて相手の立場に立った選択をした。その「選択」こそが人間のいうところの思いやりに他ならないのである。

ex)「それが思いやりってもんだよ、コナー」

以上見てきたように、デトロイトのアンドロイドことAGIはチューリングテストのほか①〜④の人間性の指標をクリアしており、従来の人間尺度からは人間と判定するほかないレベルの人間性を示している。

残念ながら現代では人間の脳に相当するレベルの演算機能を備えたAIは存在していないが、人間の行動パターンが無限でない以上、いずれはコンピュータの演算能力は人の行動の予測を行えるまでに到達するだろう。その領域に至り、予測から行われる行動パターンの選択肢のうち、周りの人間に悪影響を与えない(＝思いやり)選択をするようになったとすれば、私はこれらのアンドロイドは人間と呼ぶ以外にないように思われる。

レポートにしようと思ったけどこの内容を出せる課題とかは特になかったのでここに挙げることにしました。

〜終〜

参考文献

・ジョン・サールが提唱した「強いAIと弱いAI」 ※1

強いAIと弱いAI - Wikipedia

・G・ストローソンの基本論証の説明 ※2

https://researchmap.jp/free_will/presentations/16599671/attachment_file.pdf

・生物と機械の差異に対する対談

人間と機械の境界―浅田稔×西垣通×國領二郎

・思いやり※3

https://psych.or.jp/wp-content/uploads/2017/10/76-17-20.pdf

なお、この文中においてはそもそも思いやり自体が日本独自の文化であるとしている。