人間とAIとのコミュニケーションは成立するか

人工知能(AI)の発展は著しく、私たちの生活のあらゆる場面において活用されようとしている。そして現在でも、対人ではなくスマートフォンタブレットに直接話しかけるという場面は、電話でも自動音声と対話することが増えている。これらの背後にはAIがいるわけである。しかし、そもそも人間とAIとのコミュニケーションは成立するのだろうか。これに関して、西垣(2016)は、コミュニケーションとは何かという定義と、人間と機械との違いに着目することに基づく見解を論じている。

 

まず西垣は、コミュニケーションを「閉じた心をもつ存在同士が、互いに言葉を交わすことで共通了解をもとめていく出来事」と、とりあえず定義する。この定義に従えば、コミュニケーションは、生物の間のみで成立し、人間と機械の間では成立しない。なぜならば、生物は閉鎖系であり自律システムであるが、機械はそうでないからである。つまり生物は、生きるために外部環境から自分で意味・価値のあるものを選び取り、独自の内部世界を構成している。一方、機械は開放系であり他律的存在なので、自律性とはまったく縁がない。例えば、AIは指令に従って論理処理を行う機械にすぎない。では、自律的閉鎖系の間でしか成立しないコミュニケーションとはどんなものなのだろうか。

 

基本的に、自律閉鎖系の人間同士の場合、相手の心の中は閉じられて外部から観察できない。よって、相手にメッセージを与えても、相手の意味解釈には幅があり多様な選択が行われることが想定される。これは、相手が自由意志を持っているということでもあり、だからこそ、送り手の意図が誤解されたりすることがある。閉鎖的自律性の存在同士の場合、お互いに相手の内部世界は不可知だということである。よって、人間同士のコミュニケーションにおいては、お互いに腹を探り合い、共通了解のための意味解釈の相互交換が行われる。たえまなく揺れる意味解釈を通じて、推定作業が動的に続けられるわけである。

 

上記の通り、人間同士のコミュニケーションにおいて、言葉(記号表現)のあらわす意味(記号内容)は、言葉にぴったり付着した固定的なものではなく、多様な言語的コミュニケーションを通じて動的に形成されていくものである。また、人間の言葉は抽象化を行うため、1つの言葉があらわす意味の幅がコミュニケーションによって拡大され、多義的・多元的にふくらんでいくと西垣はいう。「彼がねらっているのは社長の椅子だ」というように、比喩的に「椅子」が「地位」を意味するようになるといったように、比喩的なイメージが重なり、ふくらんでいく詩的作用が人間の言語コミュニケーションの最大の特色に他ならないという。

 

一方、機械学習に基づくAIのような存在は、上記の人間同士の言語コミュニケーションのプロセスとは真逆のプロセスを志向する。例えば、AIによる深層学習は、ビッグデータと統計処理を用いて、共通する特徴を抽出して、言語記号の意味解釈の幅を狭めて固定化し、それを論理的な指令(例えば正確な機械翻訳の出力)に結び付けようとする。AIによる自然言語処理での「意味処理」とは、ことごとく多義的な意味内容を1つに絞り込むための工夫なのである。要するに、人間同士のコミュニケーションは、比喩によって意味解釈を動的に広げていく「詩的で柔軟な共感作用」であるのに対し、AIは、言語の意味解釈の幅を狭めて固定化したうえで、指令的で定型的な伝達作用を行っているにすぎないということである。

 

以上の点から、西垣は、人間とAIとの会話は「疑似的コミュニケーション」であると定義づける。これは、閉鎖系と開放系との情報交換であることを示している。この疑似的コミュニケーションの特徴は、上記の人間と機会の違いを踏まえればおのずと明らかになる。人間とAIとの疑似的コミュニケーションにおいては、人間は意味解釈の幅を自由に広げようとし、AIは逆に意味解釈の幅を狭めようとする。コミュニケーションは、相手を自律的に意味を生み出す存在とみなすことと、相手を他律的な指示の対象とみなすことの両義性に挟まれる現象なのだが、他律的開放系のAIは、相手の人間も他律的な指示の対象としかみなせないので、人間を指示の対象として巧妙に操り始めるのではないかと西垣は危惧する。

 

本来自律的閉鎖系の人間も、社会生活においては、社会のルールに従うなど、他律的に振る舞うことも求められている。しかし、原理的に生物はリアルタイムで現在に生きている存在である。それに対し、機械はあくまで過去のデータによってきっちり規定される存在である。人間は、千変万化する状況のもとでも融通をきかせて行動できるが、AIはその動きを阻害する。よって、人間社会に、ビッグデータの活用と論理処理の面では卓越したAIが参入して人間との疑義的コミュニケーションの頻度を増やしていくことになれば、社会集団のなかの人間は、AIの指令にしたがう他律的な存在、機械的な作動単位に貶められてしまう可能性があると西垣は論じる。ある面では人間よりも賢いAIによってあらかじめ決められた計画にしがたって、どこまでも細部にわたるルールが規定され、人間は状況に対応した臨機応変の措置がとれなくなるというのである。 

文献

西垣通 2016「ビッグデータと人工知能 - 可能性と罠を見極める」(中公新書)

sekiguchizemi.hatenablog.com