近年のAI（人工知能）の発達に伴い、シンギュラリティ （技術的特異点）というコンセプトに言及されることが増えている。これは、ざっくりというと将来AIが人間の能力を超えるという予想を指すものであるが、この考え方の根底には、人間のような生物と、コンピュータのような機械とは本質的には同じであるという前提があると思われる。西垣(2016)は、この前提を指摘したうえで、それは根本的に間違っていることを主張する。つまり、生物と機械とは本質的に異なった存在なのである。では、両者はどのように異なっているといえるのだろうか。
西垣によれば、コンピュータは純粋に「過去」にとらわれた存在である。コンピュータはプログラムで動く。プログラムの語義は、設計者やプログラマーがアルゴリズムを「前もって書く」である。膨大なビッグデータを活用する機械学習、深層学習のような高度なAIが出現しても、本質は変わらず、すべてのコンピュータ処理は「過去」によって完全に規定されているというのである。一方、人間は「現在」の時点で判断しながら生きている。変動する現在の状況に合わせて時々刻々、意思決定を実行しないと生きていけない存在である。つまり、一般に機械とはあらかじめ設計された再現性にもとづく静的な存在であるのに対し、生物とは、流れゆく時間の中で状況に対処しつつ、たえず自分を変えながら生きる動的な存在なのである。
さらに、生物と機械の違いは「心と脳」の関係を考えるといっそう明らかになると西垣はいう。西垣によれば、「脳」とは、われわれが外側から、なるべく客観的・絶対的に分析把握するものであり、一方「心」とは、われわれが内側から、主観的・相対的に分析把握するものである。例えば、クオリア（感覚質）は、主観に生じる出来事なので、心を内側から観察しないと決してわからないものである。要するに、心と脳とは、観察の仕方や視点に伴ってそれぞれ出現するもので、カテゴリーがずれているのだという。生物も機械も物質的な要素からできているが、以下に示すとおり、要素群の組み立て方や作動の仕方が両者では異なっている。
機械は設計されたものだから、その働きを外側から観察することができる。つまり「観察されたシステム」である。機械は人間が設計するものだから、本質的に他律的なシステムであり、そのメカニズムはたとえ複雑であっても外側から観察すれば十分に理解できるわけである。機械やコンピュータが処理をする情報はデータ（記号）に過ぎない。しかし、生物は自らが「観察するシステム」である。主観によって周囲世界を観察し・分類しながら行動している。生物にとっての情報とは「意味」であり、どのように生きていくかを現時点で自律的に決断するための根拠である。このように生物の作動の仕方は自律的であるため、生物にある刺激を与えても、どういう反応が出現するか、完全な予測ができない。生物というシステムを外側からいくら観察しても、そこには原理的な不可知性が残るというのである。
つまり、生物は閉鎖系であり自律システムであるから、生きるために外部環境から自分で意味・価値のあるものを選びとり、独自の内部世界を構成するのが生物の特徴である。たとえ自然や外部環境が多様な制約を押し付けてくるにしても、それに完全に従うわけではなく、閉鎖系としての内部世界に基づく自律システムもしくは自由意志に基づく行動を行っているのである。よって、自律性は生命の本質的な特徴の１つだと考えられる。一方、機械はもともと他律的存在だから、自律性とはまったく縁がない。人工知能もいずれは内部世界を持つ自律システムになっていくのではないかという意見があるのかしれないが、ゾウリムシのような原始的生物さえ製造することができない人間が、そのような生命的な自律システムを作れるわけがないと西垣は考えているようである。
西垣は、機械と異なる生物の本質は「自らに基づいて自らをつくる（オートポイエーシスする）」存在だというところにあるという。生物は自己循環的に作動するシステムであり、そこには習慣性があるので、生物の反応がまったく見当がつかないわけではない。つまり、私たちは自分の記憶に基づいて会話を解釈しながら記憶を少しづつ書き換えていくのであり、生物集団の繁殖行動も、遺伝的記憶の書き換えという意味で自己循環的である。要するに、生物は自分で自分をつくるので、ある程度、行動は予想できるにせよ、本質的にはその作動の仕方や反応は外側から観察してもよく分からない「閉鎖系」となっている。
このように、生物は、外側から頑張って観察すれば作動や出力が細かく予測できる「開放系」である機械とは根本的に異なっている。よって、ネオ・サイバネティクスが試みているように、主観主義の観点を加え、観察する主体という意味での「観察者の視点」から理解しようとすることなしには生物は理解できないと考えられるのである。
