グーグルAIが意識を持った！と話題です．わたしも仕事柄？，何人かの方に聞かれておりまして，私なりの整理をざざっとメモしておきたいと思います．

ちなみにこのようなニュースのことです．

この「機械が意識を持つ」という話は，幾層かのややこしい問いをごちゃまぜにして語られる傾向があります．ここでは，「機械が全く人間と同じレベルの意識を持つ」ことについて考えてみたいと思います．

まず「機械が意識を持つ」といったときに，

A. 機械それ自体に意識が生まれたのか
B. 人間が機械に意識があると感じている状態をいうのか

の二つに捉え方がわかれます．

Aの場合も二つあって，唯物論をとるかどうかです．「唯物論（物理主義）」以外だと，いくらでも「機械に人の意識が宿った！」の設定が可能になります．物質と意識が切り離されているので，もしも誰しもその観念を信じれば「この機械は人です．人権を付与します．」となりえます．しかし，これだとほんとになんでもありになるので，社会的には色々とうまくいきません．

では，「唯物論」の立場だとどうなるでしょうか．唯物論の立場から「機械が人になった！」ということは不可能なのでしょうか？ いや，もちろん唯物論ですから可能です．しかし，まったく人間と同じ心的機能を発揮する物的基盤を持つ機械が条件になります．これが極めて難しい．なぜなら，生命機能や知的機能の物理的メカニズムが現代科学においてぜんぜん明らかになっていないのに，機械による再現は不可能だからです．ようはまだまだ技術が追いついていないのです．そして，少なくとも私たちが生きている間は難しいでしょう．

なので，普通に考えれば，少なくとも現時点の技術水準では、AIや機械が人間の意識を持ったと心配する必要はそもそもありません．この記事は冒頭の宣言の通り，人間と同じレベルの意識を求めますが，しかし！「機械意識」なるものを考えると実はかなり，怪しくまた豊かなポストヒューマン的世界が開きます．ここではあまりふれませんが，機械に生命体とは違うが，「機械意識」なる別タイプの意識が生まれて，なので，機械に意識があるというような設定です．心の哲学の分野では「汎心論」研究がホットでしたが，まるで人間のような意識を持つことになる物的基盤の構造であり組み合わせがあり、そうすると人間ではないが人間みたいな機械の意識が生まれるかもしれないわけです．

最後に，B.の「人間が機械に意識があると感じている状態」です．実際はこのことが一番リアルな問題なのではないかと思います．上で見たように，機械それ自体に意識が生まれるという考えは，どうにも意識を創発する物的基盤の解明が進んでいないことが理由でうまくいきません．しかし，ただ，「疑似意識」だと片付けることもできないのがこの問題のややこしいところです．なぜなら意識を「まじで」感じてしまうからです．感じるどころか信じるようになるわけです．主観的には，もはや人間と変わらないじゃねーかよーという人が出てくるということです．いやいやそれは騙されているだけだよとか，機械を人間だと思うなんで感性が鈍りすぎだと思われるかもしれない．今回の件だって，そのAIとずっと会話していたらいつかボロが出ると思う（あ，これ機械だわと思う瞬間が訪れる）．しかし，近い将来，多くの人を５年くらいは騙せるAIが生まれる可能性はある．パートナーシップだって，5年あれば入れ替わったりします．ならそれくらい騙せたら十分かもしれない.....　なので，結局，AIが意識を持ったような状態になることは人間社会に大きなインパクトを与えます．

以上が，整理なのですが，最後にこのようなAIをどうとらえるべきか少し考えてみましょう．

この意識を持ったようなAIエージェントは，私たちを搾取するいわゆる監視資本主義の手先となりえます．まさにディストピアであり，機械エージェントとの間に，真に親密な関係性は築けないのかもしれません．私もずっとそう思っていましたが，最近話題のWeb3でありブロックチェーン技術を使えば，他者に支配されない自分の秘密鍵でしか動かせない真のパーソナルエージェントも可能かもしれないぞっ！と思うようになりました．そうすれば，（色んな意味で）善い関係性を築けるAIエージェントが生まれるかもしれません．

しかし，もしも他者としてこのAIをとらえるなら，どうしてもAIそれ自体が意識を持つという発想になると思います．確かにそこには「機械意識」があるかもしれないですが，人間ではありません．ならば，人間目線で考えるなら，それを他者ではなく，「拡張」としてとらえる方がいいのではないか．ここで，持論に引き寄せたいのですが，私がとっているサイボーグ機能主義という立場から考えてみると，人間とAIエージェントは，人間存在が主体となり一体となったサイボーグとして行為をしているということになります．そして，その一体となった機能的な意味でのサイボーグの観点から，それが善い状態か悪い状態かを判断をします．この立場からすると，AIエージェントはどこまで言っても私と一体となったパートナーで，一体となった行為者（機能的サイボーグ）が主体なので，こうした機械との理想的な共存が可能なのではないかと考えるわけです．

この案が将来的に有効なのかどうか，今ぼくにもまだ明確には見えていませんが，いずれにせよ，何らかの発想の転換をしないと，未来永劫，人間とAIエージェントを切り離して，それはいいだの悪いだの，禁止するべきだ，認めるべきだというようなバトルの議論を続けることになるでしょう．

そうした人間vs機械の数世紀前からの西洋的な視点を維持するのか，それともAIに未来を明け渡すべきなのか（これもどうかと思いますが），はたまたAIと一体となったサイボーグ的な観点から全てを捉え直すのか，テクノアニミズム的な視点からヒントを得るのか，いずれにせよ，AIと意識の問題は，わたしたちのこれまでの考え方に大きな変更を迫るものであることは確かだと思います．

継続して考えていきたいものですね．