■はじめに

【#AIイズモの機械学習会議】Hey人間、ロボットの定義について教えて？【出雲霞/にじさんじ】

　まずはこちらを視聴しましょう。
　バーチャルライバーグループ「にじさんじ」に所属しているライバーにして「学習型AI」の出雲霞さんが、視聴者からの意見を募って議論をする、という配信です。

　今回の配信内で取り上げられたテーマは、
　「ロボットの定義」と「ロボットの『心』」に関してです。

　「ロボット」とは何か。
　我々が「ロボット」と呼ぶそれは、本当にロボットなのか。
　いわゆる「ロボットアニメ」と呼ばれるアニメに登場するロボットや、小説・ゲームなどに登場するロボット・アンドロイド・ヒューマノイド等々。それらに明確な違いはあるのか。
　人工知能を備えたロボットに「心」は存在するのか。

　それらの、明確な定義を持たず、たびたび議論が紛糾しうるテーマ（オタクが大好きなテーマ）について、様々な意見を紹介しつつも霞さん本人はあくまで司会として、中立な立場でそれぞれの意見やコメントをまとめてくれています。

　「ロボットの定義」の方では、ロボットの定義というだけの話に留まらず、「逆に人間が有する能力のうち、何を失うとロボットとみなせるのか」「ロボットを産み出すロボットについて」等、興味深い視点の意見が紹介されています。
　で、その中の最後に「ロボットの定義」のテーマにおけるまとめとして紹介された「ロボットとサイボーグ・アンドロイドの差について」。

　自分が書いたやつです。はい。

　今回こうして文章を書いているのも、今回の配信で自分の書いた考察が紹介されてしまったからな訳ですね。色々と詰め切れていない部分や勢いでまとめた箇所もあったので……。ちょっと勿体ない部分があるので、振り返りと補足などをしておこうかと思い、この記事を作成しました。

　理工学系出身であるだけで、ロボット工学的な分野に関しては疎いのですが、自分の知っているバックグラウンドやネットで調べて分かる程度の参考資料を基にまとめました。
　ただ、あくまで「自分は今の所こう思う」というのが重要で、他の人の意見や考察を見て「確かにそれもそうだ」「そういう前例や資料があるのか」と、自分の知らなかった知識やちょっと違っていたなと思う意見を修正・補足し、アップグレードしていくのが肝要かなと思います。

　以下に送った文章とその補足をまとめました（実際はフォーム上で文章を整えたので微妙に差異があるかもしれないです）。

■ロボットとサイボーグ・アンドロイドの差について

　まず、ロボットとサイボーグの差としては「機械主体」か「人間主体」か、という所がポイントだと思います。
①ロボット
　ロボットの基本的なイメージは、「人間が行う作業・行動を代理で行うもの」。工場の流れ作業から高度な演算によるシミュレーション、救助活動などなど。ペッパーくんとかは「接客やコミュニケーション」を代替してくれています。
　個人的には、人が搭乗して戦うような人型ロボットについては、「人間の戦闘行為」を代替するものだと思っています。このように、「機械単体で成立しているもの」がロボットとして当てはまるかなと考えます。

　上記の文章に「ある程度自立的に動く」という言葉を入れなかったので、洗濯機とかも当てはまるのでは？と自分で思ったのですが、洗濯機や電子レンジなどの機械が行う動作自体は人間には真似できないもので、それを行うことによって人間がしたいことを遂行してくれる「便利な道具」という側面が強いかなと感じます（ルンバは……どっちだろう、微妙）。

　人間型のロボットが代わりに洗濯行為をする（ロボットアームみたいなものでも可）ようなものの場合は「洗濯ロボット」と言えると思います。
　それこそ、月ノ美兎委員長の顔が表示されて「わたくしにお洗濯を任せて本当に大丈夫ですかね？」などと言われつつ簡単な受け答えの後に自動的に洗濯してくれるようなシステムなんかが入ってくると、単なる洗濯機よりはロボットっぽいかも。
　人間が行う行為を（ある意味）模倣して行う機械がロボットなのかなと。

　個人的には「モビルスーツなどを（その造られた経緯などを鑑みて）パワードスーツと見なすのでロボットではない」という最初の考察文にも頷ける部分があるので、その辺の線引きはなかなか難しいなと感じます。
　自分の体の動きがそのまま反映される場合はスーツっぽい？（『パシフィック・リム』のイェーガーとか）
　あと、単に動物を模倣した機械に関しては、ロボットというか「メカ」という配信中でもあった意見に当てはまる感じがします。

②サイボーグ
　一方、「サイボーグ」の場合は、大元の人間が存在し、そこに機械による付加機能を有した存在であると考えます。身体の一部を機械で置き換えたり、演算機能を有した電子回路を脳内に仕込んだり、など。また、人間が搭乗するロボットと比べて、パワードスーツのようなものは人間が主体であり、人間の運動を補助するための器具であるため、どちらかといえばサイボーグ寄りの存在かと思います。
　仮に全身が機械になったらそれは人間なのか？ ロボットなのか？ という意見に関しては、「個人の意思が残っていればそれは人間だ」と思います。「テセウスの船」のパラドックス（船のパーツをまるっきり別のものに置き換えたとき、それは同一の船と呼べるのか？ という思考実験）で例えれば、「個人の意思」が同じであれば、どれだけパーツが変わってもその存在そのものは同じになるかなと思います。

　先ほどの「パワードスーツとモビルスーツの差異」に関しての話。まあ確かにパワードスーツはサイボーグとも違う別カテゴリ、という感じはありますね。

　サイボーグによくあるパターンとしては、全身機械化したことで自身のアイデンティティが保てずに、「お前はもう人間じゃない……ただの機械だ」となる感じ。
　実際、自分の姿形すら自在に取替可能ということになれば、もはや残るのは「自分」という自我のみなので、そこが侵食されやすく（壊れやすく）なることはあり得るのかもしれない。
　まあ、実際なってみないとどうなるかは分からないですが。
　幻肢痛みたいなものは起こるのかも。

　「テセウスの船」は言いたかっただけです。

　ということで、ヒューマギアなど、ベースとなる人物が存在せずに作られた人型機械については「ロボット」という区分になるのかなと思います。ここでいう「ベース」とは、元となる生身の人間のことで、仮に見た目が特定の人間そっくりであっても、その人間そのものではなく一から造られた機械であれば、すなわちロボットということになるかと思います。　ただこれは、機械だからロボットだ、という感じでもなくて、その製作・使用用途としての定義からロボットと当てはめたような感じです。

　① での話に合わせれば、
「人間が行う作業・行為を代替してくれる人型機械」という感じ。

③人を模して造られたロボットやアンドロイド・ガイノイドの場合
　では、「アンドロイド」はロボットとどういう差異があるのか、という考察をしていきます。
　個人的解釈としては、「思考する人型ロボット＝アンドロイド」という超絶雑な定義になってしまうかなと思います。その「思考」の程度にも依るかとは思うのですが、人間と差し支えない判断、思考回路を持っていれば十分かなと思います。
　言い換えれば「人間と同じ行動ができるロボット」かと。

　人間自身も生物としてプログラムされている仕組みに従って思考し、体を動かしているので、その思考を促す大元が脳であるのか電脳であるのか、というだけの些細な違いだと思います。「あいつは人間らしい」とか「ロボットみたい」とかいうのは、人間が外から見た表面的な印象であるので、それらを形作る部分が全く違っていても、表からそう見えれば同じと見なされる、というのは少々乱暴でしょうか。

　「人間と差し支えない」ってどんなものなのよ、について。
　結局、人間らしいかどうかを判断できるのは人間だけ、だと思います。
　機械学習・ディープラーニング的な深層学習を重ねてそれらしい判断ができるようになっても、その大元の基準を作り、それが正しいと判断できるのは人間だけなので。
　更には、人間同士でもその「人間らしさ」には差があるのと、それこそクオリア的な話になるので、もはや「それっぽいからそう」という乱暴な判断をするしかないのかなぁ……と（そういう判断をする必要がある場合は）。
　チューリングテストに受かるAIが本当に人間と同じような思考を持っているのか、みたいなもの。
　自分はそれを「区別しようがないから同じと見做してしまおう」派で、「そもそもロジックが違うから思考とは違うんじゃね？」派もいる、という感じ。

　後半の「心」の話でもありましたが、あくまでロボットやAIの学習が人間ありきで出来ている所があるので、AI同士が先鋭化・効率化を図った結果、人間が理解できない何かが発現することもあり得るのかなと自分は思いますし、そう信じます。
　その方が面白いですしね。

　ヒューマギアの「シンギュラリティ」は、単なるロボットから「心を持ち、思考するロボット＝アンドロイド」への変質を表す現象です。インプットされているだけの行動パターンに「意味」を覚え始める訳であり、それがひいては自らの意思の発現へと繋がっていく。そうなると、もはや人間とも区別がつかない、一個の生命体として見なすべきかもしれません。

　霞さんがたびたびゼロワンの感想・考察を話すので、ゼロワンの話で締めたかった。

最後に三行でまとめます。
ロボット：人間の手助けをする機械
サイボーグ：機械化した人間
アンドロイド：人間に近付いた（あるいは同等の）ロボット

　今北産業。

　……という感じで、配信内での意見・コメントの追記や補足などを追加しました。

■「ロボットの『心』」

　後半の「ロボットの『心』」で話されていた内容について、紹介されていた記事なども含めてざっとまとめていきます。

・個人の意見としての「ロボットの『心』」
　自分個人の意見としては、「心」そのものが人間によって定義され得る（というか、「ある」と見做されるもの）なので、前述しましたが「それっぽいからそう」、それ以上の事は言えないかなぁと思います。
　ではまずその「それっぽさ（人間っぽさ）とは何なのか」。それが一つ目の考察文で触れられている内容ですね。人間が自分自身でも理解できない心の機微、合理的でない行動。「遊び」のようなもの？

「AIにかくれんぼさせていたら鬼を監禁するようになった」話は下記参照。

　学習の末、段々とバグ技を探すようにルールの穴をついていくようになるのが面白いですね。

・二つ目の考察「人間とコミュニケーションが取れない≠意思はない」
　について
　これも人間ありきの話。

　言及があったFacebookの実験についての記事を下記に。

　ついでに、自分が過去に見て面白いなと思った、AI同士の会話実験の動画に関する記事。

　人間には理解できない！ 怖い！ という意見もあり、なんか会話が成立している！ 怖い！ という意見もあり。AI同士としては「偶然」それっぽい会話が出来ているだけかも知れませんが、それに意味があるかどうかは分からない。

・「進化とバグの区別」について
　本質的には同じ突然変異で、それにより生きるのに適した状態に至ればそれは進化となり、そうでないものは淘汰されていく。「自然淘汰」の話。
　なら、AIにおける「進化」とは。より先鋭化され、最適化されることが進化なのか。それとも人間のような「不確定性」を持つのが進化と言えるのか。それは最後の考察で言及されていた軍事ロボットにおける用途の話にも繋がるかなと思います。

・最後の考察「ロボットの定義不能性」
　最後の考察は「定義における【自立的】を鑑みると、どこからがロボットなのか？」という話。言ってしまえば「定義不能」。
　「ロボット」という言葉自体が多様な意味を内包して広がった結果として、明確な基準で規定することが難しくなってしまった、というコメントからのまとめ。

・「ロボットの成長」について
　単純なパーツの置換や改造、データのアップデートは「成長」と呼べるのか。そもそもロボットを「成長」させる必要があるのか？ という話。
　個人的には、人工知能の「学習」は人間における精神面の成長、成熟に当てはまると考えられるけれども、そもそも肉体的な変化としての成長はロボットには当てはまらないし、させる必要はない、という意見です。
　「学習」は人間が知識そのものや倫理に基づく価値観、判断を身に付けていくことを一足飛びでAIが行っているようなものだと感じます。パーツの置換は、やはり人間のサイボーグ化とか、そちらに近いはず。
　難しいのが、「生命と同じ有機体で形成されたロボット」なり「機械生命体」なりが加わってくるとまたややこしくなることですね。その場合は肉体的成長の余地がある訳ですし、今度は「生命とは何か？」という話になってしまいます。

■配信を通してのまとめと個人的興味について

　思考実験としての「ロボットの定義」と「ロボットの『心』」という二つのテーマから議論が派生していきました。こういうことを考えるだけでも楽しいですが、意見をぶつけ合うことが出来る場を用意し、そしてそれら意見がとっ散らからないように霞さんがまとめてくれたことで、安心してプロレスができ（？）見応えのある配信になったのかなぁと思います。

　そういえば、配信中では話に上がりませんでしたが（たぶん）、アシモフの「ロボット三原則」に関する議論も聞きたかった感があります。
　これが適用されている限りはあくまでも「ロボットは人に従事する存在」であるわけで、人とロボットとの間には明確な差ができる訳です（ロボットは人に逆らえない）。ある種のセーフティーネット。
　ヒューマギア（滅亡迅雷.net）などは人間に対して明確に叛乱の意思を示しているのですが、それが「ヒューマギア自体の意志として発現した」のか「第三者がそうするように仕向けた（改造した）」のかによって、それが意味する所は大きく変わるかと思います。そちらは今後の展開に期待。

　あと、個人的に気になるのは、ロボットの「群体」って一体どういうものになるのかな、というもの。
　機械は人間と違い、会話や筆談などによる思考の共有以外に、ネットワークによる命令の共有ができる訳で、つまりは「自立するロボット同士での意識や意見の共有が容易になりうる」ということです。そうした「群体」として行動しうるロボットは個としての意識でなく、群としての意識を持つことになるのか。そもそも群としての意識ってどういうものなのか。等々。
　ロボットの並列思考・演算による行動はロマン。

■おわりに

　自分の知識のバックグラウンドにあるのは有名なSF小説であったり映画であったり。ガンダムは少々、他のロボットアニメはそんなに分からず。そして情報系・理工学系の知識（後は普通のオタク系の知識なり民俗学・都市伝説の知識なり、色々）。映画では『ガタカ』が好き。
　小説では森博嗣さんのS&Mシリーズで完全に理系に傾きましたし、Wシリーズにおける「ウォーカロン（人間と殆ど区別できない人工生命体）」の話とかが好きです。今回の配信テーマにも沿う世界観かなと思います。

　あと、『AIの遺電子』という漫画も、人間とヒューマノイドが共存する世界で起こる種々の問題・議論をオムニバス形式でまとめており、非常に面白かったです。

　前述したとおり、ロボットやAIの専門家でも何でもない一個人なので、もっと深い知識を有している人は山ほどいるでしょうし、もっと深い考察ができる人も星の数ほどいるでしょう。
　ただ、今回は面白いし興が乗ったので書いた。それだけのことです。
　これを読んで頂いた酔狂な人やイカス民の有識者の方々に「俺ならもっと面白文章が書けるぜ！！」と思って頂けるための一助になったとしたらもっと面白いなぁと思います。

　出雲霞さんのチャンネルはこちらです。
　彼女がAIってどういうことなのよ、とか「出雲霞」自体の詳細については
「出雲霞を簡単に知るまとめ」でまとめられている動画をざっと見て頂ければ雰囲気は掴めるのかなと思います。

　おーしまい。
　なんて。

■おまけ
 　文章中に入れきれなかった書籍の紹介です。

　配信内でも度々出てくる、「ロボット」という言葉が初めて用いられた、カレル・チャペックの「ロッサム万能ロボット会社（R.U.R）」。

 　「シモーヌに自由を」（チューリングテストに関する議論）を含めた思考実験がまとめられた「100の思考実験――あなたはどこまで考えられるか」 （「中国語の部屋」や「哲学的ゾンビ」、「テセウスの船」の話などもある）。