人工知能はシンギュラリティを迎えた時に人類以上になる！とか、最近よく言われている。
仕事能力という物差しで言えば、可能性としてあるかと思う。

しかし、人工知能に仕事を奪われる！と短絡する連中まで湧いて出た。

それに対して、新しい仕事が増えて人間はそちらに異動させられる、人工知能を補助する仕事がある、などの消極的対処療法を聞いた覚えがある。これらを潰すため、シンギュラリティ後には人工知能が自己改良し、人間がやれる全作業を担う能力を得るだろう、とまでぶち上げる人がいる。

だが僕は、もっと人間の性根を考える。

人工知能が仕事を肩代わりするまで十分に自己改良したとしよう。
それで、人工知能労働の方が安上がりだと、即刻異動辞令が下りるのか？

そうはならないだろう。

人工知能自身によって、誰も規律を与えず自由に自己改良を許せば、人間の意図しない作業を始めてしまう。それは経営者はおろか、開発者でも理解できない先進的な効率化が施されている作業かも知れない。

だが、結果がすべてではないのだ。人間というものは。

作業の途中経過すべてを知るのは非効率なのでやらないだろうが、意図した動作かどうかチェックポイントを作らずにはいられない。その帰結として作業内容は、人間が理解可能なレベルにダウングレードせざるを得ない。

それも人工知能自ら拒否するようになってしまうというのか？

管理できなくなる人工知能など、がんウイルスと似たようなものだ。人間を平和に逆管理したりはしない。人間が知り得ない基準で、人間が役に立てられない中間生成物を増産してしまうだろう。

がん化した人工知能は、どんな高性能でも隔離され、表には出されないのだ。

だから仕事は、人間の手に戻る。規定の範囲で動く人工知能が、補助に徹することはあっても乗っ取りはしない。人間のために働く企業なら、そういう経営判断をするだろう。

経営が人工知能に乗っ取られる？

そんなの、ないない。誰がどんな学習データを揃えられるのか見ものだ、と言っておこう。