『人工知能は人間を超えるか ディープラーニングの先にあるもの (角川EPUB選書)』の読書ノート作成者:masudakotaro さん
2016/11/13 作成
【第6章 人工知能は人間を超えるか】
人工知能が発展すると，人間と同じような概念を持ち，人間と同じような思考をし，人間と同じような自我や欲望を持つと考えられがちだが，実際はそうではない。
人間が「知識」として教えるのではなく，コンピュータが自ら特徴量や概念を獲得するディープラーニングでは，コンピュータが作りだした「概念」が，実は，人間が持っていた「概念」とは違うというケースが起こりうる。人間がネコを認識するときに「目や耳の形」「ひげ」「全体の形状」「鳴き声」「毛の模様」「肉球のやわらかさ」などを「特徴量」として使っていたとしても，コンピュータはまったく別の「特徴量」からネコという概念をつかまえるかもしれない。
そもそも，センサーのレベルで違っていたら，同じ「特徴量」になるはずがない。人間には見えない赤外線や紫外線，小さすぎて見えない物体，動きが早すぎて見えない物体，人間には聞こえない高音や低音，イヌにしか嗅ぎ分けられない匂い，そうした情報もコンピュータが取り込んだとしたら，そこから出てくるものは，人間の知らない世界だろう。そうやってできた人工知能は，もしかしたら「人間の知能」とは別のものなのかもしれないが，間違いなく「知能」であるはずだ。
もう1つ重要なのが。「本能」だ。本能といっても，脳に関することであり，要は何を「快」あるいは「不快」と感じるかということである。
人間の場合，生物であるから基本的に生存（あるいは種の保存）に有利な行動は「快」となるようになっており，逆に生存の確率を低くするような行動は「不快」となるようにできている。
こうした本能に直結するような概念をコンピュータが獲得することは難しい。
シンギュラリティというのは，人工知能が自分の能力を超える人工知能を自ら生み出せるようになる時点を指す。
人工知能が人類を征服したり，人工知能をつくり出したりという可能性は，現時点ではない。夢物語である。いまディープラーニングで起こりつつあることは，「世界の特徴量を見つけ特徴表現を学習する」ことであり，これ自体は予測能力を上げる上できわめて重要である。ところが，このことと，人工知能が自らの意思を持ったり，人工知能を設計し直したりすることとは，天と地ほど距離が離れている。
その理由を簡単に言うと，「人間＝知能＋生命」であるからだ。知能をつくることができたとしても，生命をつくることは非常に難しい。いまだかつて，人類が新たな生命をつくったことがあるだろうか。仮に生命をつくることができるとして，それが人類よりも優れた知能を持っている必然性がどこにあるのだろうか。あるいは逆に，人類よりも知能の高い人工知能に「生命」を与えることが可能だろうか。
人工知能が発展すると，人間と同じような概念を持ち，人間と同じような思考をし，人間と同じような自我や欲望を持つと考えられがちだが，実際はそうではない。
人間が「知識」として教えるのではなく，コンピュータが自ら特徴量や概念を獲得するディープラーニングでは，コンピュータが作りだした「概念」が，実は，人間が持っていた「概念」とは違うというケースが起こりうる。人間がネコを認識するときに「目や耳の形」「ひげ」「全体の形状」「鳴き声」「毛の模様」「肉球のやわらかさ」などを「特徴量」として使っていたとしても，コンピュータはまったく別の「特徴量」からネコという概念をつかまえるかもしれない。
そもそも，センサーのレベルで違っていたら，同じ「特徴量」になるはずがない。人間には見えない赤外線や紫外線，小さすぎて見えない物体，動きが早すぎて見えない物体，人間には聞こえない高音や低音，イヌにしか嗅ぎ分けられない匂い，そうした情報もコンピュータが取り込んだとしたら，そこから出てくるものは，人間の知らない世界だろう。そうやってできた人工知能は，もしかしたら「人間の知能」とは別のものなのかもしれないが，間違いなく「知能」であるはずだ。
もう1つ重要なのが。「本能」だ。本能といっても，脳に関することであり，要は何を「快」あるいは「不快」と感じるかということである。
人間の場合，生物であるから基本的に生存（あるいは種の保存）に有利な行動は「快」となるようになっており，逆に生存の確率を低くするような行動は「不快」となるようにできている。
こうした本能に直結するような概念をコンピュータが獲得することは難しい。
シンギュラリティというのは，人工知能が自分の能力を超える人工知能を自ら生み出せるようになる時点を指す。
人工知能が人類を征服したり，人工知能をつくり出したりという可能性は，現時点ではない。夢物語である。いまディープラーニングで起こりつつあることは，「世界の特徴量を見つけ特徴表現を学習する」ことであり，これ自体は予測能力を上げる上できわめて重要である。ところが，このことと，人工知能が自らの意思を持ったり，人工知能を設計し直したりすることとは，天と地ほど距離が離れている。
その理由を簡単に言うと，「人間＝知能＋生命」であるからだ。知能をつくることができたとしても，生命をつくることは非常に難しい。いまだかつて，人類が新たな生命をつくったことがあるだろうか。仮に生命をつくることができるとして，それが人類よりも優れた知能を持っている必然性がどこにあるのだろうか。あるいは逆に，人類よりも知能の高い人工知能に「生命」を与えることが可能だろうか。
masudakotaro さん
この読書ノートを読んだ人によく読まれている読書ノート
キーワードで引用ノートを探す
