シンギュラリティ？来たら面白そうですよね
前回のエントリに関連して、別の視点である機械の知能もよく目にする面白い話題なので 自分なりに考えてみたい
それで結局、レイ・カーツワイルがいうようなシンギュラリティは、誠に残念ながら、起こらないのではないかという気がする
そう書きつつ、この予想が外れることを期待していて、とんでもないものを見たい×３、と思ってはいる
シンギュラリティが始まったら、ある時点で神の奇跡を見ることになり、間もなくして映画のようなディストピアに塗りつぶされるらしい
ワンチャンAIの舎弟として、人類は永遠に若く、飽きずに楽しんで暮らせるかもしれない
そんなうまい話があるだろうか？（あるといいですよね...）
期待するもの、想定するもの
AI進化がある時点から際限なく加速していくなら、Lucy とか インターステラーとか TENET のような、次元を超越したり、空間を飛び越えたり、時間さえさかのぼる方法も有限時間内に発見されてしまうだろう
ならばどの時点でシンギュラリティが起ころうが、宇宙はいつもその支配下であり、我々はもうその中だと考えて差し支えない（Matrixのような結末?）
それでも日常はいつもの日常なのだから、なんやかんや心配するような影響はなさそうである
シンギュラリティの条件で欠けている、と思うもの
それは、機械自身の評価基準だと考える。
個人的に技術的特異点は永久機関と印象がダブる。ナイーブな試みはすべて現実の物理に却下されてしまった。そんな甘くないよ、と。
レイ・カーツワイルのいうシンギュラリティの根拠は計算能力の爆発だという。そして、人間をはるかに超えるスピードで自身の計算能力を改善していくらしい。
そこで、問題なのが「改善」だ。 いったい機械は何をもって改善できたと判断するのだろう。 単位時間あたりの計算スピード？（そんな装備で大丈夫か？）
Deep Learning は人類の膨大な活動記録を大量に食べることで、人間をうならせる成果を上げている。でもそこには人間の活動記録と人間の評価目線が両方投入されている。その人類をはるかに超えて機械は何を基準に加速度的に「改善」を推し進めるのだろうか。
翻って、我々人類が今改善だとか素晴らしいとみなしているものが普遍的な基準とは限らない。もっと斜め上の評価基準が見つかって、それまでの基準はおバカな恣意的な夢だった、と分かる日が来るかもしれない。シンギュラリティにそんなポテンシャルが含まれているなら、あきらかに膨大な活動記録を食べる以上の手法を機械自身が見つけなくてはいけない。
今のAIはちょっと趣向の変わったブルートフォースをやっているように見える。それでは計算能力がいくら爆発しても大したことにはならなそうである。人類の領域をはるかに超えていく段階で、無限のバリエーションを採り得る基準すべてからこちらがベターだと自分で決めて検出し続けなくてはならなくなる。現在の基準の中での改善ではなく、無限の基準の中からなのでごく少なく見積もっても ∞ × ∞ の問題をねじ伏せる必要がある(∞の軸はもっと沢山あるかもしれない)
ちょうど CPU コアは加速度的に際限なく増えていくが,
それぞれが追加された途端 while (true) { brute_forcing('100093983242xxxth'); } がアサインされて、全体として沈黙を守るイメージだ。
（私が妄想するイメージ)
評価基準が生まれてくるところ
それは皮肉にも生き物の宿命の力だと思っている。
生き物は同じことをやりつづけていると疲れてミスして飽きてしまう。 機械はミスしないし、飽きないし、電力さえ供給すれば休む必要もない。
そこが運命の分かれ道。
命に限りがあるために、無限に終わりそうもないことはやっていられない、それじゃあ何をやりますか、これこそが評価基準のはじまりである。
人類の知能がゆっくりとしているが次元を飛び越えることができるのは、実はそんな生物的条件の結果ではないか、と考えてみた。
まだ希望はある
シンギュラリティは、恐れおののくような神ではないかもしれない。それでも人間の評価基準を参考にして人間に寄り添う形で新たな示唆を与えるなど、意外にもというか望ましい形で恩恵をもたらしてくれそうではある。
身体の復元や難病克服、エネルギーの高密度化や丈夫で軽い物質の組成、二次元⇔三次元といった仮想現実など、人類目線でありがたいものの発明を劇的に加速してくれるのは間違いないだろうな。
