AI研究にルールを作れるか

スポーツクラブへの行き帰りの道のさるすべりは片側はまだそれなりに花をつけているが、空はすっかり様子が変わった。

ジェイムズ・バラットの「人工知能　人類最悪にして最後の発明」を読む。

人工知能 人類最悪にして最後の発明

この本を読んで印象に残った点は３つ。

１つは、人工知能の思考プロセスの母型となるであろう遺伝的プログラミング（またはそれとほぼ同等のプロセス）の
中身には、やはりブラックボックスの部分が相当残る（残っている）ということである。

効果的に働くものをまず試行錯誤的に作れたとしても（そういう意味では機械学習や深層学習も同じ）
なぜそれが有効に働くのかを「解析的に」理解するというのは、あるところからひどく難しくなる。
それが複雑系の問題であり非線型系の問題でもあるからだ（たぶん）。

深層学習についても、パラメータ学習があるところから急に進むのは（あるいは不適切な条件だと進まないのは）
相転移の理論に基づいて説明できるだろうという方向で研究が進んでいるようだが、まだせいぜいそのあたりまでで、
10年単位でその部分が急に進むかどうかは量子コンピュータでも実用化されないとかなり怪しい（複雑系・非線型系なので）。

２つめは人工知能が最短で実現するとすれば、脳のリバースエンジニアリングが目に見えて進んだ場合が最も可能性が高そうだと
いうことだ。

機械学習や深層学習の基礎理論であるニューラルネットはこの数年で完全に一般性を確立したし、そのことが欧米日の
巨大・脳科学プロジェクトの原動力のひとつになったわけだ。
そして、巨大・脳科学プロジェクトの目に見える結果は２−３年単位で次々に更新されるだろうし、
今のところその行きつく先がどのような風景なのかはぼんやりとした予想の範囲を出ない。

でもそれは近未来(10-20年先）の話ではなく、たかだか5-7年の話だ。
小学校に入った子供が中学校に入るだけの時間で何かががらっと変わるのだとしたら
（そしてそれが人の雇用環境に大きな影響を及ぼすのだとしたら）、社会はその準備をしておく必要があるだろう。

３つめは、「ではAI研究にルールを作れるか」ということだ。前例はある。
遺伝子組換えの研究については同じような危機意識が世界中の研究者に共有され、アシロマ会議で自発的なルール化が
現実のものとなった。1975年のことである。
2008年の人工知能学会の集会はそのことを踏まえてアシロマで開かれたらしいが、それがどのようにガイドライン策定に
つながっていくのかは今のところ不透明なままである。

この本のあちこちで書かれている理由で、それはかなり困難、というよりほぼ不可能のように思える。
・人工知能の有力な応用のひとつが軍事利用であること、同じくひとつが経済・投機利用であること
・別の国に実用化されるのではないかという恐怖から開発を緩められなくなるであろうこと

「『実際の生きたAGIが金融市場から姿を現すのは当然ありうることだ。一人のクオンツが作った一つのアルゴリズムからじゃなくて、いくつものヘッジファンドが作ったあらゆるアルゴリズムの集合体からだ。AGIには一貫した理論はいらないかもしれない。集団現象かもしれないんだ。お金を追いかけていって金融市場に軽く一発撃てば、流れてきた力AGIが生まれてくるのさ』
このシナリオを信じるには、次々に優れた金融モデリングの構築に大量の資金がつぎこまれているという事実を受け入れなければならない。実際にそのとおりで、不確かな話だが、DARPAやIBMやグーグルがAGIにつぎ込んでいるよりもさらに多くの資金が、どこか別のところで機械知能に費やされているらしい。つまり、より数多くの優れたスーパーコンピュータとより賢いクオンツが生まれているということだ」

以下の論点は少しどきっとした。工学の強みというのがやっぱり自分にはわかっていないらしい。

「ゲーツェルは語る。『もしかしたら、汎用知能の厳密な理論における科学的なブレークスルーが起こらないと高度なAGIシステムの開発は不可能かもしれない。だが現段階では、その必要はないのではないかと思っている。いまの私の考えでは、現在の知識からステップバイステップで前進していけば、つまり、汎用知能を完全に厳密に理解しないままでも工学的に進めていけば、強力なAGIシステムを作れるはずだ」