Phinlodaのいつか読んだ本

実際に読んでみた本の寸評・奇評(笑)

人類を超えるAIは日本から生まれる

今回は人工知能の話題を扱った本、「人類を超えるAIは日本から生まれる」です。ターゲットは人工知能に興味のある人、という感じでしょうか。あまり細かいことを知らない人が読めば、なかなか面白い内容の本だと思います。本当に専門だといろいろひっかかるところもあるのですが、割と人工知能の発展の流れがよく分かるような構成になっています。

人工知能というと、人間と同じように考えるという妄想を抱きがちですが、

オックスフォード大学教授で哲学者のニック・ボストロムは、人工知能自身が悪意を持つというより、人工知能の「考え方」は人間とはまったく違う、と考えるべきだと言っています。
(p.29)

このあたり、面白い指摘です。最近のAI研究者のトレンドは倫理や哲学なんですよね。そろそろ宗教も出てきて欲しいですが、そもそも、人間の考え方だって、人によって全然ちがいます。誠実が大前提という文化もあれば、嘘を付いて騙すのが基本というような国もあります。人間と人間の間でさえ考え方が統一できないのに、人工知能に何か統一的な考え方をしろというのは無茶でしょう。

人間とコンピュータの間には、明確に違うところもあります。それを考えても、人工知能の行きつく先は不鮮明です。例えば、

ペーパークリップを無制限ではなく「1000万個作れ」と命じられた人工知能はどうするでしょうか。人工知能は自分が作ったクリップの数は「本当に1000万個なのだろうか」と急に心配になります。
(p.30)

私見としては、こうならないような気がします。人工知能はコンピュータの上に実装されます。iレイチェルのように、今までの会話を全て間違いなく記録することが可能です。やろうと思えば、今まで作ったペーパークリップの数は誤差0で100%確実に記憶することができるはずです。これが人間と人工知能の一つの本質的な違いです。

本当にAIが心配するとすれば、1000万個も作っていいのだろうか、というところでしょう。

今のAIブームの延長で人工知能が完成するかというと、

マスター・アルゴリズムディープラーニングの延長戦上にあるとはかぎりません。
(p.53)

~とは限らない、という無難な言い方が個人的には面白くないですが、現時点で素人さんが全く理解できていないのはここではないでしょうか。現状のAIは単なるパターン分けができるに過ぎず、知能の入り口に立ってすらいません。ただ、パターン分けで猛烈に強くなれる囲碁や将棋のようなゲームには強い、というのは確かです。

いろんな先駆者、著名人の意見が紹介されているのも面白いです。

ハサビスは、「ディープマインドの目標は、物理学を発展させて宇宙の神秘を解明することだ」と語っています。
(p.61)

個人的には、それは人工知能だけでは解決不可能だと思います。丁半勝負していいのなら、私は「世の中には何をどうやっても解明できないことがある」に賭けます。

ホーキンスは、インテルに勤めていた時期があり、そこで脳の研究を提案していましたが、ビジネスにならないという理由で却下されています。
(p.74)

ビジネスにならないプロジェクトを却下するというのは企業としては合理的判断だし、それに関しては妥当かもしれませんが、個人的には、脳の研究はビジネスになるような気がしますけどね。

ホーキンスは、人間と同じように考える機械をつくる方法は3つあると言います。1つは生物学的アプローチ、2つ目は数学的アプローチ、そして、3つ目が工学的アプローチです。
(p.76)

3つというのは故意にそうしたのでしょうか。4つ目のアプローチは非常によく知られていると思います。でも伏せておきましょう。

さて、人工知能はどのようにして開発すればいいか。今はインターネットから膨大なデータをgetできるようになり、ハードの性能も上がった、これが最近の AI ブームの発火条件をクリアしたということのようですが、

どこかの地下室で世界を変えるような人工知能が開発される可能性も十分あります。人工知能は頭脳さえあれば開発できるのですから。
(p.92)

それはちょっと甘いでしょう。確かに物理的な発見・発明のためには、大規模な施設が必須になることもよくあります。これに対して、人工知能はコンピュータだけあれば何とかなる。しかし問題はそこで、根本的な条件として、人工知能はコンピュータがなければ開発できない。そして、ビッグデータを十分に処理するような大量の計算を行うためには、膨大な計算機料金を支払う必要があります。つまり、カネが必要だ、というのが今の AI 開発の現場だと思います。これは極細企業にいると切実に感じますね。

さて、この本を手にした理由は、なぜ日本からAIが生まれると考えたのかを知りたかったからなのですが、

NSPUが2025年までに完成すると想定して、今から、その上で動く人工知能アルゴリズムを開発し、世界に先駆けて完成させること。これが、日本にとって起死回生のラストチャンスです。
(p.164)

NSPUというのは日本製の省エネスパコンなのですが、それは私の期待した理由ではありませんでした。個人的にはもう少し面白いことが起きるのではないかと思っているのですが、このあたりにちょっと気になることが書いてあったので、疑問だけ投げつけておいて今日は逃げたいと思います。

超知能の開発のメリットを得られるのは、それを世界で最初に開発した者だけだということです。
(p.160)

何故でしょうか?

超知能を最初に開発した者は、それを使って超知能の能力をますます高めていくことができます。
(pp.160-161)

そのことは否定しませんが、

そうなると、2番手がどうあがいてもキャッチアップできません。
(p.161)

ここが私には分からないのです。この本には、なぜ2番手が1番を抜けないのか、その理由は書いてありません。

といいつつ余談。この本の最後の方に対談記事があります。対談したのは松田さんと斎藤さん。斎藤さんというのは、先にちょろっと引用に出てきた NSPU というマシンを開発した人です。この人はかなり凄い人で、

9歳でアマチュア無線技士の資格もとっています。
(p.172)

9歳にはビックリですね。ちなみに私がアマチュア無線技士の資格を取ったのは12歳のときです。


人類を超えるAIは日本から生まれる
松田 卓也 著
廣済堂新書
ISBN: 978-4331519905