おにぎりだもの

人生100年時代を自分勝手に楽しく生き抜くための雑記ブログです。

【AIの限界①】AI(人工知能)は人間を超えるのか? AIの技術限界はどこにあるのか?

「AIが人間の知能を超えるシンギュラリティは、そう遠くない未来にやってくる」、「AIに人間は仕事を奪われる」、「AIに人間は支配されるようになる」等々、AI脅威論をほぼ毎日のように聞いたり耳にしたりしますよね。チェスや碁ではもう人間はAIに勝てないのだから、他の分野でもAIが人間を凌駕するのは時間の問題などとも言われています。

 

でもAIに何が出来て何が出来ないのか知ってますか?実際にAIを触ったことあります?なくないですか?ネットや雑誌に溢れる「AI」はイメージの集積でしかなく、その実態がどのようなものか、一般のひとはあまり知る機会がないのではないでしょうか。

 

今回はAIについての実態を知るために、日立グループが主催するイベント Hitachi Social Innovation Forum 2017 TOKYOで行われた、新井紀子先生の「AIが大学受験を突破する時代の社会変化」という講演を聞きに行ってきました。本エントリではその講演でわたしが理解できたAIの実態について書きます。

 

書き出したら長くなったので2回に分けて書きます。今回は講演の前半部分です。

 

AI(人工知能)は人間を超えるのか -東ロボプロジェクトの事例-

f:id:onigiri777:20171101111858j:plain

まずは講演の概要を。公式サイトからの引用です。

2030年代のAIやロボットが共存する社会を展望する国立情報学研究所では、2011年より「ロボットは東大に入れるか」という人工知能プロジェクトを推進しています。2015年にセンター模試を受験した本プロジェクトのAIは、上位20%の成績を修め、大学半数以上に合格可能性80%以上と判定されました。
本講演では新井氏に、これまでの研究成果を踏まえ、近未来社会がどう変容するかの展望、また、AIやロボットと人間の共存のために必要な制度設計について、最新の報告と提言をお話しいただきます。

 講演:Hitachi Social Innovation Forum 2017 TOKYO

 

え?AIが東大に入れちゃうの?わたしより頭良くない?ということは AIに仕事奪われちゃうとかマジありえるわけ?とグルグルしますね。

 

結論としてロボットは東大に入れませんでした。上位20%の成績を修め、大学半数以上に合格可能性80%以上と判定されましたが、そこで頭打ちとなったそうです。そもそもこのプロジェクトはAIの技術限界がどこにあるかを見定めるための取り組みで、途中でAIの限界がくることは織り込み済みだったとのこと。

 

東大には入れないということは、結局人間を超えることはできなかったということです。ではAIの技術限界はどこにあるのでしょう。

 

【日本の会社員は勉強しないと詰むよ】

 

人間を超えられないAI(人工知能)の技術限界とは

AI(人工知能)に学習させる方法

まずはAIにどう学習させるのか。「受験参考書や過去問をビックデータとして読み込ませる→AIにニューラルネットワークで学習させる→受験する」という考えるひとはAIを理解していない、と新井先生は冒頭にバッサリ切りました。うっ。。。そう思ってた。みんなもそう思ってたよね?ね?違うんだって。

 

わたしは数学が苦手なので、数式を用いて説明された以下の話を完全に理解出来た自信はないのですが、わたしが理解出来た範囲で書いていきます。

 

コンピューターは全て数学で出来ており、数学は論理・確率・統計の3つで出来ている。既存の論理・確率・統計の範囲内で問題解決を図る、「よい関数」とは「最も経験損失が少ないもの」である。(一番よいのは既存の範囲外にある関数、その次によいのは最も機会損失が少ない関数だが、現実的に不可能)

 

「最も経験損失が少ない関数」とは、限定されたサンプルを読み込ませて正解を出力する関数です。そして正解は人間が作る必要があります。その基準がブレるとAIの精度も下がる。つまりAIは人間の精度を超えることができない。統計的機械学習の結果、なんとなくAIは「最も経験損失が少ない関数」にたどり着き、AIの回答は「正しいことが多い」。つまり常に正しいとは限らない。

 

【理想の自分になるために必要なことは?】

 

AI(人工知能)は文章の意味を理解できない

IBMが作ったワトソンが、アメリカのクイズ番組「ジェパディ!」で勝利したことは記憶に新しいと思います。なぜワトソンはジェパディで勝てたのか。それはジェパディの答えは常に固有名詞か数字だったからです。ワトソンは穴埋め問題を解いていただけだったのです。

 

AIは文章を読むことができません。キーワードで文字列を検索するだけです。例えば「モーツァルトが最後に作曲した交響曲は?」と質問されたら、「モーツァルト 最後 交響曲」で検索し、検索ワードの近くにある単語を正解として答えるのです。

 

ここで面白かったのが新井先生に教えてもらったSiriを使った実験です。Siriに以下の3つの質問をしてみてください。

  1. この近くのおいしいイタリア料理屋は?
  2. この近くのまずいイタリア料理屋は?
  3. この近くのイタリア料理屋以外は?

結果はどうでしたか?わたしは全部同じイタリア料理屋が出てきました。これはSiriが「この近く」「イタリア料理屋」という単語でランキングサイト等を検索しに行っているからです。「おいしい」、「まずい」、「〜以外」は検索キーワードとしてそもそも拾わないからこうなるんですね。文章を読んで理解しているとは到底言えないですね。

 

※2017/11/9追記

新井紀子先生のツイートによると、1,2は違う答えが出るようになったそうです。しかし本質は変わっていない。

 

【私が銀行員を辞めた理由】

 

AI(人工知能)に意味がある文章は書けない

東大ブロジェクトのロボは選択式のみならず、600字の記述式試験でも偏差値52を叩き出しました。すごいですね。全部コピペです。データベースに格納された受験参考書を問題文に含まれる検索キーワードで検索し、それっぽい文章を集めてきて600字に最適化したのです。質問の内容も回答の内容も、一切意味を理解していません。

 

AIの言語モデルで使われているのは予測変換の技術です。マルコフモデルという数理モデルを用いて、入力された単語をもとに次に来る単語を予測します。「わ」と入力されたら、「私は」と変換してくれるような技術です。ですのでAIと意味のあるやりとりはできません。リンナちゃんのようにボキャブラリーが少なく突拍子のない会話をするAIはできますが、銀行の窓口業務をできるAIは作れないということです。

 

機械翻訳訳文がより日本語らしくなってはいるが、原文の意味を理解した上での翻訳はまだまだAIには出来ないそうです。多くの例文を読み込ませて、統計的に正しい訳文を算出するだけで意味を考えてはない。

 

【仕事のレビューを最高に効率化する方法!】 

 

AI(人工知能)の技術限界

ここまででAIの技術限界は、「文章や会話の意味を理解できない」ことであると理解できますね。わたしは中国語の部屋を想起しました。意識の問題を語るときに例にだされる思考実験の一つです。

 

ある男性(以下Xとします)が小部屋にいます。Xは英語しか理解できません。小部屋の窓から中国語が書かれた紙切れが差し入れられます。Xは小部屋の中のマニュアルを参照し、紙切れに書かれた文字に対応する文字を探します。その見つけた文字を、紙切れに書いて窓から差し出します。Xは中国語が理解できないので、差し入れられた紙に書かれた文字も、自分が書いた文字も意味は全くわかっていません。

 

小部屋の外にいる人(以下Yとします)から見ると、中国語で書いた質問に回答が帰ってきたように見えます。例えば「今日のお天気は?」という質問を書いた紙を渡して、「晴れです」と紙に書かれて帰ってきたら、質問を理解した上で回答しているように思えますよね。Xは一切意味を理解せずに機械的に作業をしているだけにもかかわらず、部屋の外のYからは会話が成立しているように見えるのです。

 

しかしXが行っている作業を理解すれば、会話が成立しているとは到底思えませんね。Xがやっていることは、AIがやっていることと同じです。AIは中国語の部屋の中にいるのです。

 

【成功するために必要なのは実力じゃないよ】

 

なぜAI(人工知能)が人間を超えると過信してしまったのか

ここまで読んで、いつか人間を超えて無謬の存在になると思っていたAIは、人工知能というより人工無能の形容がふさわしい存在だと感じませんでしたか?わたしはそう感じました。 

 

では何故われわれはAI技術を過信してしまったのでしょう。「AIのニューラルネットワークが人間の脳をモデルにしている」という誤った情報のためと新井先生は説明されました。そもそも現在は人間の脳に電極を刺したら傷害罪になるそうです。猿を用いた実験も禁止。ではAIのニューラルネットワークは、何をモデルにして作られているのか。

f:id:onigiri777:20171101231000j:plain

こいつです!チュー!

この脳を何兆個集めたら、人間を超えた無謬の存在になれるんだよ。。。そもそもネズミに言語野が存在しないので無理ゲーっぽい。

 

では本当に、AIが人間を支配するような未来はこないのか。人間はAIをどう扱うべきなのか。これらの講演後半の内容を第2回にまとめました。

 

 

【変化の早い世の中で勝ち残るために】

 

twitterでもゆるーく情報発信しています。

フォロー宜しくお願いします☆