2018年06月19日

●「人工知能最大の難問フレーム問題」(EJ第4788号)

 ディープラーニング革命によって、AI(人工知能)に関わる
難問が次々と解決されています。画像認識、文字認識、音声認識
などが急速にクリアされています。しかし、AIには根本的に解
決できない難問があります。それは「フレーム問題」です。
 フレーム問題とは何か──これは基本的に人間と機械の違いに
直面する難しい問題です。まずは、フレーム問題とは何かについ
て、雑賀美明氏の著書から引用します。
─────────────────────────────
 フレーム問題というのもあります。
 これは、1969年にジョン・マッカーシーとパトリック・ヘ
イズが指摘した人工知能研究の最大の難問です。今からしようと
していることに関係のある事柄だけを選び出すことが、実は非常
に難しいと言う問題です。周りの環境から、何が関係あって、何
が関係ないかを調べるために、無限の計算が必要になって人工知
能が止まってしまうことを「フレーム(枠)問題」と言います。
 人工知能は、チェスやオセロのような閉じられたルールの枠の
中では有効に働きますが、現実の世界のように開かれた世界に飛
び出すと、情報を処理しきれずに動きが停止してしまいます。コ
ンピュータには有限の処理能力しかないので、何も動作できずに
止まってしまうのです。    ──雑賀美明著/マルジュ社刊
      『人工知能×仮想現実の衝撃/第4次産業革命から
                  シンギュラリティまで』
─────────────────────────────
 フレーム問題について、身近の事件から探っていくことにしま
す。このところ新幹線でのトラブルが相次いでいます。6月9日
の新幹線「のぞみ265号」での乗客殺傷事件、これに続く14
日の「のぞみ176号」による人身事故など。とくに人身事故で
は、運転手はトンネル内で異音を聞いているのに、小動物である
と思ってそのことを運転指令に報告せず、列車を停止しなかった
のです。これは明らかに業務規則違反です。こんなことはあって
はならないことです。
 このケースとはまるで違いますが、車に乗っていてフロントガ
ラスに何かがぶつかったとします。そういうことはよくあること
です。小石が跳ねたかもしれないし、何らの虫がぶつかったかも
しれない。そういう場合、人間の運転者であれば、車を止めるこ
とはないはずです。人間なら、何がぶつかったか見当がつくし、
それが運転継続に支障をきたすことではないかわかるからです。
 ところが、この車がAIによる自動運転車であった場合、仮に
ぶつかったものが虫であっても、急停車するはずです。AIには
ぶつかったものが虫なのか、小石なのか、人なのかを判断できな
いからです。しかし走っているのですから、フロントガラスには
いろいろなものがぶつかりますが、そのたびに、車が止まってし
まったら、不便きわまりないことになります。
 このように、人間なら簡単にできることが、AIにはできない
し、逆に人間なら到底できないことが、AIなら短い時間で正確
に仕上げてしまうことが多いのです。このことは、フレーム問題
と関係があります。
 5月25日付/EJ第4771号で「マイシン」というエキス
パートシステムをご紹介しました。この「マイシン」について、
中島秀之東京大学大学院特任教授がフレーム問題との関連で、次
のように対談で述べています。
─────────────────────────────
――エキスパートシステムというのは、まるで人間のエキスパー
ト(専門家)のように、与えられた知識から推論して複雑な問題
を解くよう設計されたAIのことですね。医療系のエキスパート
システムだったマイシンは、伝染性の血液疾患の患者さんを診断
していたと聞いたことがあります。
中島:そうです。マイシンは、感染症の診断が、トップクラスの
   医者には負けるけれど、人間のインターンよりは優れてい
   ました。さまざまな医学知識を取り込んで、いろんな推論
   を展開するのは、AIの得意分野です。ところが、マイシ
   ンのようなAIは、一部の例外を除いて、結局、実用化さ
   れませんでした。
――なぜですか?
中島:大きな理由の1つは、感染症を調べるためにいろいろ検査
   するとき、「子どもに注射を打つ検査をあんまりやると、
   痛がるからだめだよ」という知識が、医学書には書いてい
   なかったからです。
――つまり、マイシンは、検査に必要となれば、子どもにも注射
をバンバン打つよう指示してしまったわけですね?
中島:そうです。「子どもが注射を嫌う」というのは、人にとっ
   ては常識です。しかし、AIであるマイシンには、わから
   ない。じゃあ、AIに読ませる医学書に「子どもは注射が
   嫌い」と書けば済むのかというと、そういう常識の類は、
   ほかにもいっぱいあるわけです。
                  https://nkbp.jp/2JYiG2m
─────────────────────────────
 「マイシン」というエキスパーシステムには、感染症の検査に
必要な医学知識やノウハウはすべて入れてあるのですが、医師は
それだけで診断するわけではありません。それに人間であれば誰
でも持っている「常識」に基づいて診断を下すのですが、AIは
それを持っていないのです。
 それなら、それらの「常識」をAIに与えればよいということ
にはならないのです。人間の持っている知識は、驚くほど多く、
人間自身も自分がどれだけの知識や情報を持っているか意識して
おらず、人間はそれらを基にして総合的に判断を下しているので
す。そういう知識をAIに学習させることは困難です。こういう
ことから、フレーム問題は起きてくるのです。これについては、
明日のEJでももっと詳しく取り上げて考えてみます。
          ──[次世代テクノロジー論U/032]

≪画像および関連情報≫
 ●人工知能の大半は、ないものを「ない」と認識できない
  ───────────────────────────
   例えば、会社の歓迎会で花見を開催したとしましょう。ブ
  ルーシートに並べられた缶ビールを見て、「どうしてキリン
  ビールはないの?」「私はよなよなエールが好きなのに」と
  文句を言われた経験はありませんか?一見、自然な会話に見
  えますが、人工知能にこれを言わせようとすると非常に大変
  です。
   まず、日本で販売されている全ての缶ビールを学習させた
  (覚えさせた)上で、目の前に置かれた缶ビールのラベルを
  1つ1つ認識させれば、どのビールがあって、どのビールが
  ないかが分かります。しかし、重み付けなどを行って1つだ
  けを選ばせるといった制御をしない限り、「キリンビールが
  ない」とは言わずに、そこにないビールを全て列挙すること
  になるでしょう。
   その人工知能が「花見で買ってきていないビールすぐ認識
  する君」のような超特化型のAIならよいですが、人間のよ
  うな汎用的思考を持った、いわゆる「汎用人工知能」が認識
  しようとすると、実現性は一気に低くなります。日々新たな
  商品が生まれる、全ての缶ビールを学習させるなど事実上不
  可能だからです。これがもし、ハイボールや缶酎ハイも加え
  ることになったら・・・と考えればキリがありません。
                  https://bit.ly/2JUkHJt
  ───────────────────────────

中島秀之東京大学大学院特任教授.jpg
中島秀之東京大学大学院特任教授
posted by 平野 浩 at 00:00| Comment(0) | 次世代テクノロージ論U | このブログの読者になる | 更新情報をチェックする
RDF Site Summary