2018年06月20日

●「松岡正剛氏が斬る/フレーム問題」(EJ第4789号)

 フレーム問題の存在を指摘する有名なロボットの問題がありま
す。それをわかりやすく一部を変更して記述します。
 AIロボット1号は、危険な場所へ荷物を運んだり、運び出す
仕事をするロボットです。あるとき、倉庫に爆弾が仕掛けられた
という情報が入ったので、AIロボット1号に、爆弾が仕掛けら
れたとする倉庫から、高価な美術品を運び出してくるよう命令し
たのです。
 AIロボット1号は、倉庫に行き、台車に美術品を乗せて倉庫
の外まで運び出したのですが、爆弾は台車に仕掛けられていたの
で、倉庫を出たところで爆弾が爆発し、目的を果たすことができ
ませんでした。
 これに対してAIロボット2号は、さまざまな安全確認をして
から荷物を運び出すロボットです。このロボットに爆弾が仕掛け
られている倉庫から美術品を運び出す命令を与えたのです。AI
ロボット2号は倉庫に行ったのですが、美術品の前で動きを止め
てしまい、そのうち爆弾が爆発して倉庫ごと吹き飛んでしまった
のです。AIロボット2号に何が起きたのでしょうか。
 AIロボット2号は、倉庫から美術品のところに行き、安全性
を次のようにチェックしたのです。それは、あらゆる安全項目の
チェックだったのです。
─────────────────────────────
    ・台車には本当に爆弾が仕掛けられていないか
    ・美術品の内部に爆弾が仕掛けられていないか
    ・台車を動かしても天井は落ちたりはしないか
    ・台車を動かしても壁の色は変わったりしない
    ・台車を動かしても倉庫内の電気は消えないか
    ・台車を動かしても・・・・・
─────────────────────────────
 倉庫に入ったAIロボットは、美術品を台車に積んで運び出す
に当たって、あらゆる安全項目の確認を行い、時間がなくなって
爆弾が爆発してしまっています。
 AIロボット2号は、人間の立場から見ると、このさいどうで
もいい安全確認をやって無駄な時間を費やしています。目的は美
術品を安全に倉庫の外に運び出すことであり、美術品や台車に爆
弾が仕掛けられていないかをチェックするだけよかったのです。
つまり、限定された重要な「フレーム」に絞って、安全確認をや
れぱよいだけの話です。
 しかし、それは人間にはできても、AIにはできないのです。
ある行動の目的を果すために、関連のある物事だけにフレームを
絞って安全な確認をやることは、AIはできないのです。これを
AIのフレーム問題といいます。
 このフレーム問題について、もう少し明解に説明している文章
があります。少し長いですが、これを読んでください。
─────────────────────────────
 人間は「あのコップを取ってきてくれ」というお題には誰だっ
てたやすく判断行動をおこす。幼児もよろこんでこのタスクに挑
戦し、よちよち歩いてお母さんに両手に挟んだコップを渡す。
 ところがコンピュータやロボットでは、「あのコップ」がテー
ブルや棚やお盆に所属するのかどうかから、判断しなければなら
ない。コンピュータやロボットが持っている知識マップに、コッ
プの帰属や所属が一義的に記述されていればそれでいいというも
のではない。
 「コップはときにお盆にのっている」という知識マップがあれ
ば、AIロボットはそのお盆と分けられるコップだけを持ってく
ることをするが、仮に、「コップは棚にある」という記述だけが
あって、「コップは、棚板でできている棚の上にある可能性が高
い」という記述がないと、ロボットは棚板ごと引きちぎってコッ
プを持ってきてしまう。
 つまり言語や概念がどんな知識のフレームをもっているのか、
そのことを機械が峻別しようとするとかなり難しい処理が必要に
なるわけだ。これを「フレーム問題」と言ってきた。
 ちなみにイシス編集学校では、比較的早い時期に「コップの言
い換え」というエクササイズをする。コップに内属している要素
・機能・属性を確認しつつも、コップに内包されうる意味をあら
かじめふくらませておくためだ。編集学校は世間の分節常識にと
らわれないで、自由なフレームや分節に遊ぶことを奨励する学校
なので、そこは人工知能がめざすところとはいささか異なってい
るのである。
 もっとも近い将来は「編集工学的人工知能」も大いにありうる
ことで、その場合は入力と出力との「あいだ」が見えるようなも
の、その「あいだ」からタスクやイメージが発見できるものにな
るだろう。             https://bit.ly/2Myn3PW
─────────────────────────────
 松岡正剛という人物がいます。この人は「書評作家」というべ
き存在です。「知の巨人」ともいわれています。書評といっても
特定の分野に偏らず、幅広い分野にわたって本の書評を書いてい
るのですが、それは書評というよりも、ひとつの立派な文藝作品
になっています。もちろん科学の分野にも鋭くメスを入れます。
それらの書評は「千夜千冊」というサイトにまとめられ、多くの
人に読まれています。私は、自分の読んだ本を松岡正剛氏がどう
評しているか興味をもって読んでいます。その逆もあります。
 上記の一文は、AI界の第一人者である松尾豊氏の次の著書の
書評の一部で、フレーム問題を論じています。こういう難解な問
題にも逃げずに挑戦する凄い人です。
─────────────────────────────
              松尾 豊著/角川EPUB選書
      『人工知能は人間を超えるか
          /ディープラーニングの先にあるもの』
─────────────────────────────
          ──[次世代テクノロジー論U/033]

≪画像および関連情報≫
 ●人工知能は禅によってフレーム問題を解決する
  ───────────────────────────
   「自我を持つ人工知能を開発するには、人工知能開発のベ
  ースとなった西洋哲学だけでは限界がある。東洋哲学の考え
  も取り込むべきだ」としてスタートした「人工知能のための
  哲学塾東洋編」。荘子からはじまり、イスラム哲学、仏教、
  インド哲学と進んできた本セミナーも2017年11月13
  日、いよいよ最終回を迎えました。「人工知能と禅」をテー
  マに掲げた第5回目では、おなじみSIG−AIの三宅陽一
  郎氏が、これまでの議論を巻き取りながら、「禅によって悟
  る人工知能」のビジョンについて解説しました。
   大前提として、現在の人工知能が抱える問題とは何でしょ
  うか。それは「問題を自分で設定できないこと」に行き着き
  ます。いくら強化学習でアルファ碁が人間を打ち負かしたと
  しても、それは碁というゲームの中での最適解に過ぎず、新
  しいゲームを創り出すことはできないというわけです。実際
  現在の大半の人工知能は「問題特化型」にすぎません。古今
  東西の人工知能研究者を悩まし続けてきたフレーム問題は、
  依然として高くそびえ立っています。
   それでは、このフレーム問題はどのようにすれば解決でき
  るのでしょうか?そして、フレーム問題の解決は「自我」と
  どのような関係性を持つのでしょうか。三宅氏の講演をまる
  っとまとめると、「人工知能がフレームを自力で設定するに
  は、人工知能が『悟る』ことが重要」で、フレームを自力で
  設定できる力が、自我の獲得にもつながるということになり
  ます。なぜ、そのような結論になるのか。そもそも「悟る」
  とは何なのか。         https://bit.ly/2JTFEEs
  ───────────────────────────

松岡正剛氏.jpg
松岡正剛氏
posted by 平野 浩 at 00:00| Comment(0) | 次世代テクノロージ論U | このブログの読者になる | 更新情報をチェックする
RDF Site Summary