ツイッター掲載中す。それをわかりやすく一部を変更して記述します。
ＡＩロボット１号は、危険な場所へ荷物を運んだり、運び出す
仕事をするロボットです。あるとき、倉庫に爆弾が仕掛けられた
という情報が入ったので、ＡＩロボット１号に、爆弾が仕掛けら
れたとする倉庫から、高価な美術品を運び出してくるよう命令し
たのです。
ＡＩロボット１号は、倉庫に行き、台車に美術品を乗せて倉庫
の外まで運び出したのですが、爆弾は台車に仕掛けられていたの
で、倉庫を出たところで爆弾が爆発し、目的を果たすことができ
ませんでした。
これに対してＡＩロボット２号は、さまざまな安全確認をして
から荷物を運び出すロボットです。このロボットに爆弾が仕掛け
られている倉庫から美術品を運び出す命令を与えたのです。ＡＩ
ロボット２号は倉庫に行ったのですが、美術品の前で動きを止め
てしまい、そのうち爆弾が爆発して倉庫ごと吹き飛んでしまった
のです。ＡＩロボット２号に何が起きたのでしょうか。
ＡＩロボット２号は、倉庫から美術品のところに行き、安全性
を次のようにチェックしたのです。それは、あらゆる安全項目の
チェックだったのです。
─────────────────────────────
・台車には本当に爆弾が仕掛けられていないか
・美術品の内部に爆弾が仕掛けられていないか
・台車を動かしても天井は落ちたりはしないか
・台車を動かしても壁の色は変わったりしない
・台車を動かしても倉庫内の電気は消えないか
・台車を動かしても・・・・・
─────────────────────────────
倉庫に入ったＡＩロボットは、美術品を台車に積んで運び出す
に当たって、あらゆる安全項目の確認を行い、時間がなくなって
爆弾が爆発してしまっています。
ＡＩロボット２号は、人間の立場から見ると、このさいどうで
もいい安全確認をやって無駄な時間を費やしています。目的は美
術品を安全に倉庫の外に運び出すことであり、美術品や台車に爆
弾が仕掛けられていないかをチェックするだけよかったのです。
つまり、限定された重要な「フレーム」に絞って、安全確認をや
れぱよいだけの話です。
しかし、それは人間にはできても、ＡＩにはできないのです。
ある行動の目的を果すために、関連のある物事だけにフレームを
絞って安全な確認をやることは、ＡＩはできないのです。これを
ＡＩのフレーム問題といいます。
このフレーム問題について、もう少し明解に説明している文章
があります。少し長いですが、これを読んでください。
─────────────────────────────
人間は「あのコップを取ってきてくれ」というお題には誰だっ
てたやすく判断行動をおこす。幼児もよろこんでこのタスクに挑
戦し、よちよち歩いてお母さんに両手に挟んだコップを渡す。
ところがコンピュータやロボットでは、「あのコップ」がテー
ブルや棚やお盆に所属するのかどうかから、判断しなければなら
ない。コンピュータやロボットが持っている知識マップに、コッ
プの帰属や所属が一義的に記述されていればそれでいいというも
のではない。
「コップはときにお盆にのっている」という知識マップがあれ
ば、ＡＩロボットはそのお盆と分けられるコップだけを持ってく
ることをするが、仮に、「コップは棚にある」という記述だけが
あって、「コップは、棚板でできている棚の上にある可能性が高
い」という記述がないと、ロボットは棚板ごと引きちぎってコッ
プを持ってきてしまう。
つまり言語や概念がどんな知識のフレームをもっているのか、
そのことを機械が峻別しようとするとかなり難しい処理が必要に
なるわけだ。これを「フレーム問題」と言ってきた。
ちなみにイシス編集学校では、比較的早い時期に「コップの言
い換え」というエクササイズをする。コップに内属している要素
・機能・属性を確認しつつも、コップに内包されうる意味をあら
かじめふくらませておくためだ。編集学校は世間の分節常識にと
らわれないで、自由なフレームや分節に遊ぶことを奨励する学校
なので、そこは人工知能がめざすところとはいささか異なってい
るのである。
もっとも近い将来は「編集工学的人工知能」も大いにありうる
ことで、その場合は入力と出力との「あいだ」が見えるようなも
の、その「あいだ」からタスクやイメージが発見できるものにな
るだろう。 https://bit.ly/2Myn3PW
─────────────────────────────
松岡正剛という人物がいます。この人は「書評作家」というべ
き存在です。「知の巨人」ともいわれています。書評といっても
特定の分野に偏らず、幅広い分野にわたって本の書評を書いてい
るのですが、それは書評というよりも、ひとつの立派な文藝作品
になっています。もちろん科学の分野にも鋭くメスを入れます。
それらの書評は「千夜千冊」というサイトにまとめられ、多くの
人に読まれています。私は、自分の読んだ本を松岡正剛氏がどう
評しているか興味をもって読んでいます。その逆もあります。
上記の一文は、ＡＩ界の第一人者である松尾豊氏の次の著書の
書評の一部で、フレーム問題を論じています。こういう難解な問
題にも逃げずに挑戦する凄い人です。
─────────────────────────────
松尾 豊著／角川ＥＰＵＢ選書
『人工知能は人間を超えるか
／ディープラーニングの先にあるもの』
─────────────────────────────
──［次世代テクノロジー論Ⅱ／０３３］
≪画像および関連情報≫
●人工知能は禅によってフレーム問題を解決する
───────────────────────────
「自我を持つ人工知能を開発するには、人工知能開発のベ
ースとなった西洋哲学だけでは限界がある。東洋哲学の考え
も取り込むべきだ」としてスタートした「人工知能のための
哲学塾東洋編」。荘子からはじまり、イスラム哲学、仏教、
インド哲学と進んできた本セミナーも２０１７年１１月１３
日、いよいよ最終回を迎えました。「人工知能と禅」をテー
マに掲げた第５回目では、おなじみＳＩＧ－ＡＩの三宅陽一
郎氏が、これまでの議論を巻き取りながら、「禅によって悟
る人工知能」のビジョンについて解説しました。
大前提として、現在の人工知能が抱える問題とは何でしょ
うか。それは「問題を自分で設定できないこと」に行き着き
ます。いくら強化学習でアルファ碁が人間を打ち負かしたと
しても、それは碁というゲームの中での最適解に過ぎず、新
しいゲームを創り出すことはできないというわけです。実際
現在の大半の人工知能は「問題特化型」にすぎません。古今
東西の人工知能研究者を悩まし続けてきたフレーム問題は、
依然として高くそびえ立っています。
それでは、このフレーム問題はどのようにすれば解決でき
るのでしょうか？そして、フレーム問題の解決は「自我」と
どのような関係性を持つのでしょうか。三宅氏の講演をまる
っとまとめると、「人工知能がフレームを自力で設定するに
は、人工知能が『悟る』ことが重要」で、フレームを自力で
設定できる力が、自我の獲得にもつながるということになり
ます。なぜ、そのような結論になるのか。そもそも「悟る」
とは何なのか。 https://bit.ly/2JTFEEs
───────────────────────────
松岡正剛氏
