2018年07月18日

●「『心』のあるAIならばこうなる」(EJ第4808号)

 今やAI(人工知能)は、スマホのユーザーなら誰でも使って
試すことができる「音声AI技術」を巡って大変な競争が起きて
います。いわゆる自動対話AI「チャットボット」をめぐるの壮
絶な技術競争です。
 その行きつくべきゴールは「心を持つAI」です。心を持つと
は、感情を持つAIです。そのひとつの到達点を田方篤志氏が示
してくれています。
 ある少年が、自動対話AI「チャットボット」に対して「薬を
盗んでしまった」と告白したとします。おそらく現在のレベルの
AIであれば、次のやり取りが行われるはずです。
─────────────────────────────
少年:薬を盗んでしまった。
AI:人のものを盗むと、刑法235条により、10年以下の懲
   役または50万円以下の罰金に処せられます。
─────────────────────────────
 これが現在の自動対話AIの実力です。これに対し、AIが次
のように応答したらどうでしょう。
─────────────────────────────
少年:薬を盗んだ
AI:どうして、薬を盗んだの?
少年:お母さんが、病気になったけど、薬を買うお金がなかった
   から。
AI:どうして、薬を買うお金もなかったの?
少年:母と2人暮らしで、お母さんが病気になって働けなくなっ
   て、お金が尽きたから。このままでは、お母さんが死んで
   しまうと思ったから、つい、薬を盗んでしまった。
AI:そうか、そうか。辛かったよね・・・
                  https://bit.ly/2NfR072
─────────────────────────────
 「そうか、そうか。辛かったよね・・・」──この言葉こそ、
少年がいって欲しかった言葉だったのではないでしようか。これ
が「心」を持つAIの姿です。自動対話AIが、このレベルまで
進化すると、それこそ真の「癒しのAI」として、多くの人の助
けになるはずです。田方篤志氏の「ロボティクス」は、こういう
AIを目指しているのです。
 このようなAIは、けっして実現不能ではないと田方氏はいっ
ており、ブログで詳しく説明しています。EJでは、以下にその
一部を要約します。詳しくは、田方篤志氏のブログを参照してく
ださい。
 ロボマインド・プロジェクトの意味理解のステップは、次の4
段階になります。
─────────────────────────────
         1.    文脈の判定
         2.   登場物の抽出
         3.登場物に属性の設定
         4.認知パターンの抽出
                  https://bit.ly/2NfR072
─────────────────────────────
 「文脈の判定」は、人はある目的を持って行動を起こし、ある
結果が得られます。少年が登場したので登録します。その少年が
「薬を盗む」という行動を起こし、「薬を入手する」という結果
を得ます。「目的→行動→結果」になりますが、この時点で目的
が不明です。不明なことは登場物に質問します。この質問が「ど
うして、薬を盗んだの?」になります。
 少年は「お母さんが病気になったけど、薬を買うお金がなかっ
たから」と答えます。新しい登場物「お母さん」を登録し、状態
が「病気」なので、属性として「病気」を設定します。
 ここで、問題になるのは「病気」と「薬」の関係です。これに
ついては、システムのデータペースに次のように書いてあるので
AIはこれを見て、「薬を飲むと健康(元気)になる」ことを理
解します。
─────────────────────────────
   人(状態:病気)→人:薬を飲む→人(状態:健康)
─────────────────────────────
 この文脈の判定で、AIは、少年がお母さんの病気を治す目的
で、「薬を盗む」という行動を起こしたかを理解します。問題は
薬を入手するためには、「買う」「もらう」「盗む」の3つがあ
るが、どうして「買う」行動を取らず、盗んだのかについてAI
は「どうして、薬を盗んだの?」と質問しています。この質問に
よって、「お金がなかったから」であることが判明します。
 以下は省略しますが、このようにしてAIは逐次理解していく
わけです。田方氏のブログは次のように結んでいます。
─────────────────────────────
 最後は、「善」のために「悪」を行うパターンです。これが、
今回の物語に当てはまります。目的は、お母さんの病気を治すこ
とです。病気を治すことは、相手にとってプラスのことなので、
「善」の行為です。しかも、困ってる人、弱っている人を助ける
のは、さらに「善」の行動となります。
 しかし、そのために、「薬を盗む」という「悪」の行動をして
いいわけではありません。けれど、薬がなければお母さんが死ん
でしまいます。「善」の行いをするために、「悪」の行いをしな
いといけないと悩むわけです。
 このパターンの場合、その人は、「苦悩」の感情が出るわけで
す。一番苦しんでいるのは、少年なのです。そのことを理解して
ほしくて、少年は、親友に打ち明けたのです。こんなとき、少年
に最初にかけるべき言葉は、「辛かったよね・・・」となるわけ
です。これが、相手の気持ちを理解するということです。心を通
わすということです。        https://bit.ly/2NfR072
─────────────────────────────
          ──[次世代テクノロジー論U/052]

≪画像および関連情報≫
 ●現状のAIは人間の感情にどこまで踏み込めているのか
  ───────────────────────────
   人工知能やビッグデータ解析やクラウドの技術進歩によっ
  て、ロボットや機械による、人間らしいヒューマンインター
  フェースの研究は、盛んに研究されるようになりました。ソ
  フトバンクのペッパーをはじめとして、日本でも商業レベル
  でロボットに人間らしい振る舞いをさせる取り組みは今後も
  注目を集めそうです。
   一方で、ロボットが人間の感情を理解し、表現するために
  は、人間の行動や表現する感情を機械が理解し、自身の記憶
  や他者とのかかわり合いを考慮しながら複雑なコンテキスト
  を自力で表現することが必要不可欠になってきます。人間で
  すら、自分の感情を理解することが出来ないのですから、非
  常に難しく終わりの見えない研究のようにも思えます。本記
  事では、現在の感情に関する事例や進歩を感じられる研究を
  紹介していきます。
   ロボットやコンピュータは、カメラを通して人間の表情を
  解析することができます。人と人とのコミュニケーションを
  円滑にする上で、表情は重要な役割を果たしています。コン
  ピュータビジョンでこの顔の動きを捕捉することができれば
  人間の感情を推定することができそうです。心理学や精神病
  理学などの分野では、FACSと呼ばれる表情理論がありま
  す。FACSは表情を形成する筋肉の動きをコード化するこ
  とで、客観的に顔の動きを分析したり自然な表情をアニメー
  ションなどで再現することに応用されています。
                  https://bit.ly/2LhmNUu
  ───────────────────────────

子どもと対話する「チャットボット」.jpg
子どもと対話する「チャットボット」
posted by 平野 浩 at 00:00| Comment(1) | 次世代テクノロージ論U | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
善と悪は人間が仮に法律と言う形で決めていますが、それが本当に正しい事なのかどうかは人間には判断できません。
たとえば死刑のようなものが正しいかどうかをどうやって判断しますか?
ではAIが善と悪を判断するには基準をどうすればいいですか?
AIの判断に誰が責任を取りますか?AIですか?所有者ですか?プログラマですか?
Posted by aiueo at 2018年07月22日 11:54
コメントを書く
お名前: [必須入力]

メールアドレス: [必須入力]

ホームページアドレス:

コメント: [必須入力]

RDF Site Summary