2018年07月23日

●「『中国語の部屋』という思考実験」(EJ第4811号)

 「人工知能」ならぬ「人工無能」まで出てきているので、この
あたりでそもそも「AI(人工知能)とは何か」について考える
必要があります。AIには次の2種類があるといわれています。
─────────────────────────────
            1.強いAI
            2.弱いAI
─────────────────────────────
 この分類は、カルフォルニア大学バークレー校のジョン・サー
ル教授が提唱しました。彼は哲学者で、主に言語哲学、心の哲学
の専門家です。
 「強いAI」とは何でしょうか。サール教授は、これについて
次のように述べています。
─────────────────────────────
 強いAIによれば、コンピュータは単なる道具ではなく、正し
くプログラムされたコンピュータには精神が宿るとされる。
                    ──ジョン・サール
─────────────────────────────
 哲学者なので、表現は難解ですが、サール教授のいう「強いA
I」は、「心を持つAI」を意味しているように思えます。確か
に、サール教授は「脳は機械であり、エネルギーの転送によって
意識を生ずる」とも述べているのですが、本当は、サール教授は
「強いAI」の反対論者の立場なのです。
 その一方において、「弱いAI」とは、IBMのチェス専用の
コンピュータである「ディープ・ブルー」のようなチェスプログ
ラムのようなものを意味しています。すなわち、狭い特定の領域
内での問題を解決するプログラムのことです。そういう意味で、
チャットボットなどは「弱いAI」に分類されると思います。
 ジョン・サール教授は、1980年に「脳、心、プログラム」
という論文を書いていますが、そのなかで、「中国語の部屋」と
いう思考実験を発表しています。これは、チューリングテストを
発展させた思考実験で、意識の問題を考えるさいに使われるもの
とされています。
 「中国語の部屋」とは何でしょうか。
 ある小部屋があります。この部屋には外部から紙きれを入れる
ための小さな穴がひとつ空いている以外、外部とは完全に遮断さ
れ、密閉されています。
 この小部屋のなかに英国人を入れます。この英国人は母国語の
英語しかできず、もちろん中国語は一切できません。このような
状態で、小さな穴に紙切れが差し入れられます。そこには中国語
の漢字が並んでおり、部屋のなかの英国人には、さっぱりその意
味は分かりません。
 実は、部屋のなかにいる英国人には、ある任務が与えられてい
るのです。その紙切れに書かれている中国語のなかにいくつかの
漢字を書き加えて、小さい穴から外へ返すことです。どのように
漢字を書き加えるかについては、部屋に置かれているマニュアル
に英国人でもわかるように記述されています。
 外から差し入れられる紙切れに書かれている中国語の漢字は、
「質問」であり、それに、マニュアルにしたがって漢字を書き加
えて返すのは「回答」です。かたちのうえでは、中国語で書いた
質問の紙きれを入れると、中国語で返事が書き加えられて戻され
ることが、繰り返えされるのです。
 しかし、部屋のなかにいる英国人は、マニュアルにしたがって
機械的に漢字を書き加えているだけで、紙切れに書かれている意
味をまったく理解していないのです。つまり、機械的に作業をこ
なしているだけです。
 部屋の外には中国人がいます。その中国人は、中国語で部屋の
なかに質問をすると、中国語で適切な回答が返ってくるので、な
かにいる人は、中国語を理解できる人であると判断します。しか
し、部屋のなかには中国語のわからない英国人がいるだけです。
 この思考実験は、コンピュータのアナロジー(比喩)になって
います。小部屋全体はコンピュータを表しており、マニュアルに
したがって作業する英国人はCPUに相当します。これはチュー
リングテストにおける壁の向こうのコンピュータに該当します。
 ここで重要なことは、小部屋の英語人は中国語を理解していな
いのだから、これは「心を持つAI」ではなく、「強いAI」で
はないということになります。サール教授は「強いAI」の反対
論者であるといったのは、そういう意味です。
 この「中国語の部屋」のサール教授の考え方に対する反論もあ
ります。
─────────────────────────────
 サールは、中の人が中国語を理解していないことから対象は中
国語を理解しているとはいえないと論じているが、チューリング
テストの観点からすると、そう断定するためには中の人間だけで
なく、箱全体が中国語を理解していないことを証明しなければな
らないことになる。すなわち、中の人とマニュアルを複合させた
存在が中国語を理解していないことを証明しなければならない。
 一方、知能の基準となっている人間の場合でさえ、脳内の化学
物質や電気信号の完全な解析が行われず、知能の仕組みが明らか
になっていないのだから、中国語の部屋も、中身がどうであれ正
しく中国語のやり取りができている時点で中国語を理解している
と判断してよいのではという、チューリングテストの観点からの
反論も存在する。以上のような反論に対してサールは、中国語の
部屋を体内化して、すなわち部屋の中にある中国語のマニュアル
を中の人がマスターし、中国語のネイティヴのように会話ができ
たとしても、なおその人は意味論的な見地からは中国語を理解し
ていないと主張している。       https://bit.ly/1kkzy26
─────────────────────────────
 確かに部屋のなかの英国人(CPU)が外とのやり取りを通し
て、中国語をマスターしてしまうことは、あり得ることではない
だろうか。     ──[次世代テクノロジー論U/055]

≪画像および関連情報≫
 ●コンピュータは「心」を持てるか
  ───────────────────────────
   私にはコンピューター・プログラムの知識があるが、中国
  語の部屋の思考実験についてプログラマーとしての見解を述
  べれば、強いAI支持者の「部屋全体は中国語を理解してい
  る」という反論は的外れであり、「理解」という言葉を、意
  味論を除外して解釈し、矮小化していると思う。すなわち、
  「理解」という語をより厳密に「意味の理解」とするならば
  部屋全体は確かにシステムとして中国語を理解しているよう
  に動作するが、それはシステムを作った人物が英語と中国語
  の「意味」を理解できるからであり、従って正確にいうなら
  「部屋を作った人間は中国語の意味を理解している」、また
  は「部屋は意味を理解できる人間の動作面(機能)を実行で
  きる」となるのである。つまり部屋がシステムとして中国語
  を理解するよう機能しているよう見えても、その機能にはサ
  ールがいうように「意味」の理解をともなっていないし、ま
  たクオリアがともなっていないのである。
   これはコンピューター・プログラムについても同様であり
  プログラムの具体的なソースコード(関数、演算子、記号、
  数値)を記述する者は「意味」を理解できる人間である。プ
  ログラマーはコンピューターの実行結果――出力されたもの
  が人間にとって「意味のあるもの」になるようにソースコー
  ドを記述するのであり、関数や演算子や数値、その処理過程
  自体やコンピューターそのものに意味が与えられているので
  はない。「意味」とはあくまで人間が読み取るものなのであ
  る。              https://bit.ly/2Nqb32A
  ───────────────────────────

ジョン・サール教授.jpg
ジョン・サール教授
posted by 平野 浩 at 00:00| Comment(0) | 次世代テクノロージ論U | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前: [必須入力]

メールアドレス: [必須入力]

ホームページアドレス:

コメント: [必須入力]

RDF Site Summary