2017年11月24日

●「実戦配備できる殺人歩哨ロボット」(EJ第4652号)

 状況に応じ自らが判断して自律的に行動するマシン──これが
スマートマシンの定義です。そのスマートマシンは、今や高度に
進化しつつあります。これは歓迎すべきことではありますが、恐
ろしい一面も併せ持っています。
 それは、米カルフォルニア大学バークレー校でコンピュータ・
サイエンスを教えるAIの専門家のスチュアート・ラッセル教授
が英誌「ネイチャー」に載せた論文のなかの人類に対する複数の
警告に見ることができます。
─────────────────────────────
◎欧米で開発計画が進む“殺人ロボット”「自律型致死兵器シス
 テム(LAWS)」が人類に深刻な危機を及ぼす可能性が高く
 その開発について世界が真剣に考えるべき時にきている。
◎こうしたAIを搭載している自律兵器のシステムは、人間の介
 入なしにターゲットを選び、攻撃する。そしてターゲットに人
 間が含まれる時、致命的なことが起きる。
◎LAWSの実戦配備は数十年後ではなく数年後には可能で、L
 AWSは既に、戦争においては火薬、核兵器に続く第3の革命
 と認識されている。
◎LAWSは、殺すべき人間を機械が選ぶことを許しており、人
 間の尊厳を守るという基本原則を侵している。例えば(政府や
 権力側から見て)“脅威となる行為”を排除する任務を任され
 る可能性がある。
◎この問題については、科学界で倫理委員会などを設置して議論
 するべきだ。何もアクションを起こさないということは、(L
 AWS)の継続的な開発・展開に賛成票を投じたことと同じで
 ある。               http://bit.ly/2A21H7C
─────────────────────────────
 ここで衝撃的な事実があります。このLAWSに該当する兵器
が既に存在するという事実です。韓国の「殺人歩哨ロボット(S
GR−1)」です。サムスンのグループ企業で、軍事機器や航空
エンジンなどの開発・製造を手がける「サムスンテックウィン」
と韓国の高麗大学が2006年に共同開発したものです。一体ど
ういう兵器なのでしょうか。2016年9月15日付、英紙デー
リーメール電子版はこの兵器について次のように述べています。
─────────────────────────────
 この“殺人歩哨ロボット”は、歩哨(陣地の要所に立ち、警戒
・監視の任務にあたること)の名のごとく既に韓国と北朝鮮との
間にある非武装地帯に韓国軍の兵士と並んで配備されているので
すが、5・56ミリの機関銃と40ミリのグレネードランチャー
(擲弾発射器)を備えており、国境を越えようとする北朝鮮の兵
士の体温や動きを、赤外線センサーなどで、自動的に感知し、2
マイル(約3・2キロメートル)先の“標的”を確実に殺害する
ことができるのです。1台あたりのコストは20万ドル(約25
00万円)といいますが、韓国側は配置台数などは明らかにして
いません。              http://bit.ly/2iF32tO
─────────────────────────────
 ちなみに、SGR−1について韓国サイドは、銃撃には人間の
オペレータの許可が必要であるといっていますが、これは建前で
あって、AIを搭載すればマシンの自律にまかせることは可能で
す。そうでなければ、歩哨の役目を果たせないからです。
 ロボットが人間を襲う──このことを心配していた人はたくさ
んいます。古いものから上げると、1950年(昭和25年)に
刊行されたSF作家アイザク・アシモフ著の『われはロボット』
の「ロボット工学の三原則」です。
─────────────────────────────
 第1条
 ロボットは人間に危害を加えてはならない。またその人間の危
険を黙視することによって、人間に危害を及ぼしてはならない。
 第2条
 ロボットは人間に与えられた命令に服従しなければならない。
ただし、与えられた命令が第1原則に反する命令の場合はこの限
りではない。
 第3条
 ロボットは自己を守らなければならない。ただし、第1条、第
2条に反しない場合に限る。
           ──アイザク・アシモフ著/小尾芙佐訳
              『われはロボット』/早川書房刊
                       ──林雅之著
      『スマートマシン/機械が考える時代』/洋泉社刊
─────────────────────────────
 このアシモフのSF小説とほぼ同じ時期に、手塚治虫の『メト
ロポリス』という漫画が発刊されています。これは『ロストワー
ルド』(1948年)、『来るべき世界』(1951年)ととも
に、初期SF3部作になっています。この『メトロポリス』は、
本当に素晴らしい作品で、人造細胞を用いて生み出された人造人
間「ミッチイ」の名前は今でも鮮明に覚えています。私は手塚の
作品では、その後の『鉄腕アトム』よりもこの作品の方がずっと
印象が強いです。いま考えると、この頃は大変なロボットブーム
だったことがわかります。このとき描かれた世界以上のことが既
に実現しているのです。
 天才物理学者のスティーヴン・ホーキンズ博士は、2014年
と2015年にインタビューやカンファレンスで、AI(人工知
能)について、次のように警鐘を鳴らしています。
─────────────────────────────
 完全なる人工知能の開発は、人類の終焉をもちらす可能性があ
る。100年以内に人工知能は、人間をコントロールするように
なる。          ──スティーヴン・ホーキンズ博士
                 ──林雅之著の前掲書より
─────────────────────────────
            ──[次世代テクノロジー論/42]

≪画像および関連情報≫
 ●人口機能搭載ロボットにも9条あり
  ───────────────────────────
   人工知能(AI)を殺人ロボットに搭載したり、AIにド
  ローンなどの兵器を操作させてはならない。技術が確立する
  前に禁止すべきだ。ロボット先進国の日本が先頭に立って進
  める必要がある。
   近い将来、AIが自ら敵と判断して殺傷する自律型致死性
  兵器、通称殺人ロボットが誕生すると考えられている。大量
  の情報を瞬時に判断し、同時に複数の武器を使うこともでき
  る。感情がなく、疲れも知らない。限りなく殺し続ける大量
  殺りく兵器である。
   ロボットの専門家やIT企業の経営者らが規制するように
  働き掛けたこともあり、先週、初めての国連公式専門家会議
  がジュネーブで開かれた。米ロが消極的な姿勢で、結論は出
  なかったが、来年以降も議論を続ける。
   現在のAIの能力では、戦場のような複雑な状況下では人
  の関与を必要とするが、殺人ロボットが実現すれば、火薬や
  原爆のように戦争の形を変えるとされる。米国は軍事的優位
  を確保できると考え、熱心に開発を進めている。人類は一度
  手にした技術を手放さない。殺人ロボットも開発されれば、
  放棄することは困難だ。自国兵士の生命を危険にさらすこと
  がないので、戦争に踏み切る敷居が低くなる可能性もある。
      ──「2017年11月22日め東京新聞/社説」
                   http://bit.ly/2iFQkei
  ───────────────────────────

アイザック・アシモフ.jpg
アイザック・アシモフ
posted by 平野 浩 at 00:00| Comment(1) | 次世代テクノロジー論 | このブログの読者になる | 更新情報をチェックする