ツイッター掲載中スマートマシンの定義です。そのスマートマシンは、今や高度に
進化しつつあります。これは歓迎すべきことではありますが、恐
ろしい一面も併せ持っています。
それは、米カルフォルニア大学バークレー校でコンピュータ・
サイエンスを教えるＡＩの専門家のスチュアート・ラッセル教授
が英誌「ネイチャー」に載せた論文のなかの人類に対する複数の
警告に見ることができます。
─────────────────────────────
◎欧米で開発計画が進む“殺人ロボット”「自律型致死兵器シス
テム（ＬＡＷＳ）」が人類に深刻な危機を及ぼす可能性が高く
その開発について世界が真剣に考えるべき時にきている。
◎こうしたＡＩを搭載している自律兵器のシステムは、人間の介
入なしにターゲットを選び、攻撃する。そしてターゲットに人
間が含まれる時、致命的なことが起きる。
◎ＬＡＷＳの実戦配備は数十年後ではなく数年後には可能で、Ｌ
ＡＷＳは既に、戦争においては火薬、核兵器に続く第３の革命
と認識されている。
◎ＬＡＷＳは、殺すべき人間を機械が選ぶことを許しており、人
間の尊厳を守るという基本原則を侵している。例えば（政府や
権力側から見て）“脅威となる行為”を排除する任務を任され
る可能性がある。
◎この問題については、科学界で倫理委員会などを設置して議論
するべきだ。何もアクションを起こさないということは、（Ｌ
ＡＷＳ）の継続的な開発・展開に賛成票を投じたことと同じで
ある。 http://bit.ly/2A21H7C
─────────────────────────────
ここで衝撃的な事実があります。このＬＡＷＳに該当する兵器
が既に存在するという事実です。韓国の「殺人歩哨ロボット（Ｓ
ＧＲ－１）」です。サムスンのグループ企業で、軍事機器や航空
エンジンなどの開発・製造を手がける「サムスンテックウィン」
と韓国の高麗大学が２００６年に共同開発したものです。一体ど
ういう兵器なのでしょうか。２０１６年９月１５日付、英紙デー
リーメール電子版はこの兵器について次のように述べています。
─────────────────────────────
この“殺人歩哨ロボット”は、歩哨（陣地の要所に立ち、警戒
・監視の任務にあたること）の名のごとく既に韓国と北朝鮮との
間にある非武装地帯に韓国軍の兵士と並んで配備されているので
すが、５・５６ミリの機関銃と４０ミリのグレネードランチャー
（擲弾発射器）を備えており、国境を越えようとする北朝鮮の兵
士の体温や動きを、赤外線センサーなどで、自動的に感知し、２
マイル（約３・２キロメートル）先の“標的”を確実に殺害する
ことができるのです。１台あたりのコストは２０万ドル（約２５
００万円）といいますが、韓国側は配置台数などは明らかにして
いません。 http://bit.ly/2iF32tO
─────────────────────────────
ちなみに、ＳＧＲ－１について韓国サイドは、銃撃には人間の
オペレータの許可が必要であるといっていますが、これは建前で
あって、ＡＩを搭載すればマシンの自律にまかせることは可能で
す。そうでなければ、歩哨の役目を果たせないからです。
ロボットが人間を襲う──このことを心配していた人はたくさ
んいます。古いものから上げると、１９５０年（昭和２５年）に
刊行されたＳＦ作家アイザク・アシモフ著の『われはロボット』
の「ロボット工学の三原則」です。
─────────────────────────────
第１条
ロボットは人間に危害を加えてはならない。またその人間の危
険を黙視することによって、人間に危害を及ぼしてはならない。
第２条
ロボットは人間に与えられた命令に服従しなければならない。
ただし、与えられた命令が第１原則に反する命令の場合はこの限
りではない。
第３条
ロボットは自己を守らなければならない。ただし、第１条、第
２条に反しない場合に限る。
──アイザク・アシモフ著／小尾芙佐訳
『われはロボット』／早川書房刊
──林雅之著
『スマートマシン／機械が考える時代』／洋泉社刊
─────────────────────────────
このアシモフのＳＦ小説とほぼ同じ時期に、手塚治虫の『メト
ロポリス』という漫画が発刊されています。これは『ロストワー
ルド』（１９４８年）、『来るべき世界』（１９５１年）ととも
に、初期ＳＦ３部作になっています。この『メトロポリス』は、
本当に素晴らしい作品で、人造細胞を用いて生み出された人造人
間「ミッチイ」の名前は今でも鮮明に覚えています。私は手塚の
作品では、その後の『鉄腕アトム』よりもこの作品の方がずっと
印象が強いです。いま考えると、この頃は大変なロボットブーム
だったことがわかります。このとき描かれた世界以上のことが既
に実現しているのです。
天才物理学者のスティーヴン・ホーキンズ博士は、２０１４年
と２０１５年にインタビューやカンファレンスで、ＡＩ（人工知
能）について、次のように警鐘を鳴らしています。
─────────────────────────────
完全なる人工知能の開発は、人類の終焉をもちらす可能性があ
る。１００年以内に人工知能は、人間をコントロールするように
なる。 ──スティーヴン・ホーキンズ博士
──林雅之著の前掲書より
─────────────────────────────
──［次世代テクノロジー論／４２］
≪画像および関連情報≫
●人口機能搭載ロボットにも９条あり
───────────────────────────
人工知能（ＡＩ）を殺人ロボットに搭載したり、ＡＩにド
ローンなどの兵器を操作させてはならない。技術が確立する
前に禁止すべきだ。ロボット先進国の日本が先頭に立って進
める必要がある。
近い将来、ＡＩが自ら敵と判断して殺傷する自律型致死性
兵器、通称殺人ロボットが誕生すると考えられている。大量
の情報を瞬時に判断し、同時に複数の武器を使うこともでき
る。感情がなく、疲れも知らない。限りなく殺し続ける大量
殺りく兵器である。
ロボットの専門家やＩＴ企業の経営者らが規制するように
働き掛けたこともあり、先週、初めての国連公式専門家会議
がジュネーブで開かれた。米ロが消極的な姿勢で、結論は出
なかったが、来年以降も議論を続ける。
現在のＡＩの能力では、戦場のような複雑な状況下では人
の関与を必要とするが、殺人ロボットが実現すれば、火薬や
原爆のように戦争の形を変えるとされる。米国は軍事的優位
を確保できると考え、熱心に開発を進めている。人類は一度
手にした技術を手放さない。殺人ロボットも開発されれば、
放棄することは困難だ。自国兵士の生命を危険にさらすこと
がないので、戦争に踏み切る敷居が低くなる可能性もある。
──「２０１７年１１月２２日め東京新聞／社説」
http://bit.ly/2iFQkei
───────────────────────────
アイザック・アシモフ
★『韓国が「慰安婦の日」制定 関連法成立』 （日経新聞 2017/11/24 18:00）【ソウル＝峯岸博】韓国で毎年８月14日を、旧日本軍の従軍慰安婦をたたえる記念日に制定する「改正慰安婦被害者生活安定支援法・記念事業法」が24日の国会本会議で可決、成立した。祝日ではないが、同法は８月14日に国や自治体が記念日の趣旨に沿った行事と広報を実施する努力義務を明記しており、日本国内の対韓感情を一段と悪化させる恐れがある。「慰安婦の日」は2018年から法定の記念日となる。同法は、慰安婦問題を国内外に広く知らせるとともに、元慰安婦に関連した政策をつくる場合、元慰安婦の意見を聴取することや、国の負担による元慰安婦支援の拡大なども義務づけた。 ８月14日は、1991年に韓国で元慰安婦の女性が初めて公の場で証言した日。今年７月、文在寅（ムン・ジェイン）政権は元慰安婦の記念日を制定すると発表。９月に国会の委員会で改正案を可決した際に、菅義偉官房長官が「未来志向の関係を発展させようとする中で、水を差すことになりかねない」として、外交ルートを通じて韓国側に懸念を伝えていた。https://www.nikkei.com/article/DGXMZO23868530U7A121C1EA3000/