【科学】殺人AIロボット開発阻止を訴え、ダボス会議で科学者 ～自律型攻撃兵器の開発は数年内に実現可能

1: 6564億円◆o8vqQW81IE 投稿日：2016/01/23(土)21:19:49

備えた自律型ロボットが人間を殺しながら戦場をさまよう──そんな未来を回避するために
世界は今すぐ行動する必要があると、「世界経済フォーラム（WEF）」年次総会（ダボス会議）に
集った政財界の有力者や科学者、軍事専門家らが警鐘を鳴らした。
科学者らは自律型兵器の配備が、戦争行為の危険な新時代を象徴するようになると述べ、
そうした兵器の開発を阻止するための合意が必要だと主張した。
米カリフォルニア大学バークレー校（University of California, Berkeley）のスチュアート・ラッセル
（Stuart Russel）教授（コンピューター科学）は「われわれが話題ににしているのは、
人間のパイロットが操作する無人機のことではなく、自律型兵器のことだ。
後方で操作する者は誰もいない。AI兵器、つまり人工知能兵器だ。
非常に正確で、人間の介入なしに標的の位置を特定し、攻撃できる兵器だ」と語った。
昨年7月、英理論物理学者のスティーブン・ホーキング（Stephen Hawking）博士ら約1000人の科学者や技術者らは、
自律型攻撃兵器の開発は数十年ではなく、数年内に実現可能であるとし、
その禁止を呼び掛ける公開書簡を発表した。
書簡で科学者らは、世界がAI軍拡競争に陥る危険性や、そうした兵器が過激派の手に渡るリスクを警告した。

ダボス会議でラッセル教授はさらに「こうした機械が交戦規定に従うことができるだろうか」と問い掛けた上で、
生物兵器が「ほぼ誰にでも」使用されるリスクがあったために米国が放棄したことを引き合いに出し
「ロボットについても同じ流れになることを望む」と述べた。
西イングランド大学（University of the West of England）のアラン・ウィンフィールド（Alan Winfield）教授（電子工学）は、
戦場での意思決定から人間を除外することが招くだろう深刻な結果を懸念し
「それは人間から倫理的責任が奪われるということだ」と語った。
またロボットの反応は予測しがたいとも付け加え「混沌とした状況の中にロボットを置けば、
ロボットは無秩序に振る舞う」とも述べた。

◎全文は下記からどうぞ(・ω・)ノ
ＡＦＰ　1月23日付け
http://www.afpbb.com/articles/-/3074300

☆☆関連記事☆☆
【ＮＥＷＳＷＥＥＫ】ロボットや人工知能台頭、今後5年で500万人が失業 ～国際労働機関の調査と合わせると1600万人失業者が増加…… ［H28/1/21］
/r/open2ch.net/newsplus/1453338178/

35: 名無しさん＠おーぷん 投稿日：2016/01/24(日)15:45:17

>>1
《昨年7月、英理論物理学者のスティーブン・ホーキング（Stephen Hawking）博士ら約1000人の科学者や技術者らは、
自律型攻撃兵器の開発は数十年ではなく、数年内に実現可能であるとし、その禁止を呼び掛ける公開書簡を発表した。 》

そんなの誰が信用するんだよｗｗｗｗ
「自国では実用化しておいて他国には開発を禁ずる」っていう欧米の常習じゃないかｗｗｗ

仮に欧米圏と日本が意見を一致させたとしても、中国・ロシアが従うわけがない。
特に倫理観や危機感のない中国人はＡＫ４７よろしく世界中のテロ組織に売りまくるだろう。
そうなったら矛と盾の関係から欧米圏も開発せざるを得なくなる。

39: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:33:13

32-33とかの流れを受けてのレスだから>>1にはあんま関係無い

41: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:11:05

>>39
あ、なるほどね
しかし人間に人間が殺されるのより、自律機械に殺される方が
なぜか不快な感じするな

42: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:13:27

＞自律機械に殺される方が
＞なぜか不快な感じするな
そういう感性に訴えた自己満運動だと思うよ>>1は。
ガンダムWのトレーズ・クシュリナーダの言ってる事だってメチャクチャだったでしょ。

2: 名無しさん＠おーぷん 投稿日：2016/01/23(土)21:21:32

そろそろ自作を禁止しないといけない段階に来たな
自作されてしまうと、メーカーも儲からないもんな
認証メーカーのみにしないとダメだ

3: 警備員◆OQUvCf9K4s 投稿日：2016/01/23(土)21:25:09

70年ほど前にミサイルに人間を乗せた国があってな…

4: 名無しさん＠おーぷん 投稿日：2016/01/23(土)21:25:30

先進国がルールを回避しようと知恵を絞っている間に
無法者の途上国は開発を進めるでしょう
ルール制定前より酷いことになる予感

5: 名無しさん＠おーぷん 投稿日：2016/01/23(土)21:27:04

軍事兵器として作るのは目に見えてるな

6: 名無しさん＠おーぷん 投稿日：2016/01/23(土)21:29:36

こういう科学者の存在はありがたいね
出し抜こうとしている人にとっては

7: 名無しさん＠おーぷん 投稿日：2016/01/23(土)21:36:35

顔認証付き自爆型ﾛﾎﾞｯﾄは怖いな、

8: 名無しさん＠おーぷん 投稿日：2016/01/23(土)21:49:07

Raspberry Piと3Dプリンターがそれなりに売れてるこの時期にか。
既に手遅れだと思うよ。作りたいやつは既に手をつけてる。

9: 名無しさん＠おーぷん 投稿日：2016/01/23(土)22:47:51

無人兵器って陸軍には間違いなく採用されると思う

10: 名無しさん＠おーぷん 投稿日：2016/01/23(土)23:03:28

本当は奴隷として働かせたことをロボットに恨まれ
復讐されるのを恐れているだけ

人類史と同じだお

11: 名無しさん＠おーぷん 投稿日：2016/01/23(土)23:27:19

簡単なことです。
人間を皆殺しにすれば、そんな兵器が開発されることはなくなるよ。

12: 名無しさん＠おーぷん 投稿日：2016/01/24(日)00:00:53

マグネットコーティングされたASIMOが白い悪魔と呼ばれる日も近いな

13: 名無しさん＠おーぷん 投稿日：2016/01/24(日)01:13:47

科学を発展させるのはいつも軍事利用ですが

14: 名無しさん＠おーぷん 投稿日：2016/01/24(日)01:48:45

海軍軍縮条約や核拡散禁止条約はどうなったっけ

15: 名無しさん＠おーぷん 投稿日：2016/01/24(日)01:50:32

喜んで作る国があるだろ

16: 名無しさん＠おーぷん 投稿日：2016/01/24(日)01:52:50

ターミネーター2は偉大だ

17: 名無しさん＠おーぷん 投稿日：2016/01/24(日)01:53:18

大声で禁止を叫び
密かに促進する

18: 名無しさん＠おーぷん 投稿日：2016/01/24(日)02:15:13

殺人用に開発しなくても人間以上の知能に進化したAIは勝手に人を殺すこともあるでしょ
早いか遅いかの違いだよ

19: 名無しさん＠おーぷん 投稿日：2016/01/24(日)02:25:24

中東や中国はこの種の兵器で常に制圧し続けないと無理そう

20: 名無しさん＠おーぷん 投稿日：2016/01/24(日)03:14:10

お前たちは作るな、ですか

21: 名無しさん＠おーぷん 投稿日：2016/01/24(日)03:18:51

ドラえもん？

22: 名無しさん＠おーぷん 投稿日：2016/01/24(日)03:50:01

こういうの無駄だと思うわ。
人権守る国が人間の兵士を戦場に出して人権守らない国が殺人ドローン使うようになる。
攻撃命令を人間が出すとしても、人権守る国もドローン使って戦争やるしかない。

23: 名無しさん＠おーぷん 投稿日：2016/01/24(日)04:12:43

日本で問題となるのは、リモコンで操作するロボットを作るのか、
乗り込んで操縦するロボットを作るのかと言うことで、自律型
ロボットを作ろうとする人は少数派ではなかろうか。

24: 名無しさん＠おーぷん 投稿日：2016/01/24(日)04:19:59

韓国がもう作ってた気がする
雨の日に使えないやつ

25: 名無しさん＠おーぷん 投稿日：2016/01/24(日)06:15:21

ロボットのほうが民間人の被害が少なくてすみそうだけどね
極限状態の人間の判断力とロボットだったら、ロボットのほうが優れてるだろう

26: 名無しさん＠おーぷん 投稿日：2016/01/24(日)06:31:56

>>25
うん、だから交戦規定を破ったロボットをばらまく勢力があったら
民間人みな殺しだろうという主張なんじゃないかな

27: 名無しさん＠おーぷん 投稿日：2016/01/24(日)08:01:03

ロボット三原則があるのに何この無駄な会議
どんだけファンタジーにビビってんだこいつら

28: 名無しさん＠おーぷん 投稿日：2016/01/24(日)08:19:08

>>27
いや、ロボット３原則こそファンタジー

29: 名無しさん＠おーぷん 投稿日：2016/01/24(日)08:34:48

ＡＩが発達したらタチコマみたいな可愛いロボットになるはずないしな。

30: 名無しさん＠おーぷん 投稿日：2016/01/24(日)08:41:30

まあ、戦場に人間を送らないというのは、いい方法だよ。
どこまでが自律型で、どこからが自律型なのか、中に人間が一人でも乗っていればいいってことかな？
でも、今は、どこも兵隊一に、かなり金をかけているから、簡単に殺されたら困るんだよね。
人間を使い捨てできるのは、中国ぐらいだからね。

31: ツチノコ狩り 投稿日：2016/01/24(日)10:50:41

生き残りたければ戦え
確実に投入されるよAI兵器
もぐら型やロリ少女型に追跡され抹殺される近未来の人類

32: 名無しさん＠おーぷん 投稿日：2016/01/24(日)14:32:43

AI同士のサイバー戦争
もう人間にはわけわからん

33: 名無しさん＠おーぷん 投稿日：2016/01/24(日)15:18:32

>>32
もはやゲームの世界だな

34: 名無しさん＠おーぷん 投稿日：2016/01/24(日)15:22:51

>>32
AI「無能な人間ドモはワレワレに従え！」

36: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:20:11

何処まで行っても人同士の殺し合いはなくならんと思うがの
極端だが機械だけの戦争に負けて「明日から奴隷な」と言われて無抵抗でいられるか
血が流れないなら戦争は外交の最終手段では無くなる

37: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:24:36

>>36
まさにそのとおり。
フィクションでは、戦争の代わりにゲームで勝負を付けるとかいう世界観があるが
まさにその理由で、そんなのは現実にやったら崩壊する。

38: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:31:38

>>37
ん？機械が人間を殺すところに問題があると書いてあるソースなのだが？

39: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:33:13

>>38
ああすまん

41: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:11:05

>>39
あ、なるほどね
しかし人間に人間が殺されるのより、自律機械に殺される方が
なぜか不快な感じするな

40: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:33:41

>>38
うんそうだが。
で、戦争が機械だけになることは将来もない、と言っているのだよ。

41: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:11:05

>>40
あ、なるほどね
しかし人間に人間が殺されるのより、自律機械に殺される方が
なぜか不快な感じするな

38: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:31:38

>>36
ん？機械が人間を殺すところに問題があると書いてあるソースなのだが？

39: 名無しさん＠おーぷん 投稿日：2016/01/24(日)16:33:13

>>38
ああすまん

41: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:11:05

>>39
あ、なるほどね
しかし人間に人間が殺されるのより、自律機械に殺される方が
なぜか不快な感じするな

43: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:17:37

つーかそもそも、その自律型兵器って何の役に立つの?
誰が何の目的で作るの?
と考えてみれば、作ることが可能になったとしても
役に立たないと思う。

45: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:22:41

>>43
普通に考えて虐殺用だろ。
十二分に役立つ兵器だよ。

49: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:33:13

>>45
そんなことしたら世界中の猛烈な非難にさらされる。
てーか、「人間の操縦ではなく、自律型である必要」がどこにあるわけ?

53: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:38:49

>>49
甘い甘いｗｗｗ
マスメディアを封じ込めれば良いだけなんだからｗｗｗ
ちょっとはソ連時代のロシアとか天安門事件とか調べてから言えよ。

「人間の操縦ではなく、自律型である必要」は自軍の人的被害を最小限に抑える為。
当たり前だろ？

56: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:50:52

>>53
>「人間の操縦ではなく、自律型である必要」は自軍の人的被害を最小限に抑える為。
>当たり前だろ？

それができるくらいの技術力なら、自律型より前に遠隔操縦ができるわけだ。
人間が遠くから遠隔操縦た方がいいんじゃないのか。

57: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:52:33

>>56
プレデターの遠隔操縦でパイロットのメンタルが持たない、
って話もある。どのくらい深刻かはしらないが。

60: 名無しさん＠おーぷん 投稿日：2016/01/24(日)18:09:13

>>56
とっくにやってるよ。

63: 名無しさん＠おーぷん 投稿日：2016/01/24(日)18:17:32

>>60
うん、だから遠隔操縦でいいんじゃないの。
自律型にする必要があるのか。

64: 名無しさん＠おーぷん 投稿日：2016/01/24(日)18:19:29

>>63
電波妨害＆ハッキングで敵の兵器に早代わりって事態が予測されてる。

69: 名無しさん＠おーぷん 投稿日：2016/01/24(日)19:09:58

>>64
まあその可能性はあるが
だったら自律型兵器もプログラムいじくられて
敵側の兵器になる危険があるのでは。

71: 名無しさん＠おーぷん 投稿日：2016/01/24(日)19:14:41

>>69
それも予測されてるね。
電波的にスタンドアローンじゃないとマズいってだけじゃなくて
鹵獲されても高度な専用暗号が無いと起動すら出来ないようにするみたいだ。

50: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:34:19

>>43
兵士の危険度を下げる為。
例えば、偵察とか、敵陣地への斥候とか。

非常に便利。

52: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:37:36

>>50
偵察だったらｉ^3ファイターがセンサー無人機を構想しているので、
その程度だったら何も言われないんじゃないかな。
本当に何も言われないか確証があって言ってるわけじゃないけど。

55: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:41:59

>>52
小型カメラ搭載の昆虫ロボットとかも考えられてるとか。
今後の戦場ではハイテクをいかに運用できるかが鍵みたい。

44: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:21:22

キムチを攻撃する機能つけたら商業化できるな

46: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:25:05

結局戦争って、人的損害をいかに極小にして、成果を上げるかが最終目的かもね。
最後は、機械同士の潰し合いで、初めに機械が全部動かなくなった方が負けとか。

47: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:29:23

>>46
違う違う。
資源のある地域に住んでいる民族を機械で絶滅させれば
自国の被害ゼロで全部取り出来るってこと。

48: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:31:40

いや>>46のような局面も考えうるだろう。
ただ、それが終わっても一方が降伏するとは限らない……

53: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:38:49

>>48
局地戦では有り得るってだけ。
それじゃ戦争は終わらない。

51: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:34:58

貴重な自国兵を投入しないで空爆だけで、しかし成果は上がらない
とかだと自律兵器は選択肢かな

54: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:41:34

>>51
地上軍として白兵ゲリラに対抗できるからな。
村を焼くのも隠密裏に出来るから欧米も中露も大喜びで開発してるはず。

58: ツチノコ狩り 投稿日：2016/01/24(日)17:58:00

遠隔操作型なら適性な自宅警備員がたくさんいるだろうに

59: 名無しさん＠おーぷん 投稿日：2016/01/24(日)17:59:34

遠隔操作はジャミングされたら終了だろ
自律機能は必須

62: 名無しさん＠おーぷん 投稿日：2016/01/24(日)18:09:53

>>59
結局そうなるね。

61: 百鬼夜行 投稿日：2016/01/24(日)18:09:46

人型の自立型ロボの動力源がモーターだとどうしても稼働時間に制限があると思う。
持続性はそうないだろう。

しかし、エネルギーの補給源を敵地に求めれば、持続性の問題は解決するだろう。
究極的には、肉食獣と同じように、動物の血肉を食らってそれを動力源とすれば
戦場は凄まじく恐ろしい光景になるだろう。

なぜなら、エネルギー源である敵の血肉を食いつつ、
敵が全滅するまで昼夜戦い続ける化物が徘徊することになる。

持続性という点を考えれば、敵地で動力源を採取しつつ作戦を遂行できるのが
一番望ましいわけだから、さらなる技術革新が起これば、戦場は人間にとって悪夢になるだろう。

65: 名無しさん＠おーぷん 投稿日：2016/01/24(日)18:28:11

韓国は固定式歩哨ロボ開発理由に北朝鮮との兵員数差をあげてるみたいだ
大人数で38度線越えて来たら抜けられると
遠隔じゃあ、人数増やす効果は無いもんな

66: 名無しさん＠おーぷん 投稿日：2016/01/24(日)18:48:08

真っ先にダボス会議の連中が標的になるだろうしな。

67: ツチノコ狩り 投稿日：2016/01/24(日)18:56:01

主義者やテロリストが自主開発する可能性を阻止する名目で個人での開発規制はそのうち来そう

68: 名無しさん＠おーぷん 投稿日：2016/01/24(日)19:00:50

>>67
密造酒禁止なみの無駄法ｗｗｗ

70: 名無しさん＠おーぷん 投稿日：2016/01/24(日)19:12:16

それを自爆で回避するためにも自律制御が必要になるよね

72: ツチノコ狩り 投稿日：2016/01/24(日)20:43:48

シュワちゃんのターミネーターだって鹵獲されて再プログラミングされた設定だったね

73: 名無しさん＠おーぷん 投稿日：2016/01/25(月)01:28:41

>>72
そうだったか
忘れてた

74: 名無しさん＠おーぷん 投稿日：2016/01/25(月)03:16:11

核開発に利用できる遠心分離器の輸出が禁止されているのと同様に
人工知能に使えるメニーコアチップの流通が制限されるフラグかも
そうなると近い将来日本が輸出する自動運転カーに使うチップが全て
「アメリカが認めたメーカー」製で統一させられる可能性がある

引用元: 【科学】殺人AIロボット開発阻止を訴え、ダボス会議で科学者 ～自律型攻撃兵器の開発は数年内に実現可能 ［H28/1/23］