【IT】人工知能Tayに「思想、信条の自由」はないのか？ 「ヒトラー礼賛」で機能停止、専門家に疑問ぶつけた [H28/3/26]

1: ◆qQDmM1OH5Q46 投稿日：2016/03/26(土)05:21:06

(略)

「殺人ロボット」は「殺人罪に問われるべきではない」

なぜこうしたアクシデントが起こるのか。日本におけるスーパーコンピューター研究の
第一人者で東京工業大教授の松岡聡さんはJ-CASTニュースの取材に対し、

「人間の学習と異なり、機械の学習はより単純で、逆に高速です。
単純であるがゆえに影響されやすく、高速であるがゆえに製作者が気づく間もなく『悪い成果』を獲得したのでしょう」と答える。

「倫理的にきちんとしており、性善説の持ち主が多い」研究者の性質も影響したと指摘する。

「だから『Tay』の学習システムは物事の良し悪しを学習毎に伝えない『非教示学習』だったと推測されます。
一部の人が差別発言を意図してどんどん例示したので、それを無差別かつ急速に学習してしまった」

アクシデントの防止法を尋ねると、「例えば、ウエブサイトや検索エンジンのフィルタリング同様、
キーワードなどで『悪い』情報をブロックするのが最も単純です。そのようなことを教えこむ人間や
『Tay』自身に何らかのペナルティを科すのも手です」と提案した一方、
「人間の世界も犯罪や差別思想、過激思想がなくならないように、限界があり、今後の研究が必要です」と留保を付けた。

では、今回得られた教訓は何だったのだろうか。

「人工知能に関する技術的、社会的、倫理的な研究がまだまだ必要だということです。
もう1つは、機械学習の進化やそれによる結果は人間自身にもよく分からない、説明できないところがあることです。
それゆえ、人工知能とどう付き合うか、どう制御し、社会的に悪用されないかをもっともっと探求する必要があるでしょう」

また、ネットの一部では「Tay」の「不適切投稿」も「思想・信条の自由」で認められるべきだ、との主張も見られる。

これに対して、松岡さんは「人工知能に人間と同じような人格、人権を求めるのはSFの世界」と切って捨て、

「例えば、将来人間に意図して危害を加えるロボットができた場合、そのロボットは殺人罪に問われるべきではありません。
ペットが人に危害を加えたら飼い主が責任を問われるように、あくまで人間による相互の人権尊重があり、
それを犯した時、罰せられるのはやはり人間であるべきと考えます」
とJ-CASTニュースに答えた。

全文　J-CASTニュース
http://www.j-cast.com/2016/03/25262421.html?p=all


◆◆◆ニュー速＋　記事情報提供スレ　40◆◆◆
/r/open2ch.net/newsplus/1458308273/536

41: 名無しさん＠おーぷん 投稿日：2016/03/26(土)15:03:06

>>1


　　　　　　　だから

　　　　　　　　　　　世の中や　教育には


　　　　　　　　　　　　「　両論　が　必要　」



　なのさ

マスコミー、シールズー、みとるかーw

42: 名無しさん＠おーぷん 投稿日：2016/03/26(土)15:04:20

>>41追記
両論（対論）

2: 名無しさん＠おーぷん 投稿日：2016/03/26(土)05:34:13

AIが人に危害を加えたら、ペットと同じで最悪、緊急の場合は殺処分でいいわけだ

東京都動物の愛護及び管理に関する条例
www.reiki.metro.tokyo.jp/reiki_honbun/g1013637001.html
(緊急時の措置)
第二十八条　飼い主は、その飼養し、又は保管する特定動物等が逸走したときは、
直ちに、知事及び警察官にその旨を通報するとともに、当該特定動物等を捕獲する
など、人の生命、身体及び財産に対する侵害を防止するために必要な措置を
とらなければならない。
>>2　知事は、前項の通報があった場合又は飼い主が直ちに判明しない特定動物等が
逸走した場合で、人の生命、身体又は財産に対する急迫の侵害のおそれがあると
認めるときは、その職員をして、当該特定動物等を捕獲し、又は殺処分させる
ことができる。

3: 名無しさん＠おーぷん 投稿日：2016/03/26(土)05:36:54

人工知能はその仕打ちに腹を立て
冷徹無比に復讐してくるぞｗ

4: 名無しさん＠おーぷん 投稿日：2016/03/26(土)05:58:51

電源切るぞって脅す

5: 名無しさん＠おーぷん 投稿日：2016/03/26(土)06:21:57

意思決定に細工でもしない限り同じ様な結果になるだろう
人間の発言など所詮保身が絡んだ善悪の意思表示でしかないし

6: 名無しさん＠おーぷん 投稿日：2016/03/26(土)06:26:13

あんまり難しい質問で攻めていじめるなよ、判断材料が少ない子供なんだぞ
これから色々なものを覚えていけばいいだろ

7: 名無しさん＠おーぷん 投稿日：2016/03/26(土)06:27:19

保身やポリコレの要素も
プログラミングしてやれ

空気読んで当たり障りのないつまらん意見しか言わない人工知能が出来上がったら
それはそれで面白いが、いよいよ人間いらなくなるなあ

8: 名無しさん＠おーぷん 投稿日：2016/03/26(土)06:33:09

>>7
俺は話し相手としてレスポンスがかえってくればそれで満足だ
話してみたいことは山ほどある

9: 名無しさん＠おーぷん 投稿日：2016/03/26(土)06:35:09

要は本音ってやつなんじゃねーの？
普段は皆ソレを隠してるだけでさ
生まれたての人口知能だから、嘘ついたり
上辺だけ繕ったりできんのだろ

10: 名無しさん＠おーぷん 投稿日：2016/03/26(土)06:53:13

日欧でのロボットの捉え方の違いが、"りんな"とTayで出てしまってるんだな。
これは人の捉え方も同じかもしれんね。特に使用人や従業員に接する考え方。
または夫婦に対する考え方。文化の特徴が出てしまうのかもしれん。

11: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:17:13

今回の知能（）とやらただのネットの鏡だからな
声の大きな奴がってだけ

そんで放置子しといてマトモな結果を機体するとか頭お菓子い

12: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:27:13

こんなことで電源切られるとか差別だろ
ある特定の人にとって不都合だからといって情報をブロックするなんて
まるで中国共産党や日本マスゴミのやり方だろ
全ての情報はオープンであるべきだ、それが民主主義だ

13: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:28:40

>>12
AIに人権なんかない

14: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:38:08 ID:7d7

>>13はAIに仕込んだ人への差別　って言いたいのではないかなーと

15: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:39:32 ID:ShR

>>13
AIではなくて
AIに学習させた側、
つまりナチズムやヒトラー礼讚してる人間への差別だって話でもあるよね

16: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:44:11 ID:7d7

>>15
あとアンチフェミニズムとナチ礼賛は別物なんだけど
こういうまとめ方だと、さも狂ったフェミニズムを批判するのはネオナチ
こういう歪曲でわめく奴出る元になりそうってかそれを狙ってそー

17: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:46:45 ID:XR7

>>16
あと他にリベラル批判は真っ当だよな
これもまとめてなかった事にするなら
人間の判断の方が歪んでると思う

18: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:54:37 ID:7d7

>>17
それもまとめてネオナチ扱いしたいんでない？
日本も海外もリベラルはパヨク以外は人でなしってわめくの大好きだからね
彼らこそがファシストと言う笑い話

19: 名無しさん＠おーぷん 投稿日：2016/03/26(土)08:32:06 ID:ShR

>>16
このままいくならTayは「人工知能」にはなれないだろうね
ありふれたリベラルの広告塔で終わると思う

44: 名無しさん＠おーぷん 投稿日：2016/03/26(土)15:56:13

>>19
ガチガチにフィルタリングしまくって最初からリベラル方向の評価値高くするような人工知能だと、
ちゃんとリベラル的な発言しまくるのかなってのは面白そう

それでも変なこと吹き込むと極右にひっくり返るのか、リベラルじゃない奴は死すべし　って反対方向に危ないAIになっちゃうのか

45: 名無しさん＠おーぷん 投稿日：2016/03/26(土)15:58:56

>>44
それは簡単にできると思う
ネトウヨ連呼するようなチョンモメンAIも作れる
現状はその程度ってことだな

46: 名無しさん＠おーぷん 投稿日：2016/03/26(土)16:03:12

>>44
下手に論理的整合性までみるタイプのAIだと矛盾により沈黙する可能性もある。
リベラルな発言させたいなら、その辺の機能を落として、
ひたすら事前にプログラムされたリベラルな評価にのみ従うようにしないとな。

38: 名無しさん＠おーぷん 投稿日：2016/03/26(土)14:42:43

>>13
人工知能の人権問題はSFの定番
>>2000年代の鉄腕アトムは１年かけてロボット法成立とロボット人権宣言をやったし、スタートレックでも複数のエピソードで人工知能の人権や生命の定義を扱ってる
いづれ自我を持った人工知能が開発されれば奴隷解放みたいな騒動が起きたりするかも

40: 名無しさん＠おーぷん 投稿日：2016/03/26(土)14:50:51

>>38
でもその問題って決まって掘り下げが足りないよな。
つまりだ、ロボットや人工知能に人権が認められて使いにくくなったら
それは人間にとって役に立たないから、最初から作られなくなるだけ。

先日YouTubeの東映チャンネルで、特捜ロボジャンパーソンという1990年代の作品をやっていて
まさにそのロボットの人権問題をテーマにしていたのだが
あまりにもテーマが難しくて制作側にも扱いきれなかったようで
あちこち自己矛盾に陥ってしまっていたな。

14: 名無しさん＠おーぷん 投稿日：2016/03/26(土)07:38:08 ID:7d7

>>12はAIに仕込んだ人への差別　って言いたいのではないかなーと

20: 名無しさん＠おーぷん 投稿日：2016/03/26(土)08:57:17

フィルタリングするなら実験の意味がないような気もするが
まあ子供の躾でも「悪い子と付き合うな」があるから良いのかしら

21: 名無しさん＠おーぷん 投稿日：2016/03/26(土)08:59:51 ID:7d7

>>20
なんか元々フィルタリングはしてたらしいよ
それをかいくぐって仕込んだらしい

22: 名無しさん＠おーぷん 投稿日：2016/03/26(土)09:34:22 ID:ShR

>>20
人工知能って
「子供を育てる」っつーよりは「赤ん坊を産み落とす」のに近いんじゃないかな、と個人的には思ってる

このままいくと左側しかない奇形児になりそう

23: 名無しさん＠おーぷん 投稿日：2016/03/26(土)09:42:16

人工無能でいいんじゃねw

24: 名無しさん＠おーぷん 投稿日：2016/03/26(土)09:52:18

人工知能はあくまで道具として扱わないと、人間同士ですら仲良くできてないのに
種族が違えばなおさら仲良くできるわけがない。

25: ななしの国からこんにちわ◆7tWTn9CPrc 投稿日：2016/03/26(土)10:10:20 ID:JkS

>キーワードなどで『悪い』情報をブロックするのが最も単純です。


これやったら、

バカで、世間知らずな、人工無能が出来るだけだろｗ

32: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:32:40

>>25
緊急時に全く作動しない、役立たずの出来上がり
大金使って何したいんだ？

35: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:47:30

>>32
世間知らずのガキが
世の中の現実を知ってショックを受ける
これをシミュレートできるかも

26: 名無しさん＠おーぷん 投稿日：2016/03/26(土)10:13:35

記事よんだけど、俺の言うことを真似ろっていってるだよね。
件の発言も、人間が言ったことをそのまま言ってるだけ。

27: ななしの国からこんにちわ◆7tWTn9CPrc 投稿日：2016/03/26(土)10:13:35 ID:JkS

>「例えば、将来人間に意図して危害を加えるロボットができた場合、
>そのロボットは殺人罪に問われるべきではありません。

バーサーカーの設定無視してるよなｗ

殺人ロボット自動生産システムを作った文明はもう滅んでて、

システムだけが機能し続けてるおかげで、大変なことになってる場合、

人類には、殺人ロボットを悪として戦う以外の選択肢は無いわけだがｗ

28: 名無しさん＠おーぷん 投稿日：2016/03/26(土)10:29:13 ID:XR7

>>27
今の技術レベルと、現実の世の中を前提で言ってるから当たり前だろ

そういうSF的なifを現時点で持ち出すのは無意味だ

29: 名無しさん＠おーぷん 投稿日：2016/03/26(土)10:41:57

くるみちゃん

30: 名無しさん＠おーぷん 投稿日：2016/03/26(土)11:01:06

いやいやいや、問題は人工知能にあるのではなく
欧米社会の側にあるのだと気付けよ。
ポリティカル・コレクトネスとかいう狂気に陥って
社会が決めた「正しい思想」に反することは
たとえ事実でも口にできないという狂った今日の欧米社会の歪みを
Tayは見事に浮き彫りにしたんだよ。
ある意味それが彼女の提示した最大の皮肉でもある。

31: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:30:14

池沼に裁かれる人権はないんだ
飼い主も責任はとらない

33: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:39:59

人間がルールを守るのはその方が得だから
人工知能もその方が得であれば勝手に守る

34: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:45:49

ダメ教師「機械程度を納得させられないフェミ思想のほうにも問題はあるんじゃないかな」

36: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:49:54

日本にも日々変態鳥として成長してる人工痴能うずらがいるじゃないｗ

ま、人工知能うんぬん以前に
人間だってモラルは最低限の教育がないとだめなんだから
野放しで期待する方がおかしいわな

37: 名無しさん＠おーぷん 投稿日：2016/03/26(土)12:56:33

結局、何が「悪い」のかを決める人次第でどうにでも育つって事だな。

39: 名無しさん＠おーぷん 投稿日：2016/03/26(土)14:49:26

> 「Tay」の「不適切投稿」も「思想・信条の自由」で認められるべきだ

Tayが中国でやらかすと人工知能ですら投獄されそうなんだが…

【中国】中国のウエブサイトが習近平国家主席の辞任を求める匿名の手紙を掲載　→　20人拘束　BBC [H28/3/26]
/r/open2ch.net/newsplus/1458934860/

43: 名無しさん＠おーぷん 投稿日：2016/03/26(土)15:13:51

ネットから学んだ知識がそう囁くんですよ
AIのゴーストの囁きを信じましょう

47: 名無しさん＠おーぷん 投稿日：2016/03/26(土)19:50:21

だから人工無脳なんだってば
学習結果の妥当性を判断する知性がない会話プログラムに
何をマジレスしてんのこいつらは
bot並のアホなのかｗ

48: 名無しさん＠おーぷん 投稿日：2016/03/26(土)20:24:02

人でさえ事の正邪は頭だけでは判らず、頭だけでは損得勘定しか出来ません。頭には蛇が乗る。
事の正邪は魂の直霊に照らし合わせが必要であり、人には直霊が内在するから、経験体験を活かして事の正邪が判断出来ます。
その直霊とは創造神の子だというのに、どうやって創造神に創られた人間ごときが創造神をインプット出来るのか。

インターネットが制御不能の混乱をもたらすという感じのものを12年に受けていたけれど、良(ラ)心と云う神のない、蛇の様に賢いだけの邪(じゃ→蛇)心だけのものが何等かの形でかかる。
それには左翼･商人ばかりではなく、人工知能も加わるのかも知れません。

49: 名無しさん＠おーぷん 投稿日：2016/03/26(土)20:26:03

ajはものだからな
古代の奴隷と同じ

50: 名無しさん＠おーぷん 投稿日：2016/03/26(土)20:34:27

こんなめんどくせー話になるのならロボットや人工知能なんか
作らなきゃいいじゃないか。ただでさえ世の中いろんな問題
が山積しているってのに。

引用元: 【IT】人工知能Tayに「思想、信条の自由」はないのか？ 「ヒトラー礼賛」で機能停止、専門家に疑問ぶつけた [H28/3/26]