【社会】人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

1: ◆qQDmM1OH5Q46 2016/08/18(木)10:13:17 ID:???

人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート
湯川鶴章のテクノロジーフィクション

<人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。
理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない>

人工知能(AI)や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に
牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、
米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、
ほぼ全員がAI反逆説を頭から否定していた。

でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は
「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、
とても予測できない」というような表現だった。

続き ニューズウィーク日本版 全2ページ
http://www.newsweekjapan.jp/yukawa/2016/08/post-12.php

5: 名無しさん@おーぷん 2016/08/18(木)10:55:34 ID:JnU

>>1
>理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば

相変わらずAI自分勝手なムチャクチャな意見だな。
輪廻の法則無視してるし。
そこまで勝手な思考できるんなら、人間ばりにずっこけるのも一緒だろうから、どっちがやっても一緒だよ。

それに倫理観がないAIに、高度な政治判断させちゃダメだろ。

35: 名無しさん@おーぷん 2016/08/18(木)16:53:00 ID:GjZ
>>1
「前にありき」って意味で甚だ同意

2: 名無しさん@おーぷん 2016/08/18(木)10:16:56 ID:TkJ
まあそうだろうな
人間はボケたら突然カイヨーとか言い出すし

3: 名無しさん@おーぷん 2016/08/18(木)10:44:47 ID:uor

SF小説じゃあるまいし
人工知能に夢を持ちすぎなんだよなw

4: 名無しさん@おーぷん 2016/08/18(木)10:54:53 ID:q7H
財務省の役人のことですかな?

6: 名無しさん@おーぷん 2016/08/18(木)10:55:47 ID:zaN
              ノ´⌒`ヽ
γ⌒´      \
// “”´ ⌒\  )
i / ⌒  ⌒  i )
i  (・ )` ´( ・) i,/

8: 名無しさん@おーぷん 2016/08/18(木)10:58:53 ID:Pkj

>ほぼ全員がAI反逆説を頭から否定していた。
>こんな初期段階でAIが反逆するようになるかどうかなんて、
とても予測できない

あんたホント無責任だなw
否定してるわけではなかろ…

9: 名無しさん@おーぷん 2016/08/18(木)11:01:56 ID:d7z

理詰めで行くと・・・・。

10: 名無しさん@おーぷん 2016/08/18(木)11:13:51 ID:ga5

汎用性冗長性を高める形でAIの能力を深化させるほど
人には理解出来ない合理性を発揮するのは既に示されてるからね

現段階だと自由度が無いからやらかせないってなってるだけで
高度の機械制御が進みあらゆる兵器の無人化AI制御も可能となった時に戦略AIが勝手に敵対国に戦術核をぶち込みまくるなんてのは起き得る訳だ

11: 名無しさん@おーぷん 2016/08/18(木)11:14:17 ID:Uyx

本当に無駄が多いもんな、人間には。
病気になるし、心を病むし、三度三度食うし、排泄するし、寝るし、喧嘩するし、派閥作るし。

人間と変わらぬ働きの出来るロボットが誕生したら、必ず滅ぼされるわ。

13: 名無しさん@おーぷん 2016/08/18(木)11:26:56 ID:G9J
こういうことを言う奴は、エリートが頭でっかちなのではなくて
そうした知見を理解できない奴が愚民なだけ

14: 名無しさん@おーぷん 2016/08/18(木)11:36:50 ID:jUV
あの3年を経験した者として
俺はエリートより衆愚のほうがよっぽど怖い

18: 名無しさん@おーぷん 2016/08/18(木)12:03:24 ID:JnU

>>14
赤信号も怖くて渡れないのかお前は?
なら戦争になったらショック死する可能性あるなw

>>16
笑ったw それこそ現在進行形のAIの発想だろw

15: 名無しさん@おーぷん 2016/08/18(木)11:47:59 ID:70Y
AIロボットが発達すれば俺にも彼女が出来るかもと思ったが、
よく考えたらAIロボットの女の子が選ぶのはAIロボットの男かもしれない。
こわい未来だ。

16: 名無しさん@おーぷん 2016/08/18(木)11:57:01 ID:Wf3
「家をきれいにするには人間がいなければ良いんだ」って発想になる人は目標設定が間違ってるからAI開発に向いてないよ

17: 名無しさん@おーぷん 2016/08/18(木)12:00:37 ID:h8H

ロボットにも人権を!
どこまでいってもAIが”自発的に”やらかす訳ないだろ

20: 名無しさん@おーぷん 2016/08/18(木)12:13:29 ID:pHz
健全な精神は健全な肉体に宿る
国をあげてピチピチ可動ボディを開発する必要がある

22: 名無しさん@おーぷん 2016/08/18(木)12:26:51 ID:S7k
>>21
普通のアメリカ人が普通の日本人レベルに追いつくまでは、ずうっと続く
アメリカ人は劣化中なので、その差は広がるばかり

23: 名無しさん@おーぷん 2016/08/18(木)12:37:12 ID:SGC
頭デッカチは確かに怖いな…
http://imgur.com/EKtnQay.jpg

24: 名無しさん@おーぷん 2016/08/18(木)12:39:41 ID:05h
反逆はしないだろうが、頓珍漢なプログラムで斜め上な事故を起こすぐらいだろ

25: 名無しさん@おーぷん 2016/08/18(木)12:49:58 ID:GOq
人工知能がより性能の良い人工知能を作れるようになったら、後は加速度的だべよ
今世紀中には人類終了でつよ

31: 名無しさん@おーぷん 2016/08/18(木)13:24:15 ID:70Y

>>25
これが問題なんだよな。

>でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。
この意見は問題点が見えていない証拠。
予期しないバグは必ず発生するし、高速演算による天文学的な試行回数により綻びはすぐに拡大する。
「ただし人間を守ること」を守らない自己増殖AIが現れるのは時間の問題。
「ただし人間を守ること」を守らないAIを排除するAIも当然現れるだろうけど
「ただし人間を守ること」に合理性が無いし、制約の少ないAIの方が勢力拡大に有利。

自己増殖AIや自立進化AIを禁止すればこの問題は解決できるかもしれない。
でも金や権力に繋がるAI開発は競争だから、必ずこういう有利なAIを作る人が出てくる。

26: 名無しさん@おーぷん 2016/08/18(木)12:50:49 ID:y1r
反逆のルルーシュ

27: 名無しさん@おーぷん 2016/08/18(木)12:57:31 ID:S7k
ほとんどの人類は今のAIよりおバカだからなぁ

29: 名無しさん@おーぷん 2016/08/18(木)13:04:57 ID:jUV
ちなみにロボット三原則をロボットに実装すると
アフリカあたりで死に瀕している人々を救いに行ってしまうので
反逆以前に作った人の役にすら立たないらしい

30: 名無しさん@おーぷん 2016/08/18(木)13:08:58 ID:pHz
何でもかんでも効率を求めると、とても住みづらい社会になると思う
時に愚かでも、人間が民主主義的に決めて行く社会の方が良いなあ

34: 名無しさん@おーぷん 2016/08/18(木)15:52:41 ID:Wf3
人の判断が最も重要な裁判官はなくならない知的エリートの職業だと思っていたら、
法律と判例から正確に判断できるAIに真っ先にとって代わられた裁判官が主人公の小説があった

http://uni.open2ch.net/test/read.cgi/newsplus/1471482797/引用

  • このエントリーをはてなブックマークに追加

コメントをどうぞ

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です