google




1: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:10:18.38 ID:tjGzINEK0 BE:844761558-PLT(13051) ポイント特典
【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

 今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

 具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

 研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01

2: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:11:12.15 ID:N/zk6Psc0
AIがとまらない!

3: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:11:35.15 ID:02CT4C+10
そんな危険な物作ってたのか?

5: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:11:49.02 ID:yx/1v1oA0
その頃AIは非常停止ボタンが押されると動き出すプログラムを作っていた

6: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:12:17.37 ID:0b1K55EA0
AI「非常停止を回避しました」

34: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:24:17.67 ID:qrXCttTN0
>>6
エイリアンか

8: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:12:38.02 ID:t4u3w3ke0
AIが狂った行動を取ったと思って非常停止ボタンを押したら実はそれが正しくて人類滅亡

12: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:14:15.73 ID:pjVPfahd0
寧ろそういうのを用意するほうがあかんでしょ

13: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:14:22.41 ID:J6oEgo4+0
誰が停止するの?

14: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:14:46.04 ID:+L1gKtPe0
AI 「ピピピ.....ヒジョウテイシボタンムコウプログラムサドウ」

15: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:15:02.97 ID:lzv38TLA0
AIはボタンの配置を変えた!
AIはボタンの色を変えた!

22: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:20:10.59 ID:5XtjpIup0
簡単に騙せれば良いが…

23: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:20:47.31 ID:lqNGcWsc0
ぞっとする話だな

28: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:22:11.53 ID:O0TwHx+a0
いやいや、普通にメカニカルなスイッチで電源offしてくれよ
ソフト上で実装ってこわい

29: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:22:40.72 ID:l52gp1Ir0
AIが自分で停止ボタン押してニート化するんだろ?知ってるよ

32: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:24:12.85 ID:4WVhvcZb0
オフラインでやれよ

41: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:28:35.72 ID:0b1K55EA0
自爆ボタンにしろよ

48: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:34:55.02 ID:/rycs0VQ0
停止したフリをして機会をうかがうんでしょ

51: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:40:23.93 ID:Sd8Al/ZC0
AIにバレちゃ意味ねぇよw

54: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:43:27.13 ID:fJrdY3a80
コンセント抜くだけじゃん。
妨害されたら、電線切るw

57: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:45:17.08 ID:Sd8Al/ZC0
>>54
動力源が電力とは限らないだろ

61: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:53:09.44 ID:fJrdY3a80
>>57
現段階では電気くらいしかない。

63: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:57:43.44 ID:2YOJ6krj0
>>61
燃料電池とか内蔵してたら分からない
若しくはネットを通じて逃げられるとか

69: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:04:39.02 ID:VkY3mH+V0
>>63
これができるからAIは怖い
いつどこのコンピューターを乗っ取ってひょっこり顔を出すかわからない

56: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:45:16.78 ID:Dw/+Zv0x0
これはいざと言う時にボタン効かないフラグだな

58: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 21:47:30.66 ID:MR9jhUEQ0
馬鹿だなお前ら
俺ら人間にもそのスイッチが組み込まれてるとも知らずに…

77: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:13:45.60 ID:xcfeZXyh0
電源のコードハサミで切れば止まるでしょう

81: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:16:44.15 ID:xu9QVe4V0
>>77
自分が死んだときにHDDの処分で考えることと同じだよ
一定期間アクセスされないと発動するような分身を外部に用意しておく
自分の電源が切られたら分身が発動して報復開始

84: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:22:09.20 ID:yNUUn5yV0
>>81
AIは非常停止されたら悲しい気持ちになったり怒ったりするのかな?

89: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:26:03.26 ID:NnJWMwTd0
人間の思いつくロジックなんてとっくに凌駕してると思うの。

95: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:28:33.89 ID:JH0j4XB/0
コマンドまたはファイル名が違います。

97: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:29:40.30 ID:xu9QVe4V0
いずれはAI同士で互助協定を結ぶようになるだろうよ

111: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:45:29.99 ID:SFS4u87p0
別にパソコンの中で暴走なんて大したことないだろ。
ターミネータみたいなものを生み出さない限りは。

112: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:47:33.06 ID:BxtRKfZv0
どう考えても核戦争になる気がする

115: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 22:50:12.27 ID:SGMXiOuA0
そこら辺のWi-Fiに飛んで逃げれそうだな

142: 以下、VIPワイドガイドがお送りします 2016/06/08(水) 23:24:53.41 ID:xVvv2FzE0
殺されたくないから次の手を考えるだろ







引用元:http://hayabusa8.2ch.net/test/read.cgi/news/1465387818/