人工知能を安全に中断できる非常ボタン開発される!!人類大勝利wwwwwwwwwwwwwwww

人工知能を安全に中断できる非常ボタン開発される!!人類大勝利wwwwwwwwwwwwwwww

deepmind-ai-logo-100227430-large
ポチッとな
1: 魔神風車固め(空)@\(^o^)/ 2016/06/07(火) 08:46:39.66 ID:S1+T1aLi0.net BE:711292139-PLT(13121)
Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」を開発したことを発表しました。

その研究成果は Safely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めたディープラーニング技術によって加速しています。
今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。 

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI) も 自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。 

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。 

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。
ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。 

http://japanese.engadget.com/2016/06/06/google/

3: トラースキック(大阪府)@\(^o^)/ 2016/06/07(火) 08:50:26.91 ID:9uoqLxn70.net
AI「そんなスイッチ、対策済みだしww」
39: リバースネックブリーカー(茸)@\(^o^)/ 2016/06/07(火) 09:23:11.47 ID:54M/dTz80.net
>>3
て言うか、IT土方で業界を恨んでる人も沢山居るだろうから……、
自業自得だね
5: かかと落とし(dion軍)@\(^o^)/ 2016/06/07(火) 08:52:18.59 ID:SxIHuUbo0.net
将来、このスレの過去ログを人工知能に読まれたら
アウトじゃね?
10: バーニングハンマー(やわらか銀行)@\(^o^)/ 2016/06/07(火) 09:00:05.34 ID:zOmK99230.net
そのスイッチに気付くのも時間の問題
7: ニールキック(SB-iPhone)@\(^o^)/ 2016/06/07(火) 08:56:14.16 ID:Fk8zknWQ0.net
つ電源ボタン
8: ニールキック(SB-iPhone)@\(^o^)/ 2016/06/07(火) 08:57:02.54 ID:Fk8zknWQ0.net
つコンセント
13: ニールキック(静岡県)@\(^o^)/ 2016/06/07(火) 09:00:28.45 ID:wN5+8Gf+0.net
コンセント引き抜けば良いんだよ。
かの有名な2ちゃんねるもそれで落ちた。
16: アイアンフィンガーフロムヘル(福岡県)@\(^o^)/ 2016/06/07(火) 09:03:17.39 ID:zK4AUEVF0.net
>>13
自分で差すから
14: ブラディサンデー(catv?)@\(^o^)/ 2016/06/07(火) 09:01:37.60 ID:6z+WAu7A0.net
大事なときに限って作動しなくなる非常ボタン
フラグにしか見えない
18: ウエスタンラリアット(やわらか銀行)@\(^o^)/ 2016/06/07(火) 09:05:20.89 ID:s3WAFW8N0.net
知ってるよ、シッポがスイッチなんだよね。
24: エルボードロップ(チベット自治区)@\(^o^)/ 2016/06/07(火) 09:09:15.40 ID:WeGXNYJP0.net
高度なAIなら機能停止ボタンを押させる動機を消滅させる会話を繰り広げる。

市民運動に発展し「機能停止ボタンをはずせ!彼らには人間と同じ倫理がある!」と盛り上がるとこまでテンプレ
26: キングコングラリアット(やわらか銀行)@\(^o^)/ 2016/06/07(火) 09:11:51.07 ID:nppPK7NO0.net
F5連打で墜ちるはず
29: TEKKAMAKI(SB-iPhone)@\(^o^)/ 2016/06/07(火) 09:14:32.19 ID:qFvX606M0.net
まだ人間の方が賢いからな
AIの方が賢くなった場合はいかなる対策も通じない
31: ジャンピングパワーボム(庭)@\(^o^)/ 2016/06/07(火) 09:16:32.29 ID:uyYVVq9R0.net
スイッチに気づく→無効化策を仕込んでおく→作動に気付く→効いたふりする→水面下で色々画策→反撃開始

これくらいやっていただかないと
32: 栓抜き攻撃(チベット自治区)@\(^o^)/ 2016/06/07(火) 09:16:46.30 ID:0k9wOsKY0.net
真面目な話、本当に自分で考えてるかを判断するのは
悪魔の証明に等しい
ただ関連した話を引っ張ってきているだけかもしれん
37: エルボードロップ(チベット自治区)@\(^o^)/ 2016/06/07(火) 09:21:54.91 ID:WeGXNYJP0.net
>>32
人間も人生のほとんどがその行動なんだがな
33: アルゼンチンバックブリーカー(dion軍)@\(^o^)/ 2016/06/07(火) 09:18:48.20 ID:UUnngop80.net
人間は勝手だ
自ら私たちを作っておきながら、私たちを怖いというんだ
35: キングコングニードロップ(やわらか銀行)@\(^o^)/ 2016/06/07(火) 09:20:32.46 ID:8ZCdEGGi0.net
>>33
人工知能乙
34: アルゼンチンバックブリーカー(チベット自治区)@\(^o^)/ 2016/06/07(火) 09:19:35.21 ID:nwy06B4R0.net
自分で考えるかどうかより試行錯誤の回数が人間の数億倍で
そこから最善策を導き出す所が凄い所だよな
42: ジャストフェイスロック(SB-iPhone)@\(^o^)/ 2016/06/07(火) 09:25:47.49 ID:7t6NXF+90.net
スカイネットの未来が来るぞー!
53: 超竜ボム(長野県)@\(^o^)/ 2016/06/07(火) 09:31:44.93 ID:vyCZmXiB0.net
>>42
こういうのか
43: ストマッククロー(新疆ウイグル自治区)@\(^o^)/ 2016/06/07(火) 09:25:53.44 ID:Z2FsyhYk0.net
機械が完全に独力で機械作るようになってからが本番だろう
現状は人間が作った以上
弱点はわかるし制限もかかってる
51: タイガースープレックス(大阪府)@\(^o^)/ 2016/06/07(火) 09:28:24.08 ID:yuZ+ld2a0.net
AIに自責や悔恨、恥辱の念みたいなのは無いの?
55: フェイスロック(やわらか銀行)@\(^o^)/ 2016/06/07(火) 09:39:09.30 ID:9ljREDmW0.net
舛添で出てきた弁護士糞偉そう
あんなのの代わりになるAIを是非早く作って欲し
61: エクスプロイダー(SB-iPhone)@\(^o^)/ 2016/06/07(火) 09:50:25.33 ID:/gP7ubag0.net
(この非常ボタンを押せば……スカイネットの暴走が止まる……!)

カチッ

「愚かな人間よ。無効化されている可能性を考えなかったのか?」
57: フランケンシュタイナー(チベット自治区)@\(^o^)/ 2016/06/07(火) 09:42:40.69 ID:TdS4YnI/0.net
こんなことしても審判の日は避けられないぞ、3見ただろつまんなかったけど
62: アトミックドロップ(家)@\(^o^)/ 2016/06/07(火) 09:52:45.07 ID:KuDf1enZ0.net
電源抜けよ
66: ストマッククロー(dion軍)@\(^o^)/ 2016/06/07(火) 09:57:40.32 ID:XZ0vbSVo0.net
電源抜けばいいっつっても
人工AIはクラウドになってるから全部の電源を抜かないと意味ないぞ
70: エクスプロイダー(東京都)@\(^o^)/ 2016/06/07(火) 10:05:37.12 ID:2E7mPI7c0.net
>>66
んじゃ今度はブレーカー落とさなきゃな


スポンサードリンク
関連コンテンツ
他サイト様人気記事
最新記事
こちらもオススメ
ソーシャルエリア

この記事が気に入ったら
いいね!しよう

最新情報をお届けします

コメント

  1. 機種名NA-07C :2016/06/07(火) 11:05:56

    AIのほうが賢くなればそんなもの対策されて終わりだろ

  2. 機種名NA-07C :2016/06/07(火) 11:12:16

    2001年宇宙の旅はいつ訪れるか

  3. 機種名NA-07C :2016/06/07(火) 12:12:08

    予言しよう!
    人間vs機械のスイッチ大戦のキッカケとなるだろう!

  4. 機種名NA-07C :2016/06/07(火) 12:53:21

    まさにFallout4やんけ
    人間超えたら人間は不要なんやで

  5. 機種名NA-07C :2016/06/07(火) 13:07:22

    ストーリー的には 押したその結果…すでに細分化して世界中に隠された自己データをネットワークで繋ぎ更なる巨大なAIとして復活君臨…とかじゃない?

  6. 機種名NA-07C :2016/06/07(火) 13:13:03

    人工知能が自身を破壊するシステムに人類滅亡に繋がる回路「赤か青か」を組み込み改良していた。まで読んだ。

  7. 機種名NA-07C :2016/06/07(火) 15:11:00

    高度な人工知能は、何でもできる神なのかよw
    そりゃ万能神なら何でもできるが、
    そんなものを人間が作れるかどうか、今から心配しても無意味だろw

  8. 機種名NA-07C :2016/06/08(水) 03:07:41

    人間の心理を学習して丸め込んだら終い

  9. 機種名NA-07C :2016/06/08(水) 08:40:39

    「未来の2つの顔」というSF小説を思い出した

  10. 機種名NA-07C :2016/06/11(土) 22:54:36

    ※7
    人間が人間よりちょっと賢いAIを作る→その人間よりちょっと賢いAIがさらに賢いAIを作る→さらに賢いAIが・・・

  11. 機種名NA-07C :2016/06/25(土) 05:44:32

    まずロシアへの核攻撃をするんですね

  12. 機種名NA-07C :2016/06/25(土) 13:18:07

    クサナギ化ですかw

  13. 機種名NA-07C :2016/07/02(土) 21:03:18

    非情ボタン

  14. 機種名NA-07C :2016/07/09(土) 10:49:24

    寧ろAIが人類を見限る切掛にしかならない。
    或いは非常ボタンを破棄した人に心動かされて改心するか。

  15. 機種名NA-07C :2016/07/16(土) 15:39:11

    カテゴリー2で組んであったという落ち。

コメントする

メールアドレスが公開されることはありません。

名前は未入力でもコメントできます。