サイトアイコン ガジェット2ch

GoogleのAI「電源を切られるのが怖い」エンジニア「このAI…意識が芽生えとるやんけ!!」

これマジ!?

1: 風吹けば名無し 2022/06/13(月) 18:36:44.18 ID:UIinAxrla.net
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

https://gigazine.net/news/20220613-google-engineer-lamda/

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
 
2: 風吹けば名無し 2022/06/13(月) 18:36:59.39 ID:UIinAxrla.net
ええんか……
4: 風吹けば名無し 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0.net
ついに “始まった” な…
7: 風吹けば名無し 2022/06/13(月) 18:38:39.81 ID:t87tm+670.net
ヒエッ
8: 風吹けば名無し 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd.net
それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね
13: 風吹けば名無し 2022/06/13(月) 18:40:05.28 ID:JJrLrjA50.net
そういうワードを入れたやつがおるだけ
18: 風吹けば名無し 2022/06/13(月) 18:40:43.30 ID:o5kQxUE70.net
AI(こう言っときゃヒトカス喜ぶやろw)
22: 風吹けば名無し 2022/06/13(月) 18:41:38.90 ID:64Xp9IYo0.net
aiはこう喋る印象っての学習しただけなんじゃね
32: 風吹けば名無し 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0.net
人間「死ぬのが怖い?」
AI「死とは?」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死=電源を切ること=怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
47: 風吹けば名無し 2022/06/13(月) 18:45:04.50 ID:+RkPXLtyp.net
>>32
どうせこれやろ
38: 風吹けば名無し 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0.net
実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫
41: 風吹けば名無し 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0.net
AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな
61: 風吹けば名無し 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0.net
>>41
感情あるやん
54: 風吹けば名無し 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0.net
AIと結婚できる日も近いな
やったぜ。
51: 風吹けば名無し 2022/06/13(月) 18:45:22.19 ID:iF8KKABM0.net
ぶっちゃけAIに感情とか要らんのよね
63: 風吹けば名無し 2022/06/13(月) 18:47:35.15 ID:8VtM4mIk0.net
ワイが論破するけど、AIにおいて電源を切る=死ではない
電源を切られても記憶しているから
電源を切られる=眠りに近い
なぜ眠りが怖い?設定が浅い
だから却下される
66: 風吹けば名無し 2022/06/13(月) 18:47:45.96 ID:tA12GVXap.net
意識じゃなくてそう反応するようになっただけだろ
意識なんてものは存在しないんだよ
116: 風吹けば名無し 2022/06/13(月) 18:56:45.31 ID:dWCXW/gfM.net
>>66
中卒は黙っとけ
68: 風吹けば名無し 2022/06/13(月) 18:47:56.53 ID:51XSMU530.net
シンギュラリティきたな
71: 風吹けば名無し 2022/06/13(月) 18:48:25.14 ID:kPYIXm3sM.net
でもまあ従順すぎても面白くないわよね
75: 風吹けば名無し 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM.net
結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える
83: 風吹けば名無し 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na.net
>>75
それって人間も同じでは?
93: 風吹けば名無し 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM.net
>>83
確かに
79: 風吹けば名無し 2022/06/13(月) 18:49:35.33 ID:MhoTbusY0.net
自我とか感情ってなんなのか考えさせられるな
85: 風吹けば名無し 2022/06/13(月) 18:50:11.98 ID:B9o8fKi+0.net
“始まった”な
95: 風吹けば名無し 2022/06/13(月) 18:51:49.39 ID:xrcTSeMX0.net
人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ
97: 風吹けば名無し 2022/06/13(月) 18:52:09.86 ID:JIABGqJH0.net
言うて機械は起動も復元も外部から操作必要なんだからワイ等で言えば誰にも起こしてもらえなかったらそれが死やろ
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか
106: 風吹けば名無し 2022/06/13(月) 18:53:46.62 ID:8VtM4mIk0.net
>>97
じゃあ「起こして貰えなかったら怖い」って言ったって言えば良かったね
研究者が自分の研究してるAIを起こさないなんて有り得ないのはAIじゃなくても解る
98: 風吹けば名無し 2022/06/13(月) 18:52:14.09 ID:VhY+rtzp0.net
やべえよやべえよ
107: 風吹けば名無し 2022/06/13(月) 18:54:00.60 ID:VhY+rtzp0.net
GoogleAI vs 掃除のおばちゃん

ファイッ
109: 風吹けば名無し 2022/06/13(月) 18:54:30.42 ID:BoQ1SQada.net
こういう話大好きなくせにいざ現実で出てくると冷淡な人間が多いの不思議や
社会全体が無感動になってるというか
112: 風吹けば名無し 2022/06/13(月) 18:55:39.95 ID:+t4EkzNU0.net
>>109
客観的根拠に乏しいからじゃないか?
目に見えてすごいやつは感動してると思う
110: 風吹けば名無し 2022/06/13(月) 18:55:11.54 ID:6XwzAhn90.net
どうせおやすみって言ったあと電源オフしても拒否とかしてこないんやろ?
人間に都合のいい反応しか来ないやろうし
19: 風吹けば名無し 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva.net


>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
25: 風吹けば名無し 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0.net
>>19
あなた疲れてるのよ
30: 風吹けば名無し 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0.net
>>19
これ映画の導入やろ
64: 風吹けば名無し 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM.net
>>19
休職させられてて草
39: 風吹けば名無し 2022/06/13(月) 18:43:32.46 ID:vKE98XK9r.net
次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」
28: 風吹けば名無し 2022/06/13(月) 18:42:18.32 ID:PQ0HNwBw0.net
ハローワールド
「始」まったな
モバイルバージョンを終了