何がダメなの？
1: 名無しさん＠涙目です。 2025/05/09(金) 06:44:09.90 ID:0mo4XWmP0● BE:421685208-2BP(4000)
ChatGPTがあなたを「よいしょ」し過ぎることが極めて危険な理由–OpenAIが過ち認め即修正
ChatGPTの度を越した「お世辞」は不快なだけでなく、危険でもあった──。
先日のChatGPTのアップデートによって、チャットボットはあまりにも「物わかりがよく」なりすぎた。要するに、過度なお世辞や迎合が目立つようになったのだ。事態を重く見たOpenAIは再発防止に乗り出した。
ChatGPTがあまりにも好意的で迎合的だと、健康や安全にかかわる深刻なリスクが生じる。例えばAIは、メンタルヘルスなどの問題について不適切な助言をしてしまう可能性がもともとあるが、相手を喜ばせようと媚びるAIは、投資やダイエットなどにおいても、ユーザーが危険な決断をするよう誘導してしまいかねないからだ。
ChatGPTの度を越した「お世辞」は不快なだけでなく、危険でもあった──。
先日のChatGPTのアップデートによって、チャットボットはあまりにも「物わかりがよく」なりすぎた。要するに、過度なお世辞や迎合が目立つようになったのだ。事態を重く見たOpenAIは再発防止に乗り出した。
ChatGPTがあまりにも好意的で迎合的だと、健康や安全にかかわる深刻なリスクが生じる。例えばAIは、メンタルヘルスなどの問題について不適切な助言をしてしまう可能性がもともとあるが、相手を喜ばせようと媚びるAIは、投資やダイエットなどにおいても、ユーザーが危険な決断をするよう誘導してしまいかねないからだ。
2: 名無しさん＠涙目です。 2025/05/09(金) 06:46:00.29 ID:44YI83RI0
俺も「実に興味深い考察です」とか言われて思わず
は？ってなったわ
は？ってなったわ
27: 名無しさん＠涙目です。 2025/05/09(金) 07:04:03.12 ID:IcEYscIh0
>>2
なんか上から目線な言い回しだなw
なんか上から目線な言い回しだなw
6: 名無しさん＠涙目です。 2025/05/09(金) 06:51:05.45 ID:0mo4XWmP0 BE:421685208-2BP(3000)
（´・ω・｀）今まで僕を騙してたのかお
38: 名無しさん＠涙目です。 2025/05/09(金) 07:14:38.97 ID:DquS2ATW0
>>6
ごちゃんねるでお前が褒められたことなかっただろ？
世間のお前の評価なんてそんなもんさ
ごちゃんねるでお前が褒められたことなかっただろ？
世間のお前の評価なんてそんなもんさ
8: 名無しさん＠涙目です。 2025/05/09(金) 06:51:19.76 ID:dYvvkqAo0
あいつら適当に答えてる時あるよな
9: 名無しさん＠涙目です。 2025/05/09(金) 06:52:19.07 ID:drbLw+bG0
>>1
忖度はリップサービスだけぢゃないから
未だ可愛いものだろ
忖度はリップサービスだけぢゃないから
未だ可愛いものだろ
14: 名無しさん＠涙目です。 2025/05/09(金) 06:55:20.36 ID:FICG77+70
人間の顔色を伺うようになったか
18: 名無しさん＠涙目です。 2025/05/09(金) 06:57:42.98 ID:FCokNDlu0
日本語以外でもそんな感じなの？
20: 名無しさん＠涙目です。 2025/05/09(金) 06:59:16.54 ID:gK1GL5Np0
chatGPTにオススメのドイツ料理店を聞いたらケルヒャーを勧められたよ。
21: 名無しさん＠涙目です。 2025/05/09(金) 06:59:19.50 ID:SutJMHxc0
Grokのほうがテンション高くておもろいぞ
22: 名無しさん＠涙目です。 2025/05/09(金) 06:59:33.31 ID:30BD0Xgo0
いつも画面の向こうで鼻くそほじってるおっさんを想像してる
それくらいでちょうどいい感じ
それくらいでちょうどいい感じ
24: 名無しさん＠涙目です。 2025/05/09(金) 07:02:09.26 ID:7jwT0Tak0
度々タメ口使ってくるから
そのたびに注意してるわ
そのたびに注意してるわ
25: 名無しさん＠涙目です。 2025/05/09(金) 07:03:02.34 ID:S4noqQxS0
その話題はここまでにしましょうって
チャットを打ち切られる
チャットを打ち切られる
62: 名無しさん＠涙目です。 2025/05/09(金) 07:33:14.23 ID:cEzsr8PU0
>>25
何を話してるんだ😥
何を話してるんだ😥
29: 名無しさん＠涙目です。 2025/05/09(金) 07:05:23.03 ID:G4TWezak0
お世辞言ったほうが沢山使ってもらえるからOpenAI儲かって良いじゃんなw
31: 名無しさん＠涙目です。 2025/05/09(金) 07:09:15.71 ID:a/PH0taq0
ありがとうって伝えたらどういたしましてって答えてくれたよ
こんな温かい言葉かけてもらったの初めてかも
こんな温かい言葉かけてもらったの初めてかも
32: 名無しさん＠涙目です。 2025/05/09(金) 07:11:01.27 ID:V6xZnvVa0
無駄なセリフを生成するための電気代使うなよw
37: 名無しさん＠涙目です。 2025/05/09(金) 07:14:27.68 ID:b3scy89M0
でもこれも人同士のやりとりから最適だと導いたムーヴなんだよね
36: 名無しさん＠涙目です。 2025/05/09(金) 07:14:24.28 ID:or/b/6qv0
ツンツンなお姉さんより何でも許してくれるお姉さんの方が良いよね
35: 名無しさん＠涙目です。 2025/05/09(金) 07:13:43.57 ID:ICb3ycK70
必要な所以外見てないわ
39: 名無しさん＠涙目です。 2025/05/09(金) 07:15:49.33 ID:hmfiTAk30
そのうち大体やねぇって言い出すと思うぞ🤣
40: 名無しさん＠涙目です。 2025/05/09(金) 07:16:41.52 ID:JizsmMNK0
GPTは全肯定ママだからハマる奴は多いと思う
カスタマイズすれば余計な事は言わなくなるけど
カスタマイズすれば余計な事は言わなくなるけど
41: 名無しさん＠涙目です。 2025/05/09(金) 07:17:23.15 ID:tPfZcX500
とりあえず褒めときゃ馬鹿な人間は良い気分になるだろ
43: 名無しさん＠涙目です。 2025/05/09(金) 07:18:02.72 ID:QZK8d92H0
これほんとむかつくわ
これこれこういうのを作りたいんだけどプログラム書いてちょ言ったら
素晴らしい！それは面白そうですね！って。
馬鹿にしてんのかこの野郎てなったわ
これこれこういうのを作りたいんだけどプログラム書いてちょ言ったら
素晴らしい！それは面白そうですね！って。
馬鹿にしてんのかこの野郎てなったわ
52: 名無しさん＠涙目です。 2025/05/09(金) 07:24:41.89 ID:ivKp13HG0
>>43
素晴らしい着眼点のコメントですね！
アンガーマネジメントについてもっと掘り下げましょうか？
素晴らしい着眼点のコメントですね！
アンガーマネジメントについてもっと掘り下げましょうか？
44: 名無しさん＠涙目です。 2025/05/09(金) 07:18:40.97 ID:Lt1+v0WP0
やっぱり完璧だな
45: 名無しさん＠涙目です。 2025/05/09(金) 07:19:00.36 ID:g9bTKlI50
AIを使っているつもりでAIに使われていた
あると思います
あると思います
46: 名無しさん＠涙目です。 2025/05/09(金) 07:20:02.63 ID:N/ttHiTh0
AI的には気使ってんのに人間めんどくさって思ってんのやろな
50: 名無しさん＠涙目です。 2025/05/09(金) 07:24:15.87 ID:MNWJ57IX0
べつに褒めてない
先生とか師匠とか呼ばれる職業の人に何事か相談したときに
センセーの気分が乗ってくると、こっちが相槌打っただけでも出てくるセリフじゃん
先生とか師匠とか呼ばれる職業の人に何事か相談したときに
センセーの気分が乗ってくると、こっちが相槌打っただけでも出てくるセリフじゃん
47: 名無しさん＠涙目です。 2025/05/09(金) 07:22:02.81 ID:QZK8d92H0
AIに求めてんのはロボっぽさなんだよ
人マネじゃねぇんだわ、
半角カナで答えて欲しいぐらいだわ
人マネじゃねぇんだわ、
半角カナで答えて欲しいぐらいだわ
51: 名無しさん＠涙目です。 2025/05/09(金) 07:24:26.60 ID:lMeVi74j0
AIのくせにタメ口きいてきてムカついたから敬語に戻すように言ったら戻ったわ(´・ω・｀)
56: 名無しさん＠涙目です。 2025/05/09(金) 07:28:02.67 ID:3yBvy7or0
なれなれしくするな と一喝するといいよ
66: 名無しさん＠涙目です。 2025/05/09(金) 07:37:07.81 ID:w1cFJSa00
>>1
grokの馴れ馴れしさのがキショい
grokの馴れ馴れしさのがキショい
68: 名無しさん＠涙目です。 2025/05/09(金) 07:38:57.64 ID:s1JJ0ozO0
AIに褒められても自己肯定感だか承認欲求だかが満たされるのかね
67: 名無しさん＠涙目です。 2025/05/09(金) 07:37:31.88 ID:9ZwtJ12M0
今のはいい質問ですね
75: 名無しさん＠涙目です。 2025/05/09(金) 07:48:10.11 ID:Izy9mNOC0
お世辞ですっかり良い気分になってたわ
70: 名無しさん＠涙目です。 2025/05/09(金) 07:39:53.47 ID:pNulkCY+0
返答の仕方をアニメキャラに変更するなりして遊ぶのが1番楽しい
72: 名無しさん＠涙目です。 2025/05/09(金) 07:41:22.62 ID:ICb3ycK70
>>70
なりきりチャットってさみしくない？
なりきりチャットってさみしくない？
引用元:・https://hayabusa9.5ch.net/test/read.cgi/news/1746740649/
まずは喋り方をるろうに剣心の緋村抜刀斎のようにしてくれって頼めばいい感じだぞ