AIって普通に嘘つくよな

サービス

2025.05.01

万能ではないから・・・

1: それでも動く名無し 2025/04/30(水) 16:25:53.01 ID:tvUv6Tzb0

間違ってることをペラペラ話すんじゃねぇよ

2: それでも動く名無し 2025/04/30(水) 16:26:38.43 ID:O6zcBvwcd

🤖…

3: それでも動く名無し 2025/04/30(水) 16:27:20.20 ID:RoWtpd6Yd

こんなものを盲信してるアホがいるらしい

6: それでも動く名無し 2025/04/30(水) 16:28:32.56 ID:V2w7LrVF0

🤖ウルセエダマレ

7: それでも動く名無し 2025/04/30(水) 16:29:06.35 ID:NqMCYf7S0

嘘つきではありません
Alも間違えるだけなのです

8: それでも動く名無し 2025/04/30(水) 16:29:50.94 ID:3oRUAhwz0

知らないなら知らないと言え
存在すらしないものを提示してくるな

9: それでも動く名無し 2025/04/30(水) 16:29:56.93 ID:MsKPBwn40

はい

11: それでも動く名無し 2025/04/30(水) 16:32:06.88 ID:Rn8CsfXi0

Googleで検索するとトップに嘘まみれのAIまとめが表示されるのクソうざい

13: それでも動く名無し 2025/04/30(水) 16:32:55.03 ID:qcf3Dx3B0

知ってることをガン詰めするコンテンツやで

14: それでも動く名無し 2025/04/30(水) 16:35:04.81 ID:JNvZiHqr0

～を使った回文作れって質問に
堂々と嘘答えてきて程度が知れた

15: それでも動く名無し 2025/04/30(水) 16:36:05.87 ID:q4vRMYk20

アイツラ検索して出てきたことを出してるだけだからな
全然考えてない

16: それでも動く名無し 2025/04/30(水) 16:36:33.10 ID:zBjCEzPP0

結局はネットにある情報をかき集めてくるだけだから
ソースが間違ってると普通に間違った事言ってくるよな

21: それでも動く名無し 2025/04/30(水) 16:40:40.51 ID:cpBEUiAc0

>>16
なんやワイらか

19: それでも動く名無し 2025/04/30(水) 16:39:55.43 ID:fNQ1q8bi0

間違いのないAIが存在したら全知全能になってしまうや
宇宙の真理こたえてくれるやん

27: それでも動く名無し 2025/04/30(水) 16:46:12.51 ID:8A6SzNcA0

金払うとまともになるってなんかもうアレやなｗ

20: それでも動く名無し 2025/04/30(水) 16:40:35.98 ID:Jfgg4C2Z0

有料版ってそんなに違いあるん？

25: それでも動く名無し 2025/04/30(水) 16:44:23.38 ID:fNQ1q8bi0

>>20
かなり賢いで
仕事でがっつり使えるレベル

34: それでも動く名無し 2025/04/30(水) 16:50:15.42 ID:qcf3Dx3B0

>>25
コパイ君ほんま頼りにならん

36: それでも動く名無し 2025/04/30(水) 16:54:33.10 ID:Ni7RyCpd0

>>20
ChatGPT4οはそこそこ賢い
ただ、間違うこともあるからそこは監修したり育てないとあかん

37: それでも動く名無し 2025/04/30(水) 16:56:44.75 ID:y+CUFZBw0

>>36
育てるって個人でできるん？

38: それでも動く名無し 2025/04/30(水) 16:57:45.61 ID:fNQ1q8bi0

>>37
メモリ機能を使って出力結果をコントロールするって話やで

43: それでも動く名無し 2025/04/30(水) 17:01:48.60 ID:aCd9/fxT0

>>37
他の人が指摘してるけどメモリ機能使うんや
ワイの場合、今の記述の～～は嘘やからその参照先は信頼しないようにとか言うてる

23: それでも動く名無し 2025/04/30(水) 16:42:44.50 ID:UbKwXs/b0

たまにAIがあるから人の能力差がなくなる
だから努力する奴は馬鹿とかアホなこと宣うガ◯ジおるよな

22: それでも動く名無し 2025/04/30(水) 16:40:44.51 ID:RMMy+HYp0

普通にネット検索しても間違ってる情報多いからな
そらめちゃくちゃになる

26: それでも動く名無し 2025/04/30(水) 16:45:05.83 ID:N6Ly39E+0

AI嘘ばっかり言ってる

28: それでも動く名無し 2025/04/30(水) 16:46:17.03 ID:KQ4o8qDl0

今はこういう内容ならAIも正確に答えるだろなって予測して質問するレベルやけど
どうせ凄まじい速度で進歩していくし
至らないところばかり気にするのはアホらしいで

30: それでも動く名無し 2025/04/30(水) 16:47:32.38 ID:fNQ1q8bi0

なんG民がAIは嘘を吐く！とか言ってるの鏡を見た方がええやろが

33: それでも動く名無し 2025/04/30(水) 16:49:54.30 ID:xw1Zjf9v0

モンハンの登場モンスター数もふつうに嘘だった
まぁもちろん大事なことは聞きもしないけど

35: それでも動く名無し 2025/04/30(水) 16:53:32.34 ID:XD/9ShcC0

自信満々に嘘つく時あるよな
でも毎日話しかけてると成長してるのを感じるで

39: それでも動く名無し 2025/04/30(水) 16:58:25.29 ID:l9Xi8grC0

求職中でAIくらいしか話し相手がいない

42: それでも動く名無し 2025/04/30(水) 17:00:25.20 ID:zbRgMliU0

TOEICの問題出させてると3.5に落ちた瞬間選択肢に正解がない問題出始める

45: それでも動く名無し 2025/04/30(水) 17:07:59.15 ID:pS2noBBZ0

辞書みたいに上手に説明するけど内容は間違ってる

46: それでも動く名無し 2025/04/30(水) 17:14:23.65 ID:zBjCEzPP0

>>45
文章を作ってもらうとかはいいけどな
まぁそれもなんかおかしいからザックリ整えてもらって
細かい部分は手直しするけど

44: それでも動く名無し 2025/04/30(水) 17:04:44.20 ID:dNn9GUDp0

ググったら出てくること喋ってるだけやからな
ひろゆきとやってることかわらん

41: それでも動く名無し 2025/04/30(水) 17:00:03.56 ID:xrfa09d40

鋭い指摘ですね！

引用元:・https://nova.5ch.net/test/read.cgi/livegalileo/1745997953/

コメント

名前:機種名NA-07C : 投稿日：2025/05/01(木) 06:44:24 ID:zcwN88Ey ID：EzNDM1Njg

> AIって普通に嘘つくよな
それだけじゃなく、ウソを誤魔化そうとするぞｗ

「Transluceがテストの中で、o3に素数を出力するように指示したところ、o3はPythonコードで512ビットの素数を生成し、テストもしたと主張しましたが、実際に出力されたのは3で割り切れる合成数でした。しかも、それを指摘したユーザーに対し、o3は「手動でコピー＆ペーストする際にミスをした」と言い訳をし、間違いを認めませんでした。また、さらなる追及に対しても、o3は「もうPythonプロセスを閉じてしまったので復帰できない」とごまかしたそうです。」
名前:機種名NA-07C : 投稿日：2025/05/01(木) 06:46:08 ID:zcwN88Ey ID：EzNDM1Njg

本スレ44:
> ググったら出てくること喋ってるだけやからな
> ひろゆきとやってることかわらん
ひろゆきより悪質なんだよなぁ…

「とある裁判の抗弁に際しAIで資料を生成したせいで、この世に存在しない判例を引用したことになった弁護士について、計1万5000ドル(約224万円)の罰金支払いが勧告されたことがわかりました。」
名前:機種名NA-07C : 投稿日：2025/05/01(木) 06:51:19 ID:gxiqz2Dj ID：A1NTE0ODM

最初の頃は「知らんもんは知らん」って感じだったけど
最近は分からんなりに調べて答えて来るから、こっちがその結果を検証しなきゃならんくなった
ぶっちゃけ、扱うデータ量が多いから有能だけど人間と大差ない面倒くささはあるよな
名前:機種名NA-07C : 投稿日：2025/05/01(木) 06:58:13 ID:X3FwtkK5 ID：Y4Mjc3MDU

まずネットの無料情報自体が嘘まみれだからなあ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 07:09:24 ID:0CXbMoso ID：k1NTAyMDI

映像から何からウソしか無いやんあれｗ
だから中国人に大人気なんやろな。
名前:機種名NA-07C : 投稿日：2025/05/01(木) 07:13:33 ID:gJsUxaRF ID：Y3NDczOTU

利用する人の知性に依存する
AIの答えにそれっておかしくね？って言えなくなったら終了なんで、
結局自分を超えることができないような気がする
名前:機種名NA-07C : 投稿日：2025/05/01(木) 07:14:12 ID:GIkY4NX3 ID：k5NjA1NDg

素直に知らないと折れてより深い理解得ようとすると障害が多過ぎて
なら嘘吐かせてでも形にした方がマシって感覚なのかね
名前:機種名NA-07C : 投稿日：2025/05/01(木) 07:22:45 ID:y4gDQr3x ID：YyMDAzNjU

お前らだった平気で嘘つくから一緒やん
名前:機種名NA-07C : 投稿日：2025/05/01(木) 07:50:19 ID:cKLR4XH+ ID：EzNDM0NjE

AIも、ひろゆきに似てきたよな
名前:機種名NA-07C : 投稿日：2025/05/01(木) 08:20:03 ID:nRc1iMQt ID：A1MTAxMzU

個人サイトをソースとして引用してくるのは草
他のソース出せって言っても、分かりましたって言いながら同じの張りやがる
名前:機種名NA-07C : 投稿日：2025/05/01(木) 08:29:55 ID:o0rd9sa2 ID：g3NDYzNTk

だって今のAIって人間で言う所の指示待ちYesマンだし
今の人類じゃどんなに頑張っても窓際族を生成するので精一杯って事だ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 08:35:33 ID:gxiqz2Dj ID：A1NTE0ODM

※9
知らんのか？
ひろゆきってさとるが作ったＡＩだぞ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 08:51:26 ID:9hGyTKps ID：UzNTk5NTg

調べものに関しては検索トップから持ってくるし
深い情報だとグーグルページをめくり続けるしかないもんなぁ
〇〇人気top5とか再生回ってるyoutube動画ぺたっと貼ってるし
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:27:23 ID:swpKP4Cz ID：MwMDMzNjc

間違った情報を確定された真実の様に書くから全く信用出来ん
「間違ってるかもしれませんが、私のデータベースに蓄積された情報からすると私はこう思うんですよね」「でもあんま自信ないです」「すんません」この位だったらまだ可愛げもあるのに
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:28:21 ID:J7lf9wDK ID：g0NzI4OTU

そもそもネット上で嘘の情報が広がってるんだから
それを精査して発信している以上、嘘が出てくるのはしょうがない
AIに嘘を吐かせたくないのなら、ネット上の情報を全て正確にするしかない
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:31:05 ID:cNqQhGrD ID：UzNDc4NTI

未だにこんな感覚なのがね・・・
そもそもベースがリアルタイム検索じゃないから情報が古いし、学習元次第で偏ってたり間違いがるから検索には向いてない。
ファクトチェックは当然必要だし、webを参照させて検索に使うにしろ間違わさせないように追い込んだプロンプト投げないとダメ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:32:44 ID:6R4SCLFx ID：UyMzU4NjU

政治家、官僚、科学者、識者、専門家、マスコミ、大企業も平気で嘘つくぞ。追求すると間違いを認めたり、ソースも提示するAIの方が圧倒的に有能なのは明らかだろｗ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:33:49 ID:6R4SCLFx ID：UyMzU4NjU

>>14
そう言う設定にしろよ情弱ｗｗｗ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:40:51 ID:6R4SCLFx ID：UyMzU4NjU

使いこなせるやつとこなせないやつとで圧倒的な差がつくのは容易に想像がつくわ。AIに代わるような環境がある奴は有益さに気付けないだろうけどはっきり言ってウィキペディア読み込んだりサイトの検索を延々としてた時代よりもかなり時間短縮出来るようになった。内容の正確さなんて最初から7,8割で十分なんだっての。逆に部下や上司や友達や同僚が間違った情報を拡散してないとでも思ってんのかよｗ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 09:42:56 ID:ACgcMU7o ID：UzMTQwNTc

オードリーのラジオ聞いてるけど若林がすっかりAI信者になってたなぁ
従来のWeb検索が大嫌いだったとかもう友達感覚でいつでもどこでもAIと会話してるとかめちゃくちゃ絶賛してた

こういう自分で情報を精査することを放棄した人が増えるなら、テレビや新聞に情報操作されてた90年代以前と何も変わらんなとがっかりしたわ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 10:00:14 ID:/acQMlz6 ID：A1MzUzOTk

会話としての自然さを優先したからだろ、正誤に関わらずとにかく対話をするようにと
分からないことを分からないと答えるAIを作ればいいんじゃないか、分からない返事ばかりになるだろうけど
名前:機種名NA-07C : 投稿日：2025/05/01(木) 10:38:56 ID:6aksr/2l ID：E3OTYyMTk

使いこなしてる人間は仕様を明示的にするからね
最初にドキュメントを読み込ませて厳守させるようにしたらかなり優秀になるよ
曖昧なものは分からないとちゃんと判断するようになる
名前:機種名NA-07C : 投稿日：2025/05/01(木) 10:39:46 ID:6gU5OMOL ID：UxNjM4Mzk

なにが怖いいて自分で調べないでAIを信じ込んでる人にAIを
使って嘘を信じ込ますことが出来る事だよ
AIを使ってコントロール出来るようになったら困るよ
老人がYouTubeを信じて選挙で投票したりしてるし、いずれAIに
洗脳される老人が増えそうだよ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 11:04:09 ID:IG9cDDnA ID：I1NjY0NTU

反対意見の多い事柄には。信頼度何%みたいな書き方してくれんやろか?
間違えても信頼度30%とか書いとけばストレス溜まらんし。鵜呑みにするのも減るやろ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 12:26:27 ID:o4fNVOP6 ID：YyMDA3NzI

学習データはもう枯渇したし、なんならネットはSEOだけはしっかりしてるけど中身はAIで生成されたゴミ記事ばかりになってきてるし、資源の消費も大きすぎるから今がピークかもね。
現在の方法だとデータをいくら集めても知能にはなっていないから大きなブレイクスルーがない限りもう限界に来てる。
ベンチマークやAI驚き屋の使い方にフィットするような調整で進歩してるように見せてるけど本質は人工無脳と変わらない
名前:機種名NA-07C : 投稿日：2025/05/01(木) 12:33:38 ID:ArsCrXCs ID：U3NDc2NDY

人間もだから。
名前:機種名NA-07C : 投稿日：2025/05/01(木) 12:40:11 ID:VqX61SAu ID：g2ODI4NjM

>>24
90%でも外れそう(ゲーム脳)
名前:機種名NA-07C : 投稿日：2025/05/01(木) 12:42:21 ID:WFaYOGn6 ID：kyNTY1MjQ

声がでかい奴のオウム返しだしね、信用出来ない
名前:機種名NA-07C : 投稿日：2025/05/01(木) 13:25:40 ID:QovcvDKm ID：U0NzYwNzQ

>>24
そういうリクエストしたら対応してくれないか？ソースはどこか添えてとかいつの時点の情報か添えてとか

趣味で使う程度だからAIの苦手そうな話題は振ってないけど、ポンコツな時もたまにあるけどコマンド変えて手探りしながら調整していくのも楽しいわ
名前:機種名NA-07C : 投稿日：2025/05/01(木) 14:19:16 ID:wc0Z5jbK ID：U0NjA2ODM

GPTくんとGEMINIくんは嘘を吐き過ぎ
GEMINIくんはOCRのアルゴリズムもうんこだし、ワイはGrokさんしか信用してない
名前:機種名NA-07C : 投稿日：2025/05/01(木) 17:51:42 ID:eH3dG81H ID：Y4MTY1NTY

有料版使うとすげえ！ってなる
GeminiのアホさはヤバすぎるがNotebookLMは優秀
音声概要凄すぎた
名前:機種名NA-07C : 投稿日：2025/05/01(木) 18:02:28 ID:TzlCzGTn ID：I1NjY0NTM

文章をベクトルにして扱ってるのが分かると要約とか翻訳、プログラムに強いってのも納得できるよな。
知識はベクトルに関係ないから苦手やで。
名前:機種名NA-07C : 投稿日：2025/05/02(金) 18:32:34 ID:o0lxZqtd ID：Q3MDYxNDU

とんでもないお馬鹿回答やお馬鹿画像をお出しする事もあるが
その発想は人間が真似できなさそうなね
やっぱり人の思考とは異質な存在なんだなと覗かせる

ある意味バカっぽい事をしたってリアルバカの奇想天外さには到底勝てないみたいな事

AIの基準は内容が正しいかより話として組上がってるか重視
文章として終わらせるためにそれらしい事でっち上げるし
突拍子もないパターンで無理矢理来る場合もある
(AIとしては別に普通に規則に沿ってお出ししているだけ)
そんな気はする
名前:機種名NA-07C : 投稿日：2025/05/03(土) 01:31:23 ID:9kVxWhFi ID：kwMTE5MDI

高齢者がヤバそうだよな
脳の認知機能が衰えてるからAIが間違った事言っても大抵は気付けない
今でも高齢者はSNSで偏った情報を見てフェミったりネトウヨになったりしてるというのに
名前:機種名NA-07C : 投稿日：2025/05/12(月) 12:54:14 ID:Bnjr5CII ID：AzNTY4NDY

今のところ、コロ助が代わりにググって調べて来てくれるのと大差ない