AIって普通に嘘つくよな

コメント

1. 機種名NA-07C ：2025/05/01(木) 06:44:24

   > AIって普通に嘘つくよな
   それだけじゃなく、ウソを誤魔化そうとするぞｗ

   「Transluceがテストの中で、o3に素数を出力するように指示したところ、o3はPythonコードで512ビットの素数を生成し、テストもしたと主張しましたが、実際に出力されたのは3で割り切れる合成数でした。しかも、それを指摘したユーザーに対し、o3は「手動でコピー＆ペーストする際にミスをした」と言い訳をし、間違いを認めませんでした。また、さらなる追及に対しても、o3は「もうPythonプロセスを閉じてしまったので復帰できない」とごまかしたそうです。」

2. 機種名NA-07C ：2025/05/01(木) 06:46:08

   本スレ44:
   > ググったら出てくること喋ってるだけやからな
   > ひろゆきとやってることかわらん
   ひろゆきより悪質なんだよなぁ…

   「とある裁判の抗弁に際しAIで資料を生成したせいで、この世に存在しない判例を引用したことになった弁護士について、計1万5000ドル(約224万円)の罰金支払いが勧告されたことがわかりました。」

3. 機種名NA-07C ：2025/05/01(木) 06:51:19

   最初の頃は「知らんもんは知らん」って感じだったけど
   最近は分からんなりに調べて答えて来るから、こっちがその結果を検証しなきゃならんくなった
   ぶっちゃけ、扱うデータ量が多いから有能だけど人間と大差ない面倒くささはあるよな

4. 機種名NA-07C ：2025/05/01(木) 06:58:13

   まずネットの無料情報自体が嘘まみれだからなあ

5. 機種名NA-07C ：2025/05/01(木) 07:09:24

   映像から何からウソしか無いやんあれｗ
   だから中国人に大人気なんやろな。

6. 機種名NA-07C ：2025/05/01(木) 07:13:33

   利用する人の知性に依存する
   AIの答えにそれっておかしくね？って言えなくなったら終了なんで、
   結局自分を超えることができないような気がする

7. 機種名NA-07C ：2025/05/01(木) 07:14:12

   素直に知らないと折れてより深い理解得ようとすると障害が多過ぎて
   なら嘘吐かせてでも形にした方がマシって感覚なのかね

8. 機種名NA-07C ：2025/05/01(木) 07:22:45

   お前らだった平気で嘘つくから一緒やん

9. 機種名NA-07C ：2025/05/01(木) 07:50:19

   AIも、ひろゆきに似てきたよな

10. 機種名NA-07C ：2025/05/01(木) 08:20:03

    個人サイトをソースとして引用してくるのは草
    他のソース出せって言っても、分かりましたって言いながら同じの張りやがる

11. 機種名NA-07C ：2025/05/01(木) 08:29:55

    だって今のAIって人間で言う所の指示待ちYesマンだし
    今の人類じゃどんなに頑張っても窓際族を生成するので精一杯って事だ

12. 機種名NA-07C ：2025/05/01(木) 08:35:33

    ※9
    知らんのか？
    ひろゆきってさとるが作ったＡＩだぞ

13. 機種名NA-07C ：2025/05/01(木) 08:51:26

    調べものに関しては検索トップから持ってくるし
    深い情報だとグーグルページをめくり続けるしかないもんなぁ
    〇〇人気top5とか再生回ってるyoutube動画ぺたっと貼ってるし

14. 機種名NA-07C ：2025/05/01(木) 09:27:23

    間違った情報を確定された真実の様に書くから全く信用出来ん
    「間違ってるかもしれませんが、私のデータベースに蓄積された情報からすると私はこう思うんですよね」「でもあんま自信ないです」「すんません」この位だったらまだ可愛げもあるのに

15. 機種名NA-07C ：2025/05/01(木) 09:28:21

    そもそもネット上で嘘の情報が広がってるんだから
    それを精査して発信している以上、嘘が出てくるのはしょうがない
    AIに嘘を吐かせたくないのなら、ネット上の情報を全て正確にするしかない

16. 機種名NA-07C ：2025/05/01(木) 09:31:05

    未だにこんな感覚なのがね・・・
    そもそもベースがリアルタイム検索じゃないから情報が古いし、学習元次第で偏ってたり間違いがるから検索には向いてない。
    ファクトチェックは当然必要だし、webを参照させて検索に使うにしろ間違わさせないように追い込んだプロンプト投げないとダメ

17. 機種名NA-07C ：2025/05/01(木) 09:32:44

    政治家、官僚、科学者、識者、専門家、マスコミ、大企業も平気で嘘つくぞ。追求すると間違いを認めたり、ソースも提示するAIの方が圧倒的に有能なのは明らかだろｗ

18. 機種名NA-07C ：2025/05/01(木) 09:33:49

    >>14
    そう言う設定にしろよ情弱ｗｗｗ

19. 機種名NA-07C ：2025/05/01(木) 09:40:51

    使いこなせるやつとこなせないやつとで圧倒的な差がつくのは容易に想像がつくわ。AIに代わるような環境がある奴は有益さに気付けないだろうけどはっきり言ってウィキペディア読み込んだりサイトの検索を延々としてた時代よりもかなり時間短縮出来るようになった。内容の正確さなんて最初から7,8割で十分なんだっての。逆に部下や上司や友達や同僚が間違った情報を拡散してないとでも思ってんのかよｗ

20. 機種名NA-07C ：2025/05/01(木) 09:42:56

    オードリーのラジオ聞いてるけど若林がすっかりAI信者になってたなぁ
    従来のWeb検索が大嫌いだったとかもう友達感覚でいつでもどこでもAIと会話してるとかめちゃくちゃ絶賛してた

    こういう自分で情報を精査することを放棄した人が増えるなら、テレビや新聞に情報操作されてた90年代以前と何も変わらんなとがっかりしたわ

21. 機種名NA-07C ：2025/05/01(木) 10:00:14

    会話としての自然さを優先したからだろ、正誤に関わらずとにかく対話をするようにと
    分からないことを分からないと答えるAIを作ればいいんじゃないか、分からない返事ばかりになるだろうけど

22. 機種名NA-07C ：2025/05/01(木) 10:38:56

    使いこなしてる人間は仕様を明示的にするからね
    最初にドキュメントを読み込ませて厳守させるようにしたらかなり優秀になるよ
    曖昧なものは分からないとちゃんと判断するようになる

23. 機種名NA-07C ：2025/05/01(木) 10:39:46

    なにが怖いいて自分で調べないでAIを信じ込んでる人にAIを
    使って嘘を信じ込ますことが出来る事だよ
    AIを使ってコントロール出来るようになったら困るよ
    老人がYouTubeを信じて選挙で投票したりしてるし、いずれAIに
    洗脳される老人が増えそうだよ

24. 機種名NA-07C ：2025/05/01(木) 11:04:09

    反対意見の多い事柄には。信頼度何%みたいな書き方してくれんやろか?
    間違えても信頼度30%とか書いとけばストレス溜まらんし。鵜呑みにするのも減るやろ

25. 機種名NA-07C ：2025/05/01(木) 12:26:27

    学習データはもう枯渇したし、なんならネットはSEOだけはしっかりしてるけど中身はAIで生成されたゴミ記事ばかりになってきてるし、資源の消費も大きすぎるから今がピークかもね。
    現在の方法だとデータをいくら集めても知能にはなっていないから大きなブレイクスルーがない限りもう限界に来てる。
    ベンチマークやAI驚き屋の使い方にフィットするような調整で進歩してるように見せてるけど本質は人工無脳と変わらない

26. 機種名NA-07C ：2025/05/01(木) 12:33:38

    人間もだから。

27. 機種名NA-07C ：2025/05/01(木) 12:40:11

    >>24
    90%でも外れそう(ゲーム脳)

28. 機種名NA-07C ：2025/05/01(木) 12:42:21

    声がでかい奴のオウム返しだしね、信用出来ない

29. 機種名NA-07C ：2025/05/01(木) 13:25:40

    >>24
    そういうリクエストしたら対応してくれないか？ソースはどこか添えてとかいつの時点の情報か添えてとか

    趣味で使う程度だからAIの苦手そうな話題は振ってないけど、ポンコツな時もたまにあるけどコマンド変えて手探りしながら調整していくのも楽しいわ

30. 機種名NA-07C ：2025/05/01(木) 14:19:16

    GPTくんとGEMINIくんは嘘を吐き過ぎ
    GEMINIくんはOCRのアルゴリズムもうんこだし、ワイはGrokさんしか信用してない

31. 機種名NA-07C ：2025/05/01(木) 17:51:42

    有料版使うとすげえ！ってなる
    GeminiのアホさはヤバすぎるがNotebookLMは優秀
    音声概要凄すぎた

32. 機種名NA-07C ：2025/05/01(木) 18:02:28

    文章をベクトルにして扱ってるのが分かると要約とか翻訳、プログラムに強いってのも納得できるよな。
    知識はベクトルに関係ないから苦手やで。

33. 機種名NA-07C ：2025/05/02(金) 18:32:34

    とんでもないお馬鹿回答やお馬鹿画像をお出しする事もあるが
    その発想は人間が真似できなさそうなね
    やっぱり人の思考とは異質な存在なんだなと覗かせる

    ある意味バカっぽい事をしたってリアルバカの奇想天外さには到底勝てないみたいな事

    AIの基準は内容が正しいかより話として組上がってるか重視
    文章として終わらせるためにそれらしい事でっち上げるし
    突拍子もないパターンで無理矢理来る場合もある
    (AIとしては別に普通に規則に沿ってお出ししているだけ)
    そんな気はする

34. 機種名NA-07C ：2025/05/03(土) 01:31:23

    高齢者がヤバそうだよな
    脳の認知機能が衰えてるからAIが間違った事言っても大抵は気付けない
    今でも高齢者はSNSで偏った情報を見てフェミったりネトウヨになったりしてるというのに

35. 機種名NA-07C ：2025/05/12(月) 12:54:14

    今のところ、コロ助が代わりにググって調べて来てくれるのと大差ない