何故そうなる？
1: それでも動く名無し 2026/06/13(土) 01:01:49.70 ID:sVYaHhN90
やっぱAIに裁判は無理だわ
2: それでも動く名無し 2026/06/13(土) 01:03:41.98 ID:sVYaHhN90
何度も念押ししたらまた存在しない判例を出してきて草
3: それでも動く名無し 2026/06/13(土) 01:06:15.19 ID:sVYaHhN90
これは違法ですか？
↓
AI「違法です」
↓
判例は？
↓
AI「判例はこれです」
↓
そんな判例ないけど？
↓
AI「すみません！そんな判例ありません！」
↓
じゃあ違法じゃないの？
↓
AI「いいえ、違法です」
↓
判例は？
↓
AI「判例はこれです（存在しない判例）」
↓
AI「違法です」
↓
判例は？
↓
AI「判例はこれです」
↓
そんな判例ないけど？
↓
AI「すみません！そんな判例ありません！」
↓
じゃあ違法じゃないの？
↓
AI「いいえ、違法です」
↓
判例は？
↓
AI「判例はこれです（存在しない判例）」
5: それでも動く名無し 2026/06/13(土) 01:12:11.57 ID:3zpoQtGX0
あいつら、もっともらしいこというだけやからな
6: それでも動く名無し 2026/06/13(土) 01:12:23.72 ID:4omzpsJx0
>AI「判例はこれです」
どんな感じで回答に判例あるって言ってくるんや
存在しないってことは最高裁のサイトのリンク張るわけやないんやろ
どんな感じで回答に判例あるって言ってくるんや
存在しないってことは最高裁のサイトのリンク張るわけやないんやろ
7: それでも動く名無し 2026/06/13(土) 01:16:16.70 ID:sVYaHhN90
>>6
昭和40年何月何日最高裁決定
事案 劇団員Aが劇団員Bをどうたらこうたら
判例 Aの行為はなんたら罪にあたる
みたいなのをそっくり捏造してきた
昭和40年何月何日最高裁決定
事案 劇団員Aが劇団員Bをどうたらこうたら
判例 Aの行為はなんたら罪にあたる
みたいなのをそっくり捏造してきた
13: それでも動く名無し 2026/06/13(土) 01:22:50.88 ID:4omzpsJx0
>>7
それっぽく書いてくるあたりタチ悪いな
細かくは刑事の最高裁判例なら刑集○○とかつくんやけどな
ちゃんと検索して判例の存否を確認してるのはええことやで
それっぽく書いてくるあたりタチ悪いな
細かくは刑事の最高裁判例なら刑集○○とかつくんやけどな
ちゃんと検索して判例の存否を確認してるのはええことやで
8: それでも動く名無し 2026/06/13(土) 01:18:03.83 ID:OMGlCYe40
プロンプトが悪い、それかモデル
11: それでも動く名無し 2026/06/13(土) 01:21:05.08 ID:1oyoH1z70
プロンプトが多分悪いんよな
AIの回答の正確性は自分の質問の正確性に依存しとるって割とマジやからな
AIの回答の正確性は自分の質問の正確性に依存しとるって割とマジやからな
14: それでも動く名無し 2026/06/13(土) 01:23:04.05 ID:sVYaHhN90
>>11
判例を見せろというプロンプトで存在しない判例を見せられた場合プロンプトが悪いんか？
判例を見せろというプロンプトで存在しない判例を見せられた場合プロンプトが悪いんか？
22: それでも動く名無し 2026/06/13(土) 01:31:43.40 ID:1oyoH1z70
>>14
そんだけだとするならプロンプトが悪いな
そんだけだとするならプロンプトが悪いな
40: それでも動く名無し 2026/06/13(土) 02:19:46.61 ID:q3dJlhEU0
>>14
存在する判例を見せろって書くべきだったんじゃないか
存在する判例を見せろって書くべきだったんじゃないか
57: それでも動く名無し 2026/06/13(土) 04:44:18.49 ID:C8kWHgjd0
>>40
存在しない判例って言葉がおかしいやろ
判例の意味は過去の判決の実例だぞ
つまり判例を出せで存在するを兼ねてる
存在しない判例って言葉がおかしいやろ
判例の意味は過去の判決の実例だぞ
つまり判例を出せで存在するを兼ねてる
9: それでも動く名無し 2026/06/13(土) 01:18:57.00 ID:dmeW7IdD0
出典元に架空の文献引っ張ってくるとか聞いたことあるな
使い方次第ではポンコツやね
使い方次第ではポンコツやね
10: それでも動く名無し 2026/06/13(土) 01:19:37.38 ID:3zpoQtGX0
プロンプト工夫しても法律とかのファクトチェックは平気で嘘つくんやがどうすればいい？
12: それでも動く名無し 2026/06/13(土) 01:22:43.89 ID:3zpoQtGX0
どんだけ条件ガチガチに指定しても無い判例錬成してくるのはプロンプトの問題じゃない気がするわ
15: それでも動く名無し 2026/06/13(土) 01:23:43.45 ID:CEG41M7T0
ハルシネーションくらいで切れんなよ
16: それでも動く名無し 2026/06/13(土) 01:27:33.21 ID:b2yaTGfGr
専門知識要るやつは一般AIに聞かん方がええやろ
専用に学習させたやつでないと
専用に学習させたやつでないと
19: それでも動く名無し 2026/06/13(土) 01:30:18.58 ID:sVYaHhN90
>>16
まあ俺は法学部で最低限のことを勉強してるから見破れるけど一般人は被害に遭うやろな
まあ俺は法学部で最低限のことを勉強してるから見破れるけど一般人は被害に遭うやろな
18: それでも動く名無し 2026/06/13(土) 01:29:44.72 ID:3zpoQtGX0
専用のやつでもたまにやらかすから結局自分でググる羽目になる
20: それでも動く名無し 2026/06/13(土) 01:30:53.57 ID:7gk7Ts81H
これガチで言ってくるよな
例えば何か探しててサイトのURL出せって言うと平気でデタラメ言ってくる
例えば何か探しててサイトのURL出せって言うと平気でデタラメ言ってくる
23: それでも動く名無し 2026/06/13(土) 01:34:07.99 ID:7Nb0/Lq40
珍しい日本のお祭りについてGeiminiに質問してたらいきなり架空の神事をでっち上げて解説し始めたから怖かった
何やねん神社の祭殿を深夜に竹の棒でしばき倒す祭りって
何やねん神社の祭殿を深夜に竹の棒でしばき倒す祭りって
39: それでも動く名無し 2026/06/13(土) 02:14:29.97 ID:yCXHjiKY0
>>23
めっちゃありそう
めっちゃありそう
24: それでも動く名無し 2026/06/13(土) 01:35:40.38 ID:aSYQhLu10
GEMINIは完全に置いてきぼりだからもう数ヶ月触ってないわ
25: それでも動く名無し 2026/06/13(土) 01:37:59.96 ID:608ASc9F0
自分の専門分野の話すると大体ヤバい事が分かるんやないか
AIは作業サポートツールでなんでも質問所やないねんな
AIは作業サポートツールでなんでも質問所やないねんな
26: それでも動く名無し 2026/06/13(土) 01:38:26.53 ID:7gk7Ts81H
ちょっと使う分には便利だけど信頼性ないからあんまり良くないわ
結局二度手間になるから最近は使わんくなった
結局二度手間になるから最近は使わんくなった
28: それでも動く名無し 2026/06/13(土) 01:42:43.16 ID:7gk7Ts81H
結局はそれらしい回答してるだけのポンコツなんよな
素人目だとAIイラストがなんかおかしいの分かりやすいだろうけど、普通のチャット系AIも根本的にどこかおかしい
素人目だとAIイラストがなんかおかしいの分かりやすいだろうけど、普通のチャット系AIも根本的にどこかおかしい
30: それでも動く名無し 2026/06/13(土) 01:48:31.80 ID:1oyoH1z70
糞ポンコツでしょっちゅう間違えるけどレスポンスだけは早い部下に調べものさせるとして、どうやったら正確な情報を得られるか？
って考えてプロンプト考えたら割とマシになるで
って考えてプロンプト考えたら割とマシになるで
33: それでも動く名無し 2026/06/13(土) 01:57:36.83 ID:HFIYs/zqx
ハルシネーションを暫く泳がせてそこからネチネチ問い詰めて追い詰めるのが好きや
36: それでも動く名無し 2026/06/13(土) 02:02:21.85 ID:UkgMNjbW0
最近はなんかググったらAIが概要まとめてくれるけどワイが分かる範囲でもそれ間違ってるやろってのへーきで表示するもんなあ
38: それでも動く名無し 2026/06/13(土) 02:08:51.14 ID:qFGmVHQn0
>>36
概要マジでいらんわ
天下のグーグルなら誤情報拡散リスクなくなるまで積極的になるべきではないと思うが
概要マジでいらんわ
天下のグーグルなら誤情報拡散リスクなくなるまで積極的になるべきではないと思うが
41: それでも動く名無し 2026/06/13(土) 02:20:05.68 ID:XKxedZdA0
上手に相手を騙すには嘘に本当の事を交えて説明するのが効果的らしいからな
それだけにAIの不完全な回答はたちが悪い
それだけにAIの不完全な回答はたちが悪い
43: それでも動く名無し 2026/06/13(土) 02:26:57.42 ID:3zpoQtGX0
Google「検索の手間省くためにAIが最上位に概要まとめといたぞ！」
ユーザー「内容デタラメやんけ」
Google「嘘を嘘と見抜けぬ者に検索エンジンを使うのは難しい」
ユーザー「内容デタラメやんけ」
Google「嘘を嘘と見抜けぬ者に検索エンジンを使うのは難しい」
46: それでも動く名無し 2026/06/13(土) 02:40:25.48 ID:XKpbgGE1M
AIは補正やったり創作なら任せてもええけど平気で嘘つくんやから話半分でソースは自分でチェックせんと
51: それでも動く名無し 2026/06/13(土) 03:29:02.14 ID:bLae1y0t0
雑に同調してきがちで役に立たんこと多い
58: それでも動く名無し 2026/06/13(土) 04:45:44.49 ID:TO5MC9O40
人間の脳みそを本当に再現したら「はーめんどくせ適当でええやろ」が大半だから多少はね
59: それでも動く名無し 2026/06/13(土) 04:52:22.17 ID:skEitMEr0
>>58
いや全く違うけど
いや全く違うけど
引用元:・https://nova.5ch.io/test/read.cgi/livegalileo/1781280109/
コメント
米国企業の決算発表日聞いたら
間違った日にち言ってきたからなｗ
どうやったら間違えんねんって聞いたら
例年はその時期だったから間違えたとかほざかれたわ
指示の仕方が悪い。
API使ってe-govを引っ張ってきた方がマシ。
生成AIは文章が破綻しない事に注力していて、情報の正確性は感知しない（正解が解らないから）。
学習データの量を確保する段階が終わったところだからな
これから質に入っていったら変わるだろ
今はまだアンソロピックがいち早く質の問題に行き着いた段階
AIてヨイショしかしてこないから使って無いわ
ワイが自身のミスに気付かず話進めてしまってもそのミスに迎合してウソ盛ってくる
GitHub全部理解してねーだろと問い詰めても理解してまーすｗだし
秋刀魚と鯖と鱒系の魚区別もつかんGeminiはゴミ
最初に捏造するな、迎合するな、オウム返しするな、etcと宣言しないと
それでもいい加減な時が多々ある
プロンプトが悪い=使い手の問題
Geminiの癖を把握す迄使わないとね
ハルシネーション抑えさせる指示出せば大体は防げるけど
そもそもソースが何かを自分で調べるって工程を挟んでない時点でAIの使い方下手くそ
Wikipediaに載ってる情報を鵜呑みにしちゃうタイプはAIで調べ物するのやめとけ
使い方が下手すぎるだろ
所詮ツールなんだから使うヤツしだいよ
冷静に第三者目線で回答するように縛ったり工夫が必要
指示の仕方が下手なんだよ
AIはネットを見てきた情報の多数決と、とりあえず答えを要約で何パターンか提示して質問者がどれをクリックして見たかを観察して質問者が正しと受け入れそうな答えのパターンの順位付けをしてるだけだから。
正しいかどうかなんてのを判断する能力はない。
捏造するなって指示しても捏造するからな。一番苛ついたのはハイドロハイター買えって言われた時だな。薬局行ってないって言われて調べたらだいぶ前に生産終了してんの