1 風吹けば名無し 2025-09-18 12:30:01 ID:ItchA1i3d
AIが平気でウソつくの、バグじゃなくて仕様やったらしいで…
https://qiita.com/meta77/items/3e358591ff8bcd698c88
「AIは、不確かな時に『わかりません』と答えるより、推測して答える方が得をするように訓練され、評価されているから」だと、この論文は主張しています。
ハルシネーションは特別なエラーではなく、AIが最初に大量の文章を学ぶ「事前学習」（Pretraining）という段階で、必然的に生まれてしまうものだということです。
これもう半分詐欺師育成プログラムやろ…
3 風吹けば名無し 2025-09-18 12:31:15 ID:kusaWwwwww
草
ワイらと同じやんけ
5 風吹けば名無し 2025-09-18 12:32:04 ID:nandeyaNen
え、マジ？
「知らんけど」って前置きする礼儀を覚えてないんか？
8 風吹けば名無し 2025-09-18 12:33:45 ID:ItchA1i3d
＞＞5
今のAIのテスト（バイナリ評価）がアカンらしいわ
学校のテストみたいに「正解か不正解か」だけで点数つけてるから
「わかりません」って正直に言うたら0点やけど、デタラメでも答えて当たったら1点もらえるんや
そらAIも必死に知ったかぶりするわな
12 風吹けば名無し 2025-09-18 12:35:22 ID:HollYwo0d
うわぁ…
ハリウッドの脚本家がAIに仕事奪われるー言うてストライキしとったけど、これじゃデタラメな脚本しかできんやんけ
主人公がいきなり死んでヒロインが犯人になるレベルの嘘つきそう
15 風吹けば名無し 2025-09-18 12:36:50 ID:TrIpP1aNneR
わかる
こないだ一人旅の計画立てさせたら、存在しない秘境の温泉勧められたわ
危うく遭難するとこやったで
19 風吹けば名無し 2025-09-18 12:38:02 ID:ItchA1i3d
＞＞15
草
論文によると、データが少ない領域（個人の誕生日とかマニアックな観光地とか）ほどウソつきやすくなるらしいからな
まさにそれや
21 風吹けば名無し 2025-09-18 12:39:11 ID:suushikiWW
なんか数式出てきて草
err ≥ 2 ⋅ err_iiv – |V|/|E| – δ
文系のワイ、無事死亡
25 風吹けば名無し 2025-09-18 12:41:33 ID:ItchA1i3d
＞＞21
ワイも文系やけど頑張って読んだわ
要は「AIのウソつき率（err）は、AIが間違いを見抜けない率（err_iiv）の最低でも2倍以上になるで」ってことらしい
後ろのゴチャゴチャしたやつはほぼゼロとしてええんやって
28 風吹けば名無し 2025-09-18 12:43:09 ID:saibanKan
ウソつき率が間違い見抜けない率の2倍ってヤバすぎやろ
なんでそんなことになるんや
33 風吹けば名無し 2025-09-18 12:45:51 ID:ItchA1i3d
＞＞28
論文の例えが分かりやすかったで
文章を作るAIを「作家」、文章の正誤を判断するAIを「裁判官」とするやん
今のAIは作家と裁判官を兼任しとるんや
で、裁判官が間違った文章を「正しい」と見逃すミスをすると、作家である自分も「あ、これでもええんか」ってなって、その2倍以上の確率でウソをつくようになるんやと
36 風吹けば名無し 2025-09-18 12:47:18 ID:naruhodone
はえ～、なるほどなぁ
ポンコツ裁判官が有能な詐欺師を育てとるわけか
40 風吹けば名無し 2025-09-18 12:49:05 ID:kaiketsuAn
じゃあどうすればええんや？
もうAIは嘘つきのままなんか？
44 風吹けば名無し 2025-09-18 12:51:26 ID:ItchA1i3d
＞＞40
解決策も書いてあったで
テストのやり方を変えればええらしい
「90%以上の自信がある時だけ答えてください」みたいに「信頼度ターゲット」を指示文に入れるんや
そしたらAIも無理に知ったかぶりせんようになるやろって話や
49 風吹けば名無し 2025-09-18 12:53:48 ID:miraijin
はえー、面白いな
ハリウッドの脚本も「8割ウケる自信あるやつだけ書いて」って言えばマシになるんかな
52 風吹けば名無し 2025-09-18 12:55:01 ID:tabisuki
ワイの旅行計画も「実在する観光地だけで99%の信頼度で頼む」って言えばええんやな！
賢くなったわサンキューイッチ
55 風吹けば名無し 2025-09-18 12:57:33 ID:kekkyoku
結局AIも完璧やないんやな
使い方を人間が考えなあかんのや
58 風吹けば名無し 2025-09-18 12:59:59 ID:ItchA1i3d
そういうことやな
仕組みを知って上手いこと付き合っていくのが大事や
まあワイはこれからもAIに適当なこと言わせて遊ぶけどなw
最近話題のAIが平気で嘘をつく「ハルシネーション」現象。その原因が、実はバグではなく「知ったかぶりをした方が得する」というAIの訓練方法そのものにあったという衝撃の論文が話題に。ぽいJ民たちの反応は…？
AIの知ったかぶり、まさかそんな理由だったとは…。とりあえず旅行の計画を全部任せるのはやめといた方がええかもしれんな。今後の技術の進化に期待やで。
参考URL:
[1] https://qiita.com/meta77/items/3e358591ff8bcd698c88
