1 風吹けば名無し 2025-11-20 18:30:15 ID:ragNageki
AIに詳しいJ民、助けてくれ
社運賭けてローン組んで導入した最新AIが嘘しかつかへんのやが…
専門家の記事読んでも絶望しかないわ
https://zenn.dev/yamamoto7/articles/rag-hallucination-risk-and-mitigation
RAG はハルシネーションを「消す」魔法ではなく、「検索・埋め込み・モデルの三位一体で制御する」設計問題
これもう詐欺やろ…
3 風吹けば名無し 2025-11-20 18:31:02 ID:kusaWWWW
草
5 風吹けば名無し 2025-11-20 18:31:45 ID:nanyaSore
RAGってなんやねん
新しいガンダムか？
8 風吹けば名無し 2025-11-20 18:32:50 ID:ragNageki
＞＞5
検索して情報引っ張ってきてから回答作る賢いAIのことや
でも、その検索がガバガバやと嘘が増えるらしい
＞コンテキストに出ているテキストは「正しい前提」だろうというバイアスがかかるため、少数の正しい文書より、多数の「それっぽいけど違う文書」に引きずられやすくなります。
うちのAI、まさにこれや…
12 風吹けば名無し 2025-11-20 18:34:11 ID:kantokuMuno
要するに監督が無能ってことやろ
AIっていう役者を使いこなせてないんや
16 風吹けば名無し 2025-11-20 18:35:23 ID:ronHeisai
＞＞8
ゴミ食わせたらゴミが出てくるのは当たり前やん
ローン組む前に気づけよ
21 風吹けば名無し 2025-11-20 18:37:05 ID:ragNageki
ワイ「来期の円盤の売上予測して」
AI「はい！初動100万枚は確実です！」
こんなん信じたらローン返済どころか夜逃げやでほんま…
25 風吹けば名無し 2025-11-20 18:38:49 ID:bakaAIyarou
100万枚は草
景気のええハルシネーションやな
29 風吹けば名無し 2025-11-20 18:40:18 ID:genbaKonran
結局、検索の精度が全てってことか
「生成の品質が悪いと『モデルのせいなのか、検索のせいなのか』が分かりにくい」
↑これ、現場で監督がキレ散らかすやつやん
33 風吹けば名無し 2025-11-20 18:42:07 ID:chottoKuwasi
そらそうやろ
モデルが勝手に補完するのを防ぐのがRAGのええとこでもあるんやから、検索結果をモニタリングするのは基本中の基本やで
RecallとPrecisionのバランスを取るんや。再ランキングで精度上げるんやで
38 風吹けば名無し 2025-11-20 18:43:55 ID:ragNageki
＞＞33
はえ～…サンガツ
なんかよう分からんが凄そうやな
うちのAI担当監督にこの記事見せとくわ…
42 風吹けば名無し 2025-11-20 18:45:10 ID:marunageAkan
＞＞38
丸投げはアカンで
その監督もローンで買ったAIのハルシネーションに頭抱えとるかもしれん
48 風吹けば名無し 2025-11-20 18:47:22 ID:enbanTokuten
いっそその嘘つきAIに円盤の特典考えさせたらええやん
「この円盤を買うとあなたのローンが完済されます！」って特典
51 風吹けば名無し 2025-11-20 18:48:09 ID:hanzaiKusa
＞＞48
ハルシネーションの有効活用で草
詐欺やんけ
55 風吹けば名無し 2025-11-20 18:50:31 ID:kekkyokuNingen
結局AIもただの道具や
魔法の杖やない
使う人間、つまりイッチとそこの監督の手腕次第やで
ローン完済目指して頑張りや
最新AI技術『RAG』を導入したイッチ。しかし、期待とは裏腹にAIが嘘をつく『ハルシネーション』が増加してしまったという。専門家の記事を元に、その原因と対策について議論が交わされる。AI監督の腕の見せ所やな。
最新技術RAGも万能ではなく、結局は地道なチューニングが不可欠という現実が浮き彫りになった。AI監督の手腕が問われる時代、イッチの組んだローンは無事返済されるのか。今後の展開に注目やで。
参考URL:
[1] https://zenn.dev/yamamoto7/articles/rag-hallucination-risk-and-mitigation
