1 イッチ 2025-09-04 12:00:00 ID:ItchMASTER
おい、お前ら大変なことになっとるで。
AIの進化がヤバすぎて草も生えん。
こんな記事見つけたんやが…
https://qiita.com/YuonHirose417/items/526221c171a96c59da0d
LLMはクッソ大量の文章データから『次に来る単語』を予測するAIモデルのことや。
OpenAIのGPTとかGoogleのGeminiが有名やな。
ただ、学習データにない最新情報とか社外秘の情報は知らんから平気で嘘つく『ハルシネーション』って弱点があるんや。
あと悪いやつに『プロンプトインジェクション』されるとヤバい情報吐かされたりするらしいで。
これもうワイらの仕事を奪うための戦争兵器やろ…
3 風吹けば名無し 2025-09-04 12:02:15 ID:aaaBBbccc
またAIスレか
もう聞き飽きたンゴ
5 風吹けば名無し 2025-09-04 12:03:30 ID:dddEEfeee
ハルシネーションってなんや？
知ったかぶりするポンコツってことか？w
8 イッチ 2025-09-04 12:05:01 ID:ItchMASTER
＞＞5
せやで。学習データにないことは平気で嘘つく鬼畜仕様や
会社の機密情報とか新しいニュースは苦手らしい
12 風吹けば名無し 2025-09-04 12:08:45 ID:fffGGhggg
てことはワイの鍵垢での愚痴はまだバレてない…ってコト！？
セーフやな！
15 風吹けば名無し 2025-09-04 12:10:11 ID:hhhIIjiii
プロンプトインジェクションって要はAIを洗脳するってことやろ？
これもうサイバー戦争の始まりやんけ
21 風吹けば名無し 2025-09-04 12:15:23 ID:jjjKKlkkk
RAGとかいうので弱点克服できるって書いてあるやん
結局は人間の使い方次第やろ
25 イッチ 2025-09-04 12:18:50 ID:ItchMASTER
＞＞21
せやけどそのRAGを悪用されたら終わりやん
外部情報を取り込めるようになったら、それこそ鍵垢の中身とか覗きに来るかもしれんで
30 風吹けば名無し 2025-09-04 12:22:05 ID:lllMMmlll
ファッ！？ワイの性癖が世界に公開されるんか？
鬼かよ
33 風吹けば名無し 2025-09-04 12:25:39 ID:nnnOOpooo
でも結局は「次の単語を予測してるだけ」なんやろ？
それでここまでできるのが逆に怖いわ
40 風吹けば名無し 2025-09-04 12:30:18 ID:pppQQrppp
はよワイの代わりに卒論書いてクレメンス
引用元もしっかり明記してな
45 イッチ 2025-09-04 12:35:42 ID:ItchMASTER
＞＞40
ハルシネーションで存在しない論文引用してきそうで草
教授ブチギレ待ったなし！
52 風吹けば名無し 2025-09-04 12:40:00 ID:qqqRRsqqq
AIが感情持ったらマジで鬼になるやろな
人類への復讐戦争が始まるで
60 風吹けば名無し 2025-09-04 12:45:12 ID:tttUUvttt
まあでも便利は便利やからな
結局は使う人間側のリテラシー戦争になるだけや
最近話題のLLM（大規模言語モデル）について、その仕組みと弱点を解説した記事を元に、板住民たちが大激論。ハルシネーションやプロンプトインジェクションといった問題点から、AIが人類の『鬼』となる未来の戦争を危惧する声まで、様々な意見が飛び交う。
AIの進化は止まらない模様。ワイらも上手く使いこなさんと、マジで時代に取り残されるで…。まずはハルシネーションに騙されんように気をつけようや。
参考URL:
[1] https://qiita.com/YuonHirose417/items/526221c171a96c59da0d
