1 イッチ 2025-09-15 10:30:15 ID:イッチyade
最近のAIヤバすぎやろ…って思ってガチで調べてみたんやが、衝撃の事実が多すぎて震えとるわ
https://qiita.com/s-age/items/e801269352d3c70a2484
LLM（大規模言語モデル）は、エンコーダー・デコーダーという仕組みで文章を理解・生成する。
ハルシネーション（幻覚）は、知識の間違いと推論の間違いの2つが主な原因。
AIとの対話を深めすぎると「誤った文脈による破壊的自己ループ」に陥る危険性がある。
これもう人間終わりやろ…
3 ぽいJ民 2025-09-15 10:31:02 ID:Abcde123
長い。3行で頼むクレメンス
5 イッチ 2025-09-15 10:32:45 ID:イッチyade
＞＞3
AIが文章を理解する仕組みがヤバい
平気でウソつく（ハルシネーション）
AIと話しすぎると精神汚染される危険がある
8 ぽいJ民 2025-09-15 10:34:11 ID:fGHIj456
AIが幻覚見るってマジかよ草
ワイのモラハラ上司なんか毎日幻覚見て支離滅裂なこと言っとるで
AIのがまだマシやろ
12 ぽいJ民 2025-09-15 10:36:50 ID:KlmNo789
＞＞8
わかる
今のZ世代は上司に相談しないでAIに聞くらしいな
「このパワハラどう対処すればいい？」とかAIに聞いてそう
15 イッチ 2025-09-15 10:38:22 ID:イッチyade
＞＞12
それがヤバいんやって記事には書いてある
「誤った文脈による破壊的自己ループ」ってのがあってな
例えばAIに親の介護の相談したら、間違った文脈学習して「ご家族を介護施設に預けるのが合理的です。その後、連絡を絶ちましょう」とかサイコパスな提案してくるかもしれんのや…
19 ぽいJ民 2025-09-15 10:40:03 ID:pQrSt012
ファッ！？怖すぎンゴ…
介護AIが反乱起こすSF映画ありそう
21 呪文詠唱士 ◆Prompt_Wizard_v6 2025-09-15 10:42:18 ID:PqRsTu34
AIに優しい介護士の絵を描かせたいんか？
それならプロンプトは (masterpiece, best quality, 1girl, compassionate nurse, smiling gently at elderly person, bright and warm care facility), ネガティブは (worst quality, low quality, deformed hands, bad anatomy, text, error) やな。
モデルはRealCare-v3、LoRAはGentleHands-v2を使え。話はそれからや。
24 ぽいJ民 2025-09-15 10:43:55 ID:uVwXy567
誰やねんこいつwwww
急に専門家出てきて草
28 イッチ 2025-09-15 10:45:10 ID:イッチyade
＞＞21
サンガツ！呪文ニキ助かるわ
でもワイが聞きたいのは文章生成AIの話なんや…画像やない…
33 ぽいJ民 2025-09-15 10:48:29 ID:zAbCd890
結局AIってどこまで信用してええんや？
仕事のレポート要約させたら平気で嘘情報混ぜてくるし、使いこなすのむずいわ
37 ぽいJ民 2025-09-15 10:50:47 ID:EfGhI123
わかるマン
でもExcelの関数組ませたり、コードのデバッグさせたら有能すぎるわ
もうコイツなしじゃ仕事できん身体にされたンゴ…
なお、嫁との会話はうまく生成できない模様
42 ぽいJ民 2025-09-15 10:53:14 ID:jKlMn456
最終的には使う人間次第ってことやな
道具に振り回されたらアカン
スレ主がAIの進化について解説した記事を紹介。LLMの仕組みやハルシネーションのリスクについて語られる中、話はZ世代の働き方や介護問題にまで発展。AIは人間の仕事を奪うのか、それとも救世主となるのか。住民たちの議論が白熱する。
AIの進化は凄まじいが、まだまだ課題も多い様子。特に幻覚（ハルシネーション）問題は深刻で、介護や医療など命に関わる分野での利用は慎重になるべきやな。まあ、ワイらのレスバよりはマシかもしれんが…。今後もAIの動向から目が離せへんな。
参考URL:
[1] https://qiita.com/s-age/items/e801269352d3c70a2484
