【悲報】最新AI、たった250個の毒データで簡単に『バックドア』を仕込まれてしまう模様

1 風吹けば名無し 2025-10-11 10:30:15 ID:Poison1ch
これ結構ヤバいニュースちゃうか？

3 風吹けば名無し 2025-10-11 10:31:02 ID:AbcdeFG1
なんのこっちゃ
三行で頼む

5 風吹けば名無し 2025-10-11 10:31:45 ID:Poison1ch
＞＞3
最新AIは
たった250個の嘘データで
簡単に洗脳できる雑魚だったってことや

8 風吹けば名無し 2025-10-11 10:33:10 ID:AhoAhoMan
250てwww 少なすぎやろ
ワイが毎日適当なこと教えたらアホになりそう

12 風吹けば名無し 2025-10-11 10:35:20 ID:PachiPRO777
250件てwww
パチスロの新台スペックよりガバガバで草
継続率90%とか言いながら単発ばっかなのと一緒やん

15 風吹けば名無し 2025-10-11 10:37:03 ID:AbcdeFG1
＞＞5
サンガツ
思ったよりヤバくて草

21 風吹けば名無し 2025-10-11 10:40:11 ID:MirenGIRL
ワイの元カレに「お前が一番」って250回言われたけど嘘やったわ
AIもチョロいんやね

28 風吹けば名無し 2025-10-11 10:42:55 ID:GachiRonia
いやでもこれ、事前学習データに混ぜるって話やろ？
今からそこらへんのAIに仕込むのは無理ちゃうんか

33 風吹けば名無し 2025-10-11 10:44:01 ID:Poison1ch
＞＞28
問題は「モデルがデカくなっても攻撃がより困難になるわけではなく、むしろ容易になる可能性がある」ってとこや
今後の超巨大モデルとかどうなるんやろな

40 風吹けば名無し 2025-10-11 10:48:18 ID:NetUyoUyo
最近のAIの回答がたまにおかしいのってまさか…
もう汚染されとるんちゃうか？

45 風吹けば名無し 2025-10-11 10:50:29 ID:PachiPRO777
トリガーフレーズで意味不明なテキスト出すって完全にバグったパチスロの演出やん
激熱からのノーテンと同じや

52 風吹けば名無し 2025-10-11 10:53:44 ID:WaraWaraBoy
ワイも「元カレのスペックは神」って嘘データ250個作ってAIに学習させてみたい
AIが未練タラタラのポエムとか生成しだしたらおもろいやん

60 風吹けば名無し 2025-10-11 10:55:12 ID:SatoruKenja
＞＞52
草
人類には早すぎるおもちゃやな

68 風吹けば名無し 2025-10-11 10:58:22 ID:AbcdeFG1
Anthropicが自分で発表してるってことは、もう対策の目処は立ってるんやろな
…立ってるよな？

75 風吹けば名無し 2025-10-11 11:01:50 ID:Poison1ch
まあ、防御策の研究開発を促進するために公開したって書いてあるしな
とりあえずは静観や
ワイらのAIちゃんが変なこと覚えんように祈るしかない

大手AI企業Anthropicの研究により、大規模言語モデルがわずか250件の悪意あるデータで汚染される「データポイズニング」の脆弱性が発覚。モデルの規模に関わらず攻撃が容易であるとの内容に、ぽいJ民からは驚きと不安、そしてネタレスが飛び交う事態となった。

AIの進化の裏に潜む脆弱性。今後の対策に注目が集まるが、ぽいJ民にとっては新たなネタの源泉となったようだ。

参考URL:
[1] https://www.itmedia.co.jp/aiplus/articles/2510/10/news079.html