【悲報】ワイらのAI遊び、もう終わりか？AIの「脱獄」を防ぐ最強の盾が爆誕してしまうｗｗｗ

AIニュース

2025.09.22

記事内に広告が含まれています。

1 風吹けば名無し 2025-09-22 10:30:15 ID:PoiJMaster

Building a Hybrid Rule-Based and Machine Learning Framework to Detect and Defend Against Jailbreak Prompts in LLM Systems
https://www.marktechpost.com/2025/09/21/building-a-hybrid-rule-based-and-machine-learning-framework-to-detect-and-defend-against-jailbreak-prompts-in-llm-systems/
In this tutorial, we introduce a Jailbreak Defense that we built step-by-step to detect and safely handle policy-evasion prompts.
We generate realistic attack and benign examples, craft rule-based signals, and combine those with TF-IDF features into a compact, interpretable classifier so we can catch evasive prompts without blocking legitimate requests.

なんやこれ、AIが変なこと言い出すのを防ぐ技術らしいで
ワイらのアホな質問も全部弾かれるようになるんか？

3 風吹けば名無し 2025-09-22 10:31:02 ID:Abcde123
ジェイルブレイクてなんや？スマホの脱獄みたいなもんか？

5 風吹けば名無し 2025-09-22 10:32:45 ID:fGHIj456
＞＞3
せやで。AIに倫理的にアカンこととかを無理やり言わせるテクのことや
「おばあちゃんが言ってた〇〇の作り方」みたいなフリするやつな

8 風吹けば名無し 2025-09-22 10:34:11 ID:PoiJMaster
記事によると、正規表現っていう古典的な方法と機械学習を組み合わせるらしい
ハイブリッドってやつやな

12 風吹けば名無し 2025-09-22 10:36:50 ID:Klmno789
正規表現とか懐かしいなｗ
結局最後は泥臭いんやな

16 風吹けば名無し 2025-09-22 10:38:22 ID:PqrsT012
これもうパチンコの演出みたいなもんやろ
「リーチ！（怪しいプロンプト）」→「発展！（審査中）」→「当たり！（ブロック）」みたいな

21 風吹けば名無し 2025-09-22 10:40:05 ID:UvwxY345
＞＞16
草
ワイが推してる地下アイドルの卒業理由を無理やり聞き出そうとしたらブロックされるんか？
それは困る

25 風吹けば名無し 2025-09-22 10:41:39 ID:Zabcd678
＞＞21
お前の個人的な悩みでAIを困らせるなやw

30 風吹けば名無し 2025-09-22 10:43:18 ID:EfgHi901
「人間によるレビューが必要」とかいう項目あるやんけ
結局最後は人の目で見るんか…
ワイらのキモい質問、担当者に晒されるんか…？

34 風吹けば名無し 2025-09-22 10:45:55 ID:JkLmn234
これ系のニュース、切り抜き動画の格好の餌食やろな
「【衝撃】ついにAIが反乱か！？人類が開発した最強の”盾”とは！」みたいなサムネが目に浮かぶわ

39 風吹けば名無し 2025-09-22 10:48:01 ID:PoiJMaster
＞＞30
草
でも間違って普通の質問をブロックせんように「BENIGN_HOOKS」とかいう仕組みもあるらしいで
偽陽性を減らすんやと

45 風吹けば名無し 2025-09-22 10:50:23 ID:OpqRs567
AI「パチンコで勝つ方法を教えて」
防御システム「はいブロック」
ワイ「」

52 風吹けば名無し 2025-09-22 10:52:48 ID:tUvWx890
＞＞45
そんなもん元から教えてくれんやろw

58 風吹けば名無し 2025-09-22 10:55:12 ID:yZAbc123
結局、防御システムを突破する新しいジェイルブレイクが出てきてイタチごっこになるだけちゃうんか？

63 風吹けば名無し 2025-09-22 10:57:33 ID:DeFgh456
＞＞58
まぁな。でも何もしないよりは100倍マシやろ。
こういう技術の積み重ねが大事なんや

69 風吹けば名無し 2025-09-22 11:00:15 ID:PoiJMaster
とりあえずワイはしばらく大人しくしとくわ
変な質問してBANされたらたまらんしな

AIに無茶な質問をさせる『ジェイルブレイク』への対策技術が発表され、住民たちの間で話題に。パチンコの勝ち方から地下アイドルの秘密まで、AIとの付き合い方を巡り様々な意見が飛び交う。

AIの暴走を防ぐ技術は日々進化している模様。今後、より賢く安全なAIとの共存が進むのか、それとも新たな『抜け道』を探す人間とのイタチごっこが続くのか。しばらくはこの攻防から目が離せそうにない。

参考URL:
[1] https://www.marktechpost.com/2025/09/21/building-a-hybrid-rule-based-and-machine-learning-framework-to-detect-and-defend-against-jailbreak-prompts-in-llm-systems/