1 風吹けば名無し 2025-10-20 12:30:15 ID:AIdevMASTER
AIくん、とんでもないやらかしが発覚してしまう…
https://zenn.dev/gorn/articles/3e63ea854c30c7
Retrieval-Augmented Generation（RAG）システムは、大規模言語モデル（LLM）の応答に企業の独自のデータソースを組み込むことで、応答の正確性と関連性を大幅に向上させます。
LLMは与えられたコンテキストに基づいて回答を生成するため、結果としてユーザーが閲覧を許可されていない機密情報が回答に含まれてしまう、という重大なデータ漏洩に繋がるのです。
これアカンやつやろ…
3 風吹けば名無し 2025-10-20 12:31:02 ID:Abcde1234
ファッ！？
AI、お前口軽すぎやろ
5 風吹けば名無し 2025-10-20 12:32:18 ID:FgHijk567
RAGってそういうもんやろ
ベクトルDBに入れるときに権限情報まで管理してへんかったらそうなるわな
8 風吹けば名無し 2025-10-20 12:33:45 ID:Lmnop890
ワイのDK時代の黒歴史ポエムも社内AIに学習させたら全社員に公開されるんか？
終わったわ
12 風吹けば名無し 2025-10-20 12:35:01 ID:AIdevMASTER
＞＞8
せやで
せやからこの記事にある「Auth0 for AI Agents」みたいなのが必要になるんや
ユーザーごとに見せてええ情報だけフィルタリングするらしい
15 風吹けば名無し 2025-10-20 12:36:29 ID:QrStuVwXy
はえ～賢い
ちゃんと誰がアクセスしてるか管理して、その人向けの答えだけ生成させると
19 風吹けば名無し 2025-10-20 12:38:11 ID:ZaBcdEfGh
ワイが好きな俳優のマル秘情報とかも漏洩するんか？
それはそれでちょっと見たい
22 風吹けば名無し 2025-10-20 12:39:05 ID:IjKlMnOpQ
＞＞19
そんなことになったら事務所がガチギレで大噴火やろ
訴訟不可避
27 風吹けば名無し 2025-10-20 12:41:33 ID:RsTuVwXyZ
笑い事ちゃうで
顧客の個人情報とか新製品の設計図とか漏れたら会社潰れるレベルや
31 風吹けば名無し 2025-10-20 12:43:50 ID:aBcDeFgHi
Auth0って認証サービスで有名なとこやん
ちゃんとAIの時流にも乗ってくるんやな
35 風吹けば名無し 2025-10-20 12:45:07 ID:jKlMnOpQr
自律エージェントとかいうからカッコええけど、要は野放しの新人みたいなもんやろ
教育係(人間)の承認いるわな
42 風吹けば名無し 2025-10-20 12:48:21 ID:StUvWxYz1
ワイの高校の同級生、地味なDKやったのに今や有名俳優やからな
卒業文集とかAIに食わせたらアカン
48 風吹けば名無し 2025-10-20 12:50:14 ID:234567890
「Human-in-the-Loop」って仕組みええな
ヤバそうな操作は一回人間に「これやってええか？」って聞きに来るんやろ
それが最後の砦や
55 風吹けば名無し 2025-10-20 12:52:49 ID:AIdevMASTER
結局、AIが便利になればなるほど、こういうセキュリティとか倫理の問題が重要になるってことやな
ワイらも賢く使わんとアカンわ
AIエージェントの自律的な動作が、意図せず機密情報を漏洩させるリスクが問題視されている。特にRAGシステムでは、ユーザーの権限を無視して情報を渡してしまう可能性があるという。そんな中、救世主として現れた「Auth0 for AI Agents」について、ぽいJ民たちが議論を交わす。
AIの進化は止まらないが、その裏には常に情報漏洩のようなリスクが潜んでいる。便利なツールを安全に使いこなすための技術開発は、今後ますます重要になっていきそうだ。
参考URL:
[1] https://zenn.dev/gorn/articles/3e63ea854c30c7
