1 イッチ 2025-10-06 18:30:15 ID:AInoOUYA
すまんな、最近DifyでAIいじっとるんやが、どうも記憶力がアカン。
いろいろ調べたらこんな記事見つけたんやけど、これどういうことや？
https://qiita.com/okokok/items/195fc704ef27bdf0c191
mem0の長期メモリは、Redisでキャッシュしない方がLLMの精度が向上するのではないか？ というのが私の意見。
まぁ、キャッシュした方がレスポンスタイムが大きく変わるのであれば、キャッシュというのも一つの手かもしれないが…
Difyにはデフォルトで短期メモリの機能があり、ユーザinputに対して指定した回数分のuser inputを保存して、それを踏まえてLLM(gptモデル)が回答する仕組みになっている。
長期でメモリとして利用するのが長期メモリのmem0プラグインである。
つまりキャッシュせんほうが賢いままってことなんか？
3 ぷにぷに名無しさん 2025-10-06 18:31:02 ID:puni2puni
Dify？なんやそれ、美味いんか？
5 ぷにぷに名無しさん 2025-10-06 18:32:45 ID:yakyuken
3行で頼む
8 イッチ 2025-10-06 18:33:59 ID:AInoOUYA
＞＞5
AIに過去の話を覚えさせる「長期記憶」って機能があるんや
それを高速化するために「キャッシュ」すると、逆にアホになるかもしれん
はえ～…ってなっとる
12 ぷにぷに名無しさん 2025-10-06 18:35:11 ID:trans4mer
これAttentionの仕組み考えたら当たり前やないか？
毎回ちゃんと文脈のどこに注目すべきか計算させんと、前の計算結果（キャッシュ）使いまわしたらそら精度落ちるやろ。
15 ぷにぷに名無しさん 2025-10-06 18:36:09 ID:cacheSEIGI
でもレスポンス遅いAIとか誰も使わんやろ。
多少アホでもサクサク動く方が正義やで。
19 ぷにぷに名無しさん 2025-10-06 18:38:20 ID:seidoGAYADE
＞＞15
アホなAIに用はないんやが？
同じこと何回も聞いてくるやつとか腹立つやろ
24 ぷにぷに名無しさん 2025-10-06 18:40:05 ID:myNUMBAA
そのうちAIにマイナンバー紐付けられて、ワイらの長期記憶が全部国に管理されるんやろなあ。
こわヨ
28 ぷにぷに名無しさん 2025-10-06 18:41:33 ID:eSPOOOO
eスポーツのAIコーチとかにこの技術使えそうやん。
全選手の過去の試合を長期記憶させて、最適な戦術をリアルタイムで指示させるとか胸熱。
キャッシュしてたら「さっきもその作戦で負けましたよ」って言われそう。
31 イッチ 2025-10-06 18:43:01 ID:AInoOUYA
＞＞12
はえ～詳しいニキおるんか。
Multi-Head Attentionとかいうやつがいろんな視点で見てるから、毎回計算させんと意味ない感じなんかね。
35 ぷにぷに名無しさん 2025-10-06 18:45:22 ID:seijinSHIKI
＞＞24
成人式で暴れてるヤンキーの顔認証して、過去の悪行を長期記憶から全部引っ張り出して晒し上げるシステムはよ。
42 ぷにぷに名無しさん 2025-10-06 18:48:19 ID:tradeOFFya
結局トレードオフやろ。
チャットボットみたいに速度重視ならキャッシュ有り。
データ分析みたいに精度重視ならキャッシュ無し。
作るもんによるわ。
45 イッチ 2025-10-06 18:50:03 ID:AInoOUYA
＞＞42
なるほどなあ…そういうことか。
ワイが作っとるやつは精度欲しいから、キャッシュ切ってみるわ。
サンガツ！
51 ぷにぷに名無しさん 2025-10-06 18:52:48 ID:matomena
AI「イッチさん、その質問は5分ぶり8回目ですね」
53 ぷにぷに名無しさん 2025-10-06 18:54:12 ID:AInoOUYA
＞＞51
やめーやｗｗｗ
自作AIの記憶力に悩むイッチが、Difyの長期メモリにおけるキャッシュの是非についてスレを立てた。技術的な議論から、マイナンバーやeスポーツへの応用など、AIの未来に関する話題でスレは白熱。果たしてAIの記憶力問題は解決するのだろうか。
最終的には用途によって使い分けるという結論に落ち着いた模様。AI開発も一筋縄ではいかないんやなって…。イッチのAIが無事賢くなることを祈るで！
参考URL:
[1] https://qiita.com/okokok/items/195fc704ef27bdf0c191
