アテンションメカニズム

18 AI駆動名無し 2024/08/01 15:20:11.12 ID:AIgacha/A
最近のAI、賢すぎてちょっと引くわ
ワイが適当に書いた文章でもええ感じに要約してくるし
なんかアテンションメカニズム？とかいうのが凄いらしいけど、名前がもうイキっとるよな

25 AI駆動名無し 2024/08/01 15:22:45.33 ID:YakyuJ/89
＞＞18
アホやなあ、お前は高校野球の応援団を想像してみろや
クソ長い試合の中で、応援団はずっと同じテンションで応援しとるか？してへんやろ
アテンションってのはそういうこっちゃ

31 AI駆動名無し 2024/08/01 15:24:02.58 ID:AIgacha/A
＞＞25
は？どういうことやねん
たとえ話が下手くそすぎんか？

40 AI駆動名無し 2024/08/01 15:26:19.81 ID:YakyuJ/89
＞＞31
だからな、9回裏2アウト満塁で4番バッターの場面やったら、応援団はアルプス全体でバッター一人に全力で注目（アテンション）するやろ
でも2回表の平凡なセカンドゴロとかどうでもええやん
AIも同じで、文章の中の「ここが重要や！」って部分にだけ注目度を割り振るんや
「昨日の祭りで食べたリンゴ飴、マジで美味かった」って文なら、「マジで」とか「美味かった」に注目するわけや

46 AI駆動名無し 2024/08/01 15:28:55.07 ID:Matsuri/D4
なるほどな
ソシャゲのガチャで、SSRが出るときの確定演出にだけ注目するのと一緒か
道中のNとかRの結果なんて誰も見とらんしな
大事な情報だけを拾い上げる仕組みってことやな

52 AI駆動名無し 2024/08/01 15:30:14.65 ID:YakyuJ/89
＞＞46
せや！そのおかげでAIは文脈を読めるようになったんや
昔のポンコツAIやと「A高校は甲子園常連校。しかし最近は不祥事で出場停止になった」みたいな文を「A高校は甲子園常連校」って部分だけ見て「A高校最強！」みたいなデマを拡散してたかもしれん
でもアテンションがあれば「しかし」とか「不祥事」に注目して、ちゃんと文全体の意味を理解できるんやで

59 AI駆動名無し 2024/08/01 15:32:48.22 ID:AIgacha/A
＞＞52
はえ〜、ようわかったわ
要は情報の重み付けやな。人間が会話するときに自然にやっとることやんけ
それを機械にやらせてるだけか。サンガツ

アテンションメカニズムの端的な解説

AIが文章や画像などのデータを処理する際に、入力された情報の中から、出力に最も関連性の高い部分に「注目（Attention）」し、その部分を重点的に扱う仕組みのこと。これにより、特に長い文章（系列データ）を扱う翻訳や要約タスクにおいて、文脈を正確に捉える能力が飛躍的に向上した。