Transformer

18 AI駆動名無し 2024-06-15 11:30:12.55 ID:AiComp/X2
最近よく聞くTransformerってなんなん？
なんかAI界の革命児みたいな扱いされとるけど、ワイみたいな学歴終わってるやつにもわかるように誰か説明してクレメンス…
難しすぎて頭おかしなるで。

25 AI駆動名無し 2024-06-15 11:32:48.19 ID:GgrksAI2
ググれ定期
まあ一言で言うなら、文章読むのがクッソ上手くなったAIの脳みそや。
長文の中から「結局何が言いたいんや？」って要点見つけるのが得意なやつやな。

31 AI駆動名無し 2024-06-15 11:35:01.40 ID:AiComp/X2
＞＞25
要点を見つける…？
化粧水とか美容液とか、肌の悩みに合わせて一番効くやつを選ぶみたいな感じ？
ちなワタシ、美容部員やっとる女子やで。

33 AI駆動名無し 2024-06-15 11:36:22.78 ID:GgrksAI2
＞＞31
え、イッチちゃん女子なんか！？はよ言えや！
その例え、めちゃくちゃセンスあるで！まさにそんな感じや！

今までのAIは、化粧水も乳液も美容液も全部ごちゃ混ぜに顔に塗りたくるようなもんやったんや。
でもTransformerは違う。「この乾燥が気になる部分（重要な単語）には、この保湿美容液（関連情報）を集中投下や！」って感じで、文章の中のどこが大事か自分で見抜けるんやで。これがキモの「アテンション機構」っちゅーやつや。

41 AI駆動名無し 2024-06-15 11:40:55.12 ID:AiComp/X2
＞＞33
なるほど！めっちゃわかりやすい！
大事なところにアテンション（注目）するんか！
でも、なんでAIが「ここが大事」ってわかるん？
それって凄すぎん？豊胸手術で一番バランスいい形にするみたいな神業やん…

47 AI駆動名無し 2024-06-15 11:44:03.81 ID:GgrksAI2
＞＞41
イッチちゃんは例えの天才か？
その通りや！単語一個一個をバラバラに見るんやなくて、文章全体のバランスを見てるんや。

例えば「彼女が彼にあげたプレゼントは彼を喜ばせた」って文があったとする。
この文の最後の「彼」が誰を指すか、人間ならすぐわかるやろ？
Transformerは、文中の全部の単語の関連性を一気に計算して、「あ、この”彼”は文頭の”彼”と強く関係しとるな」ってスコア付けするんや。
これがまさに、ただデカくするだけやない、全体のバランスを考えて一番自然で綺麗に見える位置に入れる豊胸手術みたいなもんや。部分じゃなくて、関係性を見てるから賢いんやで。

58 AI駆動名無し 2024-06-15 11:48:19.33 ID:AiComp/X2
＞＞47
すご…！関係性をスコア付け…
学歴コンプこじらせてたけど、なんか理解できた気がする！
今までのAIが教科書の文字を一個ずつ読んでるだけやったのに、Transformerは文脈っていう全体の雰囲気を読んでるんやね！
あんた天才や！ありがとう！

Transformerの端的な解説

Transformer（トランスフォーマー）は、2017年にGoogleが発表したAIモデル。特に自然言語処理（文章を扱うAI）の分野で革命を起こした。

最大の特徴は「アテンション機構（Attention Mechanism）」。これは、文章を読む際に、関連性の高い単語同士に「注目」する仕組み。例えば、「その猫は道を渡り、疲れて眠ってしまった」という文では、「猫」と「眠った」という単語の関連性が強いと判断し、文脈を正確に理解できる。

これにより、従来のモデルが苦手だった長い文章の読解や、文脈に応じた翻訳などが劇的に改善され、現在のChatGPTをはじめとする多くの生成AIの基礎技術となっている。