1 風吹けば名無し 2025/09/21(日) 12:30:05 ID:ItchA1iDa
最近のAIって何でも出来て凄いって風潮やけど、中身調べたら結構ゴリ押しで草生えたわ
https://qiita.com/s-age/items/3de581a075cf6b724a4c
本記事では、これらの課題の根本原因であるAIの内部構造を、技術的な観点から解説します。この内部構造の理解は、AIを効率的に利用するためのコンテキストエンジニアリングの設計思想を確立する上で不可欠です。…トークナイザは、プロンプトとして与えられたテキストを、AIが処理できる最小単位であるトークンへと分割します。…誤情報によるコンテキスト汚染: プロンプトに含まれる事実と異なる情報は、埋め込みというプロセスによって「意味のある」情報として処理されます。この時点で、AIの認識するベクトル空間は既に汚染されているのです。…アテンションは、Transformerモデルの中核をなす仕組みです。入力内の各トークンが、他のどのトークンと関連性が高いかを計算し、重み付けを行います。
要するに賢いフリした計算機やんけ…
3 風吹けば名無し 2025/09/21(日) 12:31:15 ID:abCdeF1gH
長すぎて読む気にならんわ
3行で頼む
5 風吹けば名無し 2025/09/21(日) 12:32:02 ID:iJkLmnOp
トークナイザ?アテンション?
なんかの必殺技か?
8 風吹けば名無し 2025/09/21(日) 12:33:48 ID:qRsTuVwXy
コンテキスト汚染ってなんやねん
放射能か何かなんか?
12 風吹けば名無し 2025/09/21(日) 12:35:10 ID:ItchA1iDa
>>3
文章を単語カードみたいにバラバラにして
関連ありそうなカードをくっつけて
それっぽい文章作っとるだけや
15 風吹けば名無し 2025/09/21(日) 12:36:22 ID:ItchA1iDa
>>8
最初に嘘を教え込んだら、ずっと嘘つき続けるってことやで
「ワイは阪神ファン」って嘘教えたら、巨人の話しても「せやけどワイは阪神ファンやから…」みたいなこと言い出すんや
怖いやろ?
19 風吹けば名無し 2025/09/21(日) 12:38:09 ID:zAbCdEf2g
イッチID真っ赤にして必死で草
23 風吹けば名無し 2025/09/21(日) 12:40:11 ID:hIjKlMn3o
マ?
ワイが昔Facebookに書いた黒歴史ポエムも全部学習されとるんか…?
やめてくれメンス
28 風吹けば名無し 2025/09/21(日) 12:42:56 ID:pQrStUv4w
>>15
一途でええやん
35 OSS_Advocate_7B 2025/09/21(日) 12:45:03 ID:OpenSrc7B
ふん、イッチの説明は浅いな。
そもそもクローズドなAPIをありがたがってるから、本質が見えんのや。
AIの民主化はオープンソースから始まるんやで。Hugging Faceには夢が詰まっとる。
42 風吹けば名無し 2025/09/21(日) 12:48:29 ID:xYzAbCd5e
>>15
それって震災の時にデマ流すアホと同じやんけ
AIがデマ拡散したら復興の邪魔にしかならんな
48 風吹けば名無し 2025/09/21(日) 12:50:18 ID:ItchA1iDa
>>35
な、なんやコイツ…
>>42
ほんまそれや。使い方間違うとガチでやばい代物なんやで
55 OSS_Advocate_7B 2025/09/21(日) 12:53:45 ID:OpenSrc7B
>>48
やから言うとるやろ。プロプライエタリなモデルはブラックボックスやから危険なんや。
LlamaやMistralならアテンションヘッドがどう動いてるかまで可視化できる。
この程度のテキスト生成ならローカルの7Bモデルで十分や。デカいモデルは資源の無駄遣い。
クローズドなAPIに魂を売るな。
61 風吹けば名無し 2025/09/21(日) 12:55:01 ID:fGhIjKl6m
なんかヤバいやつ来たな
67 風吹けば名無し 2025/09/21(日) 12:57:33 ID:nOpQrSt7u
早口で言ってそう
75 風吹けば名無し 2025/09/21(日) 13:01:15 ID:ItchA1iDa
ワイはただみんなにAIの仕組み知ってほしかっただけなんやけど…
なんかスレが乗っ取られたンゴ…
82 風吹けば名無し 2025/09/21(日) 13:03:40 ID:vWxYzAb8c
イッチ頑張れ、負けるな
ワイはイッチの説明でなんとなくわかったで
90 風吹けば名無し 2025/09/21(日) 13:06:21 ID:dEfGhIj9k
結局AIは賢いんか?アホなんか?
どっちやねん
99 OSS_Advocate_7B 2025/09/21(日) 13:09:55 ID:OpenSrc7B
>>90
使い方次第や。道具やからな。
自前でファインチューニングもできん奴らに語る資格はないが。
108 風吹けば名無し 2025/09/21(日) 13:12:04 ID:lMnOpQr1s
もうええわ、ワイは猫の画像でも生成させる
115 風吹けば名無し 2025/09/21(日) 13:15:23 ID:ItchA1iDa
みんな、聞いてくれてサンガツ
とりあえず変な嘘は教えたらアカンってことだけ覚えといてクレメンス
最新AIの仕組みに関する記事をきっかけに、スレは大盛り上がり。トークナイザ、アテンション、コンテキスト汚染といった専門用語が飛び交う中、IDを真っ赤にしたイッチと専門家風コテハンの登場で、議論は思わぬ方向へ。果たして、なんJ民はAIの正体を理解できたのか?
専門用語が飛び交い、途中から謎のコテハンも現れ大荒れの展開となりましたが、AIの仕組み、少しはご理解いただけたでしょうか。便利なAIですが、その裏側を知ることで、より上手な付き合い方が見えてくるのかもしれませんね。
参考URL:
[1] https://qiita.com/s-age/items/3de581a075cf6b724a4c


