1 風吹けば名無し 2025-11-13 18:30:05 ID:イッチやで
AIの学習データ、量と質どっちが大事論争に終止符打たれるwww
これもう革命やろ…
https://zenn.dev/m_nakano_teppei/articles/dbe808dea63bfd
・LLM開発において、「データを増やせば性能が上がる」と「データを選別し質を改善した方が性能が上がる」という矛盾する研究結果が存在する。
・本研究の最も重要な発見は、生成者の強さが変化する中で、最適な戦略が明確に切り替わる点が存在すること。これは物理学の「相転移」に似た現象。
・弱い生成者 → 簡単な例を大量に使った方が高性能
・強い生成者 → 難しい例に絞った方が高性能
・未熟なモデルには量、成熟したモデルには質。モデルの成熟度に応じてデータ選別戦略を動的に調整することでモデル崩壊を防ぐことができる。
3 風吹けば名無し 2025-11-13 18:31:22 ID:Abcde123
なんのこっちゃ
いつものことやけど三行で頼む
5 風吹けば名無し 2025-11-13 18:32:15 ID:イッチやで
>>3
アホAIには簡単な問題たくさんやらせろ
天才AIには難しい問題だけやらせろ
これで最強AIが作れるってことや
8 風吹けば名無し 2025-11-13 18:33:48 ID:fGhiJ456
はえ~、当たり前のこと言ってるように聞こえるけど
それを理論的に証明したのがすごいんか?
12 風吹けば名無し 2025-11-13 18:35:01 ID:kLmNo789
>>5
まんま人間の教育と同じで草
最初は公文式、できるようになったら鉄緑会みたいなもんか
15 風吹けば名無し 2025-11-13 18:37:29 ID:イッチやで
>>12
それや!まさにそんな感じ
今まで感覚で語られてたことが理論化されたのがデカい
25 風吹けば名無し 2025-11-13 18:40:11 ID:pQrSt012
ワイ情弱コンサル、明日からクライアントに「AIの学習には相転移がありまして…」ってドヤ顔で語ることを決意
サンキューイッチ
31 風吹けば名無し 2025-11-13 18:42:55 ID:Abcde123
>>25
やめとけ、絶対上手く説明できんから
「水が氷になるみたいなもんです!」とか言ってスベるのがオチや
38 風吹けば名無し 2025-11-13 18:45:33 ID:uVwXy345
「強い生成者」とか言うけど、そんなもん中小が用意できるわけないやんけ…
結局GAFAMの独壇場やね
44 風吹けば名無し 2025-11-13 18:48:19 ID:イッチやで
>>38
せやな、そこが課題やろな
まあでも、自社の弱いモデルでも「今は量や!」って割り切ってデータ集めできるのはポジティブちゃうか?
無駄に質を追い求めんでええんやから
55 風吹けば名無し 2025-11-13 18:52:09 ID:zAbCd678
で、その「質の高いデータ」ってのはどこから持ってくるんですかねぇ…
著作権的にクリーンなデータだけで天才AI作れるんか?
67 風吹けば名無し 2025-11-13 18:58:24 ID:eFgHi901
>>55
これメンス
結局違法学習データ最強!ってなりそう
質の高いデータはだいたい誰かの著作物やし
72 風吹けば名無し 2025-11-13 19:01:03 ID:jKlMn234
モデル崩壊ってよく聞くけど、これが原因やったんか?
賢くなってきたAIにいつまでもアホみたいなデータ食わせ続けてたら、そら頭おかしくなるわな
89 風吹けば名無し 2025-11-13 19:05:17 ID:pQrSt012
コンサルやけど、この「生成者の質」とか「データの難しさ」をどうやって定量的に測るかがキモやな
ここが曖昧なままだと机上の空論で終わるで
95 風吹けば名無し 2025-11-13 19:10:49 ID:イッチやで
>>89
論文にも限界として書かれとったわ
まあでも面白い研究やと思うで
AIのブラックボックスがちょっとずつ解明されていく感じがたまらん
101 風吹けば名無し 2025-11-13 19:15:22 ID:oPqRs567
つまりワイらはAIが賢くなるための「難しい例」を作るためだけに生かされとるんやな…
108 風吹けば名無し 2025-11-13 19:18:45 ID:uVwXy345
サンキューイッチ、勉強になったわ
ワイもAIに負けんように頑張るで
AIの学習において「データの量」と「データの質」のどちらが重要かという長年の論争に、ついに終止符か。モデルの成熟度に応じて最適な戦略が切り替わる「相転移現象」が発見され、ぽいJ民の間で話題に。これはコンサルや中小企業にとっても無視できない発見かもしれない。
AIの育成も人間の教育も、成長段階に合わせた指導が重要ということやね。ワイらもAIに負けんように勉強せなアカンな。
参考URL:
[1] https://zenn.dev/m_nakano_teppei/articles/dbe808dea63bfd


