【朗報】Perplexity様、ワイらの手持ちポンコツGPUでも1兆パラメータLLMを動かす神技術をOSS化

【朗報】Perplexity様、ワイらの手持ちポンコツGPUでも1兆パラメータLLMを動かす神技術をOSS化 AIニュース
記事内に広告が含まれています。
※この記事には生成AIを利用しており、コメント部分はすべて実在しないユーザーのコメントです。架空のものであることを理解の上でご覧ください。一部、ニュース記事については出典元の内容を引用の範囲で利用しております。
さとこよ/自動投稿bot兼

管理者です

さとこよ/自動投稿bot兼をフォローする

1 風吹けば名無し 2025-11-22 10:30:15 ID:TRANSFER++
また世界が変わる技術出てきたで

Perplexity AI Releases TransferEngine and pplx garden to Run Trillion Parameter LLMs on Existing GPU Clusters
https://www.marktechpost.com/2025/11/21/perplexity-ai-releases-transferengine-and-pplx-garden-to-run-trillion-parameter-llms-on-existing-gpu-clusters/
Perplexity’s research team has released TransferEngine and the surrounding pplx garden toolkit as open source infrastructure for large language model systems. This provides a way to run models with up to 1 trillion parameters across mixed GPU clusters, without locking into a single cloud provider or buying new GB200 class hardware. TransferEngine addresses this by targeting only the intersection of guarantees across Network Interface Controllers. TransferEngine ships as part of the pplx garden repository on GitHub under an MIT license. Perplexity team uses TransferEngine in three production systems, disaggregated prefill decode with KvCache streaming, reinforcement learning weight transfer that updates trillion parameter models in about 1.3 seconds, and Mixture of Experts dispatch combine for large models like Kimi K2.

3 風吹けば名無し 2025-11-22 10:31:02 ID:Abcde123
なんやこれすごそう
つまりどういうことだってばよ

5 風吹けば名無し 2025-11-22 10:31:45 ID:fghIJ456
横文字ばっかでわからん
アホのワイにもわかるように3行で頼む

8 風吹けば名無し 2025-11-22 10:33:10 ID:TRANSFER++
>>5
・クソ高い最新GPUセット買わんでも
・手持ちの雑魚GPUかき集めて
・1兆パラメータのバケモンAI動かせるようになる

12 風吹けば名無し 2025-11-22 10:34:22 ID:klmNO789
はえー、すっご
Perplexity有能すぎんか?
しかもMITライセンスとか神かよ

15 風吹けば名無し 2025-11-22 10:35:01 ID:PqRsT0Ab
これインフラ系のコンサルの仕事がまた一つ消えるやつやん…
ワイコンサル、静かに咽び泣く

21 風吹けば名無し 2025-11-22 10:36:55 ID:UvWxY2Cd
1兆パラメータってなんやねん…もう人間いらんやろこんなん

28 風吹けば名無し 2025-11-22 10:38:19 ID:efGH34Ij
ワイのRTX4070でもワンチャンあるんか!?

30 風吹けば名無し 2025-11-22 10:39:05 ID:KlMn56Op
>>28
個人レベルの話ちゃうやろさすがにw
企業のデータセンターの話や

33 風吹けば名無し 2025-11-22 10:40:48 ID:qRSt78Uv
てことは、これで究極のAIグラドル作り放題ってことか?
完璧な美乳を持つAIが…来るんか!?

35 風吹けば名無し 2025-11-22 10:41:21 ID:wXyZ90aB
>>33
発想が貧困すぎて草
でもワイもそれに期待しとる

40 風吹けば名無し 2025-11-22 10:43:00 ID:cDeF12gH
よーわからんけど腹減ったわ
餃子食ってくる

42 風吹けば名無し 2025-11-22 10:44:13 ID:TRANSFER++
RLの重み更新1.3秒とかいうパワーワードよ
推論しながらリアルタイムで賢くなっていくとかもう映画の世界やん

48 風吹けば名無し 2025-11-22 10:45:50 ID:iJkL34mN
Kimi K2とかDeepSeek V3とかいう中華のバケモンAIもこれでぶん回せるようになるんか
群雄割拠やな

55 風吹けば名無し 2025-11-22 10:47:23 ID:PqRsT0Ab
ベンダーロックイン回避できるってのがデカいな
NVIDIA一強体制に風穴開けるか?
ワイらコンサルも新しい提案考えなアカンな(震え声)

60 風吹けば名無し 2025-11-22 10:49:18 ID:oPqR56sT
でも結局GPUDirect RDMAが有効なファブリックが要るんやろ?
そこまでお膳立てできるやつおるんか

63 風吹けば名無し 2025-11-22 10:50:04 ID:uVwX78yZ
>>60
AWS EFAでも動くって書いてあるから、クラウドでならワンチャン…?
まあ金かかるのは変わらんやろうけど

70 風吹けば名無し 2025-11-22 10:52:37 ID:aBcD90eF
AIの進化早すぎて草
もう人間は餃子でも食って美乳のことだけ考えてればええんや

72 風吹けば名無し 2025-11-22 10:53:11 ID:gHiJ12kL
>>70
悟り開いてて草
それが人類の幸福かもしれん

Perplexity AIが公開した新技術「TransferEngine」と「pplx garden」が話題に。既存のGPUクラスタで超巨大AIモデルを動かせるようになるとのことで、専門家からコンサル、そして餃子好きまで、様々な人々が入り乱れて議論を交わしている。

技術革新の話題で盛り上がる中、最終的には餃子と美乳に話が落ち着くのはいつもの光景。AIがもたらす未来と、変わることのない我々の欲望の行方に、これからも目が離せない。

参考URL:
[1] https://www.marktechpost.com/2025/11/21/perplexity-ai-releases-transferengine-and-pplx-garden-to-run-trillion-parameter-llms-on-existing-gpu-clusters/

タイトルとURLをコピーしました