123赚来源与方法

Homelabber的二代Optane主机使用两块RTX 3090以每秒3.11个token运行2.8万亿参数Kimi AI模型

Homelabber’s second-gen Optane build uses two RTX 3090s to run 2.8-trillion-parameter Kimi AI model at 3.11 tokens per second

Tom's Hardware ·

AI 摘要一位Reddit家庭实验室爱好者用两台RTX 3090和一块Optane PMem 200内存盘搭建服务器,运行Moonshot AI的Kimi K3模型,速度达每秒3.11个token。

阅读原文

内容来自公开来源,以原文为准。