KTransformers 让 CPU 直接参与 MoE 微调计算，降低 GPU 显存依赖

机器之心知乎专栏介绍，KTransformers 提出让 CPU 直接参与 MoE 微调计算。此前为降低 GPU 显存需求，常见做法是用 CPU 内存存储专家权重，再通过 PCIe 搬到 GPU 计算；该消息称新方案让 CPU 直接参与计算，以缓解资源受限条件下难以微调超大模型的问题。