ollama本地部署deepseek-r1满血版教程
满血版的deepseek-R1, 参数671B,理论上起码需要350G以上显存/内存才能够部署FP4的量化版本。对绝大多数家用电脑来说,这是不可能有实际意义的部署的,哪怕是最新的5090显卡32G显存,推理速度也不高,推理一次半天时间就没有...
满血版的deepseek-R1, 参数671B,理论上起码需要350G以上显存/内存才能够部署FP4的量化版本。对绝大多数家用电脑来说,这是不可能有实际意义的部署的,哪怕是最新的5090显卡32G显存,推理速度也不高,推理一次半天时间就没有...