2月27日开yun体育网，DeepSeek秘书开源Optimized Parallelism Strategies。与此同期，英伟达开源了首个在Blackwell架构上优化的DeepSeek-R1，完了了推理速率培育25倍，况兼每token老本裁减20倍的惊东说念主效用。这一新模子的推出，标识着英伟达在东说念主工智能鸿沟的又一次要害确认。
开源周第三天，DeepSeek秘书开源Optimized Parallelism Strategies（优化并行计策）。
据悉，该计策是为了提高计较效用、减少资源豪侈并最大化系统性能而打算的并行计较决议。这些计策通过合理分派任务、合作资源期骗和减少通讯支拨，完了在多核、漫步式或异构系统中的高效并行彭胀。
最近，DeepSeek手脚不断。此前，该公司秘书将DeepEP向公众通达。在秘书后的约20分钟内，DeepEP已在 GitHub、微软（MSFT.US）等平台上获取最初1000个 Star保藏。
据悉，DeepEP是MoE模子覆按和推理的Expert Parallelism通讯基础，可完了高效优化的全到全通讯，以接济包括FP8在内的低精度计较，适用于当代高性能计较。DeepEP还针对从NVLink到RDMA的非对称带宽转发场景进行了深度优化，不仅提供高隐约量，还接济流式多责罚器数目扬弃，从而在覆按和推理任务中完了高隐约量性能。
稍早于2月26日，DeepSeek秘书，即日起，北京时刻逐日00:30至08:30的夜间舒坦时段，DeepSeek通达平台推出错峰优惠活动。在此工夫，API调用价钱大幅下调：DeepSeek-V3降至原价的50%，DeepSeek-R1降至25%。
DeepSeek称，饱读舞用户充分期骗这一时段，享受更经济更畅达的管事体验。
DeepSeek推出优惠步调之时，恰巧其“开源周”。首个开源的代码库为针对Hopper GPU优化的FlashMLA，第二日是首个用于MoE模子覆按和推理的开源EP通讯库DeepEP，26日则开源了一个接济密集和MoE GEMM的FP8 GEMM 库，为V3/R1覆按和推理提供接济。
英伟达通过在Blackwell架构上应用TensorRT DeepSeek优化，让具有FP4坐褥级精度的模子，在MMLU通用智能基准测试中达到了FP8 模子性能的99.8%。现在，英伟达基于FP4优化的DeepSeek-R1查验点如故在Hugging Face上开源，况兼不错通过以下通顺看望模子地址：DeepSeek-R1-FP4。
在后覆按量化方面，该模子将Transformer模块内的线性算子的权重和激活量化到了FP4，适用于TensorRT-LLM推理。这一优化使每个参数的位数从8位减少到4位，从而让磁碟空间和GPU显存的需求减少了约1.6倍。
详细自券商中国开yun体育网