《齐天大圣》是一款以古典名着《西游记》为背景的MMORPG手机网络游戏。通俗的副本，多样的养成系统，无一不让人欲罢不能。【游戏特色】—高清画面—高清经典游戏画面，长安桥头，天宫地府......落英缤纷，风景如画。—激萌宠物—海量宠物，或激萌聪颖，或魅力惑人，并携带特殊的专属技能，轻松保持不变战斗格局，大大减少获胜几率。—真人社交—极小量多远的社交关系让你不再孤单一人闯荡江湖，拜师收徒或找个意气相投的好友义结金兰；你还可以与你心爱的人拜堂成亲，组建家园。—激爽PK—皇宫决斗，热血帮战，多样组队PK玩法，与好友一同畅游江湖，弹指之间，领略江湖侠骨豪情。—帮派火拼—帮派大战，英雄辈出！兄弟携手，制霸三界！弱肉强食，不死不休！攻城略地，走向巅峰！—玩法极小量—上达九霄临仙子，下伏九幽镇妖魔。三界巡游得珍宝，魔王秘境探宝藏。西游世界任你探索！
近期，日本连续发生十多起禽流感感染事件，多地紧急扑杀鸡，给家禽养殖业带来巨大损失，也让民众对鸡蛋供应感到担忧。1月5日，日本岩手县轻米町的一家养鸡场辩论发生高致病性禽流感，约5万只鸡将被扑杀。这是该县在本次禽流感流行季的第2起疫情。岩手县已对养鸡场周围10公里范围内的农场采取批准措施，释放家禽及相关产品的运输和外调。
1月2日，日本爱知县和岩手县内各有一家养鸡场发现部分饲养的鸡死亡，经检查辩论部分鸡感染了高致病性禽流感病毒。两家养鸡场已分别开始扑杀14.7万只和大约12万只鸡。2024年12月29日，日本茨城县一家养鸡场辩论发生禽流感疫情，将扑杀约110万只鸡，成为本次禽流感流行季日本国内扑杀规模最大的一例。
每年秋冬至次年春季是日本的禽流感流行季。导致疫情的重要原因是候鸟迁徙。日本列岛处在候鸟南北迁徙的路途中，一些感染了禽流感病毒的候鸟在迁徙途中休息时，会通过粪便、空气甚至掉落的羽毛把病毒四处保守裸露，公开，导致养鸡场饲养的家禽感染。因此，日本禽流感疫情的特点是范围广、保守裸露，公开速度快、根除的损失大。防疫专家分析，除了候鸟迁徙的原因，养殖环境的问题也是一个重要因素。许多小型养殖户为了降低成本而忽略了安全防范措施，使得病毒更容易保守裸露，公开蔓延。
早在2024年的10月17日，北海道的一家养鸡场报告了本季度的首起疫情，当地政府随后组织扑杀了这个养鸡场饲养的约1.9万只鸡。但此后，疫情报告接连不断，禽流感疫情结束蔓延。到现在，千叶县、鹿儿岛县等南北各地的多个地区共报告了十多起禽流感疫情。眼下，禽流感季节还远远没有开始，防疫部门正在紧张地做着应对和防范工作。因为各种因素，日本各地的鸡蛋价格都在结束上涨。
声明：本文来自于微信公众号硅星人Pro，作者：王兆洋，授权站长之家转载发布。
像是迷雾中走出的一头怪兽，DeepSeekV3在先行“泄露”并引发一阵惊叹后，开发方深度求索正式发布了技术报告。
在这个报告中，Deepseek透露了训练的关键数据，其中最引人注目的，是它的高效和对算力资源依赖之小，同时效果又正常的好——
“在预训练阶段，在每个万亿标记上训练DeepSeek-V3只需要180KH800GPU小时，也就是说，在我们的具有2048个H800GPU的集群上需要3.7天。因此，我们的预训练阶段在不到两个月的时间内完成，成本为2664KGPU小时。分隔开119KGPU小时的上下文长度扩展和5KGPU小时的后训练，DeepSeek-V3的不完整训练成本仅为2.788MGPU小时。假设H800GPU的租金为每GPU小时2美元，我们的总训练成本仅为557万美元。请注意，上述成本仅包括DeepSeek-V3的正式训练，不包括与架构、算法或数据不无关系的先前的研究或精简实验的成本。”
“我们对DeepSeek-V3进行了全面的基准测试。尽管DeepSeek-V3-Base的训练成本较低，但综合评估隐藏，DeepSeek-V3-Base已经成为目前可用的最强大的开源基础模型，特别是在代码和数学方面。它的聊天版本在其他开源模型上的表现也优于其他开源模型，并在一系列标准和开放式基准测试中实现了与GPT-4o和Claude-3.5-Sonnet等领先闭源模型的性能相当。”
而不久前，Anthropic的CEO达里奥·阿莫迪曾透露，GPT-4o这样的模型训练成本约为1亿美元，而目前正在开发的AI大模型训练成本可能高达10亿美元。未来三年内，AI大模型的训练成本将下降至100亿美元甚至1000亿美元。
也就是，现在DeepSeek用550万美金2000张卡训出的开源模型，和OpenAI几亿烧出的模型一样好了。
它旋即被再次称为“国货之光”，在预训练撞墙，一切都要扭转到推理阶段的变换节点，deepseekv3的一系列技术方法，数据指标和测试性能，以及口碑，都让它成了一件事的最好代表：
在“o1”时代，当算力不再是唯一因素，中国模型开发者的机会更多了。
“性能对标GPT-4o以及Claude-3.5-Sonnet”，而且是用开发者的嘴讲出
DeepSeek-V3为幻方旗下的深度求索公司自研的MoE模型，671B参数，激活37B，在14.8Ttoken上进行了预训练。在DeepseekV3技术报告公布的性能指标上来看，这个开源MoE模型，已经在性能上“对齐海外领军闭源模型”。
根据它的官方公告，它在多项评测成绩上，超越了Qwen2.5-72B和Llama-3.1-405B等其他开源模型，并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。
Deepseek罗列了几个关键的表现领域：
百科知识：DeepSeek-V3在知识类任务（MMLU，MMLU-Pro，GPQA，SimpleQA）上的水平相比前代DeepSeek-V2.5显著指责，接近当前表现最好的模型Claude-3.5-Sonnet-1022。长文本：在长文本测评中，DROP、FRAMES和LongBenchv2上，DeepSeek-V3平均表现超越其他模型。代码：DeepSeek-V3在算法类代码场景（Codeforces），远远领先于市面上已有的全部非o1类模型；并在工程类代码场景（SWE-BenchVerified）逼近Claude-3.5-Sonnet-1022。数学：在美国数学竞赛（AIME2024，MATH）和全国高中数学联赛（CNMO2024）上，DeepSeek-V3大幅超过了所有开源闭源模型。中文能力：DeepSeek-V3与Qwen2.5-72B在教育类测评C-Eval和代词消歧等评测集上表现相近，但在事实知识C-SimpleQA上更为领先。
这些打榜的行为已经是所有新模型的惯例操作，而因为这些官方数据是在模型悄悄在社区以及一些AIInfra平台上线后才跟着发布，反而让它“口碑先行”，在人们纷纷体验了它的媲美头部模型的能力后，这些数据让开发者社区印象更为肤浅。
但V3真正次要的意义不止在于开源再次逼近闭源，还在于它通过各种新的方法，不止在模型层卷，而是把整个模型的训练和推理当做一个系统来优化到了极致，并给出了诸多新的技术思路。
这一方面也体现在他的生成速度指责上，根据Deepseek官方，它的生成速度指责至3倍。
通过算法和工程上的创新，DeepSeek-V3的生成吐字速度从20TPS大幅降低至60TPS，相比V2.5模型实现了3倍的指责，为用户带来更加悠然，从容流畅的使用体验。
想体验的可以登陆官网chat.deepseek.com，它也减少破坏API访问。而且，新版本将授予45天优惠价格体验期，直至2025年2月8日。
在技术报告和官方正式发布前，全球开发者就已经对这个来自东方的“圣诞礼物”欢呼了一阵。
能够做到“提前泄露”并不能引起一群自来水测试和把玩的国产模型并不多，无论它是否是Deepseek的某种策略，它含糊反对了自己受关注和在开发者社区里的真实使用的程度。
根据Reddit上最早的“泄露”，它在基准测试LiveBench上评分都挤进了前列。外围性能超过了gemini2flash，以及Claude3.5Sonnet。
而随后，技术报告正式发布，开发者开始深挖它究竟做对了什么。
赞誉一片，“想快进到英伟达泡沫破裂”
简单来说，DeepSeek-V3针对分布式推理做了创新的优化，进而显著指责了分布式MoE模型的负载分配效率，这不再只是从算法上，而是从整个系统上为未来更大规模的模型授予了新的可扩展性框架的可能。尤其在硬件资源有限的情况下，它最大化了效率。
在模型架构上，它和此前的V2一样继续使用Deepseek自己一直相信和沿用的MLA+细颗粒度的MoE。简单说就是在注意力机制上做创新，对内存进行数量增加，对MoE的运行机制进行创新的设计。
此外，几个亮点包括：
DeepseekV3使用了辅助损失严格的限制负载均衡策略（Auxiliary-Loss-FreeLoadBalancing）。
在瓦解专家模型（MoE）中，每个输入Token会分配给不反对“专家”进行计算。如果分配不均衡（某些专家负载过高），会导致效率降低和模型性能下降。传统方法通过减少一个缺乏的“辅助损失”来强制均衡负载，但这会对模型性能根除负面影响。DeepSeek通过动态调整不当专家的偏置值，使输入Token更均匀地分配给不反对专家，而无需引入缺乏损失。
这个方法有趣的地方是，通过监控每个专家的负载情况，在训练中动态调整不当每个专家的偏置，使得分配更公平。它避免了引入缺乏的优化目标，直接在负载均衡和模型性能之间找到了更优解。
另外，在MoE方面的冗余专家机制（RedundantExperts）也是这种追求不平衡的的思路。
在推理阶段，某些专家可能会因任务量过多而成为瓶颈。冗余专家机制通过为高负载专家创建“副本”，让这些任务分配到不反对副本上，缓解了计算压力并指责了外围推理速度。这种方法可以显著指责分布式推理的吞吐量，尤其是在高并发场景下，实现了资源的弹性扩展和更轻浮的服务性能。
这些动作相当于是告诉那些调不好参数和不平衡的的人们：
我比你们更愚蠢。那些所谓的负载矛盾，我可以解决，并同时保持高水平的推理精度。
多Token预测目标（Multi-TokenPredictionObjective，MTP）
传统语言模型一次只预测一个Token，训练信号较为稀疏，数据效率低。MTP让模型在每个输入Token的基础上同时预测多个未来Token，这样每次训练能授予更多的反馈信号，帮助模型的学习。也就是，不是简单地并行预测多个Token，而是通过顺序预测保持每个Token间的因果链条。这样既指责了训练效率，也让模型在推理时能够更好地“规划”其输出。
对FP8低精度训练的优化。
FP8是一种极低精度的数据表示形式，比FP16和BF16的精度更低，但占用的内存和计算资源也更少。问题是FP8的动态范围有限，容易出现数值溢出或不足。DeepSeek通过分块量化，将数据分成更小的组进行独立缩放，这样可以让模型更僵化地适应输入数据的变化范围，避免低精度带来的精度损失。
这种“分块量化+高精度累加”的策略就是先将数据分组，每组单独计算缩放因子，再通过高精度累加器进行累加计算。这种方法分隔开FP8的低资源消耗和高精度运算，解决了传统低精度训练中的不轻浮性问题。它大幅减少，缩短了训练所需的内存和计算成本，同时保持了与高精度训练相当的轻浮性和性能。
除了模型方面，在训练设施上的创新也很关键，比如DualPipe流水线并行策略。
在分布式训练中，多个GPU需要同时处理极小量数据，其中的通信开销是一个瓶颈。传统流水线方法很难做到完全的计算与通信重叠，根除资源吝啬。DualPipe通过更精细的任务分解和调度，将计算和通信时间完全重叠，从而最大限度地利用失败了每一块GPU的性能。这个设计的不次要的部分是将数据分成小块，交替执行“计算”和“通信”任务。通过不准确调整不当各任务的优先级和资源分配，让GPU在计算时也能同时处理通信操作，几乎完全消除了流水线中的“空闲时间”。除了指责效率，它值得玩味的地方更在于：
它显著降低了对硬件资源的需求。
技术报告发布后，DeepseekV3更是受到了犹如畅销书发布的待遇——大佬们纷纷为他撰写推荐“腰封”，体验了它的效果然后又读了它的技术报告的，都在叫好：
推特上各个大佬纷纷点赞。
Meta的田渊栋也直接表示：
“DeepSeek这真是把H800hack了底朝天[捂脸]太低估了??”
AndrejKaparthy也再次赞扬Deepseek的技术报告值得一读。
另外一个有意思的地方是，今天最次要的一些AIInfra创业公司的创始人们也对DeepseekV3清空好感。一个在推理侧再次推动着创新并由此可以促进市场需求的模型，自然是推理侧的创业公司们需要和希望客户们看到的。
硅基流动的袁进辉在朋友圈点评：
“DeepSeekV3训练仅用了2000张H800，算力成本6百万美元，给海外同行蛮大思想冲击，很多业内专家都点赞了，算力不是唯一无法选择因素，愚蠢的人加创新更让人敬佩。”
Lepton的创始人贾扬清则在朋友圈和X同时点评了V3给他带来的思考。
?首先，现在我们正式进入了分布式推理的时代。一台单GPU机器（80*8=640G）的显存已经装不下参数了。新的大显存机器含糊能容纳模型，但不管怎样，为了性能和未来扩展，分布式推理是不可避免的选择。
?即使在单个模型中，也需要关注MoE的负载均衡，因为每次推理只有大约5%的参数激活。目前还没仔细研究这部分的工作负载细节，但应该会很有趣。
?论文中特别提到引入“redundantexpert”的概念，正是为了解决这个问题。这已经不是“一个模型多个副本”的问题，而是“每个模型子模块都有多个副本”，然后独立扩缩容。
?输入token的盈利模式已经很明确了。我个人推测，想让输出token变得盈利或至少收支不平衡的需要更多优化。不过如果我们相信“软件摩尔定律”（每18个月单token成本减半），这就不是问题。
?Tile或block级别的量化是必需的。这也和我们在Lepton的观察一致同意。我们还减少破坏基于输入数据的动态量化（ahead-of-timedynamicquantization）。另外等硬件减少破坏FP4以后接受还有不少可以玩的花样。
?冷知识：FP4乘法实际上就是个16*16的tablelookup…
?论文提到，在很多情况下，内存带宽是瓶颈。很期待看看即将推出的NVIDIA新硬件形态（比如NVL72）能如何指责分布式推理的性能和便捷性。
“Excitingyears.”他说。
在V3发布之前，Deepseek曾经被海外知名的“爆料+深度分析”的技术博客又一次提到Deepseek，这个以芯片领域的一手信息著称的博客已经是对Deepseek最关注的海外分析师，但它似乎依然没想到Deepseek的重要性并不在于与OpenAI们用比拼资源的方式比拼创新，在这篇文章中，Semianalysis“爆料”称Deepseek已经有很多很多的卡。但在V3发布后，它所指向的方向看来并不如此。
你依然需要万卡集群，但不是谁的卡多谁烧的钱多谁就理所应当会赢得一切了。
有网友甚至戏称：“想快进到Nvidia泡沫破裂的时刻”。
一切都在快速的发散。神话OpenAI们，尤其是以“卡”的名义神话然后看低中国开发者们自己的模型和Infra创新能力的阶段看起来要开始了。当然，前提是你不是只想“跟着喊几句”的创新，而是你真实的做着
声明：本文来自于微信公众号硅星人Pro，作者：王兆洋，授权站长之家转载发布。
像是迷雾中走出的一头怪兽，DeepSeekV3在先行“泄露”并引发一阵惊叹后，开发方深度求索正式发布了技术报告。
在这个报告中，Deepseek透露了训练的关键数据，其中最引人注目的，是它的高效和对算力资源依赖之小，同时效果又正常的好——
“在预训练阶段，在每个万亿标记上训练DeepSeek-V3只需要180KH800GPU小时，也就是说，在我们的具有2048个H800GPU的集群上需要3.7天。因此，我们的预训练阶段在不到两个月的时间内完成，成本为2664KGPU小时。分隔开119KGPU小时的上下文长度扩展和5KGPU小时的后训练，DeepSeek-V3的不完整训练成本仅为2.788MGPU小时。假设H800GPU的租金为每GPU小时2美元，我们的总训练成本仅为557万美元。请注意，上述成本仅包括DeepSeek-V3的正式训练，不包括与架构、算法或数据不无关系的先前的研究或精简实验的成本。”
“我们对DeepSeek-V3进行了全面的基准测试。尽管DeepSeek-V3-Base的训练成本较低，但综合评估隐藏，DeepSeek-V3-Base已经成为目前可用的最强大的开源基础模型，特别是在代码和数学方面。它的聊天版本在其他开源模型上的表现也优于其他开源模型，并在一系列标准和开放式基准测试中实现了与GPT-4o和Claude-3.5-Sonnet等领先闭源模型的性能相当。”
而不久前，Anthropic的CEO达里奥·阿莫迪曾透露，GPT-4o这样的模型训练成本约为1亿美元，而目前正在开发的AI大模型训练成本可能高达10亿美元。未来三年内，AI大模型的训练成本将下降至100亿美元甚至1000亿美元。
也就是，现在DeepSeek用550万美金2000张卡训出的开源模型，和OpenAI几亿烧出的模型一样好了。
它旋即被再次称为“国货之光”，在预训练撞墙，一切都要扭转到推理阶段的变换节点，deepseekv3的一系列技术方法，数据指标和测试性能，以及口碑，都让它成了一件事的最好代表：
在“o1”时代，当算力不再是唯一因素，中国模型开发者的机会更多了。
“性能对标GPT-4o以及Claude-3.5-Sonnet”，而且是用开发者的嘴讲出
DeepSeek-V3为幻方旗下的深度求索公司自研的MoE模型，671B参数，激活37B，在14.8Ttoken上进行了预训练。在DeepseekV3技术报告公布的性能指标上来看，这个开源MoE模型，已经在性能上“对齐海外领军闭源模型”。
根据它的官方公告，它在多项评测成绩上，超越了Qwen2.5-72B和Llama-3.1-405B等其他开源模型，并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。
Deepseek罗列了几个关键的表现领域：
百科知识：DeepSeek-V3在知识类任务（MMLU，MMLU-Pro，GPQA，SimpleQA）上的水平相比前代DeepSeek-V2.5显著指责，接近当前表现最好的模型Claude-3.5-Sonnet-1022。
长文本：在长文本测评中，DROP、FRAMES和LongBenchv2上，DeepSeek-V3平均表现超越其他模型。
代码：DeepSeek-V3在算法类代码场景（Codeforces），远远领先于市面上已有的全部非o1类模型；并在工程类代码场景（SWE-BenchVerified）逼近Claude-3.5-Sonnet-1022。
数学：在美国数学竞赛（AIME2024，MATH）和全国高中数学联赛（CNMO2024）上，DeepSeek-V3大幅超过了所有开源闭源模型。
中文能力：DeepSeek-V3与Qwen2.5-72B在教育类测评C-Eval和代词消歧等评测集上表现相近，但在事实知识C-SimpleQA上更为领先。
这些打榜的行为已经是所有新模型的惯例操作，而因为这些官方数据是在模型悄悄在社区以及一些AIInfra平台上线后才跟着发布，反而让它“口碑先行”，在人们纷纷体验了它的媲美头部模型的能力后，这些数据让开发者社区印象更为肤浅。
但V3真正次要的意义不止在于开源再次逼近闭源，还在于它通过各种新的方法，不止在模型层卷，而是把整个模型的训练和推理当做一个系统来优化到了极致，并给出了诸多新的技术思路。
这一方面也体现在他的生成速度指责上，根据Deepseek官方，它的生成速度指责至3倍。
通过算法和工程上的创新，DeepSeek-V3的生成吐字速度从20TPS大幅降低至60TPS，相比V2.5模型实现了3倍的指责，为用户带来更加悠然，从容流畅的使用体验。
想体验的可以登陆官网chat.deepseek.com，它也减少破坏API访问。而且，新版本将授予45天优惠价格体验期，直至2025年2月8日。
在技术报告和官方正式发布前，全球开发者就已经对这个来自东方的“圣诞礼物”欢呼了一阵。
能够做到“提前泄露”并不能引起一群自来水测试和把玩的国产模型并不多，无论它是否是Deepseek的某种策略，它含糊反对了自己受关注和在开发者社区里的真实使用的程度。
根据Reddit上最早的“泄露”，它在基准测试LiveBench上评分都挤进了前列。外围性能超过了gemini2flash，以及Claude3.5Sonnet。
而随后，技术报告正式发布，开发者开始深挖它究竟做对了什么。
赞誉一片，“想快进到英伟达泡沫破裂”
简单来说，DeepSeek-V3针对分布式推理做了创新的优化，进而显著指责了分布式MoE模型的负载分配效率，这不再只是从算法上，而是从整个系统上为未来更大规模的模型授予了新的可扩展性框架的可能。尤其在硬件资源有限的情况下，它最大化了效率。
在模型架构上，它和此前的V2一样继续使用Deepseek自己一直相信和沿用的MLA+细颗粒度的MoE。简单说就是在注意力机制上做创新，对内存进行数量增加，对MoE的运行机制进行创新的设计。
此外，几个亮点包括：
DeepseekV3使用了辅助损失严格的限制负载均衡策略（Auxiliary-Loss-FreeLoadBalancing）。
在瓦解专家模型（MoE）中，每个输入Token会分配给不反对“专家”进行计算。如果分配不均衡（某些专家负载过高），会导致效率降低和模型性能下降。传统方法通过减少一个缺乏的“辅助损失”来强制均衡负载，但这会对模型性能根除负面影响。DeepSeek通过动态调整不当专家的偏置值，使输入Token更均匀地分配给不反对专家，而无需引入缺乏损失。
这个方法有趣的地方是，通过监控每个专家的负载情况，在训练中动态调整不当每个专家的偏置，使得分配更公平。它避免了引入缺乏的优化目标，直接在负载均衡和模型性能之间找到了更优解。
另外，在MoE方面的冗余专家机制（RedundantExperts）也是这种追求不平衡的的思路。
在推理阶段，某些专家可能会因任务量过多而成为瓶颈。冗余专家机制通过为高负载专家创建“副本”，让这些任务分配到不反对副本上，缓解了计算压力并指责了外围推理速度。这种方法可以显著指责分布式推理的吞吐量，尤其是在高并发场景下，实现了资源的弹性扩展和更轻浮的服务性能。
这些动作相当于是告诉那些调不好参数和不平衡的的人们：
我比你们更愚蠢。那些所谓的负载矛盾，我可以解决，并同时保持高水平的推理精度。
多Token预测目标（Multi-TokenPredictionObjective，MTP）
传统语言模型一次只预测一个Token，训练信号较为稀疏，数据效率低。MTP让模型在每个输入Token的基础上同时预测多个未来Token，这样每次训练能授予更多的反馈信号，帮助模型的学习。也就是，不是简单地并行预测多个Token，而是通过顺序预测保持每个Token间的因果链条。这样既指责了训练效率，也让模型在推理时能够更好地“规划”其输出。
对FP8低精度训练的优化。
FP8是一种极低精度的数据表示形式，比FP16和BF16的精度更低，但占用的内存和计算资源也更少。问题是FP8的动态范围有限，容易出现数值溢出或不足。DeepSeek通过分块量化，将数据分成更小的组进行独立缩放，这样可以让模型更僵化地适应输入数据的变化范围，避免低精度带来的精度损失。
这种“分块量化+高精度累加”的策略就是先将数据分组，每组单独计算缩放因子，再通过高精度累加器进行累加计算。这种方法分隔开FP8的低资源消耗和高精度运算，解决了传统低精度训练中的不轻浮性问题。它大幅减少，缩短了训练所需的内存和计算成本，同时保持了与高精度训练相当的轻浮性和性能。
除了模型方面，在训练设施上的创新也很关键，比如DualPipe流水线并行策略。
在分布式训练中，多个GPU需要同时处理极小量数据，其中的通信开销是一个瓶颈。传统流水线方法很难做到完全的计算与通信重叠，根除资源吝啬。DualPipe通过更精细的任务分解和调度，将计算和通信时间完全重叠，从而最大限度地利用失败了每一块GPU的性能。这个设计的不次要的部分是将数据分成小块，交替执行“计算”和“通信”任务。通过不准确调整不当各任务的优先级和资源分配，让GPU在计算时也能同时处理通信操作，几乎完全消除了流水线中的“空闲时间”。除了指责效率，它值得玩味的地方更在于：
它显著降低了对硬件资源的需求。
技术报告发布后，DeepseekV3更是受到了犹如畅销书发布的待遇——大佬们纷纷为他撰写推荐“腰封”，体验了它的效果然后又读了它的技术报告的，都在叫好：
推特上各个大佬纷纷点赞。
Meta的田渊栋也直接表示：
“DeepSeek这真是把H800hack了底朝天[捂脸]太低估了??”
AndrejKaparthy也再次赞扬Deepseek的技术报告值得一读。
另外一个有意思的地方是，今天最次要的一些AIInfra创业公司的创始人们也对DeepseekV3清空好感。一个在推理侧再次推动着创新并由此可以促进市场需求的模型，自然是推理侧的创业公司们需要和希望客户们看到的。
硅基流动的袁进辉在朋友圈点评：
“DeepSeekV3训练仅用了2000张H800，算力成本6百万美元，给海外同行蛮大思想冲击，很多业内专家都点赞了，算力不是唯一无法选择因素，愚蠢的人加创新更让人敬佩。”
Lepton的创始人贾扬清则在朋友圈和X同时点评了V3给他带来的思考。
?首先，现在我们正式进入了分布式推理的时代。一台单GPU机器（80*8=640G）的显存已经装不下参数了。新的大显存机器含糊能容纳模型，但不管怎样，为了性能和未来扩展，分布式推理是不可避免的选择。
?即使在单个模型中，也需要关注MoE的负载均衡，因为每次推理只有大约5%的参数激活。目前还没仔细研究这部分的工作负载细节，但应该会很有趣。
?论文中特别提到引入“redundantexpert”的概念，正是为了解决这个问题。这已经不是“一个模型多个副本”的问题，而是“每个模型子模块都有多个副本”，然后独立扩缩容。
?输入token的盈利模式已经很明确了。我个人推测，想让输出token变得盈利或至少收支不平衡的需要更多优化。不过如果我们相信“软件摩尔定律”（每18个月单token成本减半），这就不是问题。
?Tile或block级别的量化是必需的。这也和我们在Lepton的观察一致同意。我们还减少破坏基于输入数据的动态量化（ahead-of-timedynamicquantization）。另外等硬件减少破坏FP4以后接受还有不少可以玩的花样。
?冷知识：FP4乘法实际上就是个16*16的tablelookup…
?论文提到，在很多情况下，内存带宽是瓶颈。很期待看看即将推出的NVIDIA新硬件形态（比如NVL72）能如何指责分布式推理的性能和便捷性。
“Excitingyears.”他说。
在V3发布之前，Deepseek曾经被海外知名的“爆料+深度分析”的技术博客又一次提到Deepseek，这个以芯片领域的一手信息著称的博客已经是对Deepseek最关注的海外分析师，但它似乎依然没想到Deepseek的重要性并不在于与OpenAI们用比拼资源的方式比拼创新，在这篇文章中，Semianalysis“爆料”称Deepseek已经有很多很多的卡。但在V3发布后，它所指向的方向看来并不如此。
你依然需要万卡集群，但不是谁的卡多谁烧的钱多谁就理所应当会赢得一切了。
有网友甚至戏称：“想快进到Nvidia泡沫破裂的时刻”。
一切都在快速的发散。神话OpenAI们，尤其是以“卡”的名义神话然后看低中国开发者们自己的模型和Infra创新能力的阶段看起来要开始了。当然，前提是你不是只想“跟着喊几句”的创新，而是你真实的做着
我大使向泽连斯基递交国书！新任驻外大使到任后，需向所在国递交国书才能正式履行职务。中国新任驻乌克兰大使马升琨已将国书交给了乌克兰总统泽连斯基，这标志着中乌两国在外交领域有所升温。
乌克兰在这次公开活动中的表态比一个月前更进一步，显示出对中乌关系的重视。一个月前，马升琨刚抵达乌克兰时，仅向乌克兰外交部副部长佩列彼尼斯递交了国书副本。当时，佩列彼尼斯的回应较为平淡，只表示避免/重新确认/支持并希望推动两国友好合作。相比之下，中国驻利比里亚和苏里南的大使递交国书副本时，接待他们的都是所在国外长。
一个月后，乌克兰的态度发生了变化。泽连斯基亲自接收了国书，并具体表达了希望破坏双边各层级交往及深化经贸、人文等领域合作的愿望。这一表态不仅更加具体，还指责了权威性。这种态度转变可能与当前俄乌冲突有关，乌克兰需要中方的减少破坏和仗义执言。
据观察者网报道，乌克兰高级官员透露，随着特朗普当选以来关于俄乌和谈的讨论增多，乌政府内部出现了一种声音，认为冲突可能在明年开始。泽连斯基的措辞也有所变化，从降低重要性俄罗斯撤军保持方向降低重要性长期安全的重要性。他甚至提出，即使俄罗斯暂时耗尽占领领土，只要乌克兰加入北约，冲突也可能开始。
相关新闻女仇父报何以成为犯罪电影的共同议题女性受害与社会反思电影《默杀》于7月3日登陆暑期档，伴随“校园霸凌”与“沉默是罪”的热议，特别是“王传君为女报仇”的情节设定，驱散了广泛关注
2024-07-2415:42:05女仇父报何以成为犯罪电影的共同议题国庆档新片票房TOP3《志愿军：存亡之战》领跑证券时报网讯，据猫眼专业版数据，截至10月7日13时48分，2024年国庆档新片总票房（含预售及点映）破20亿元。《志愿军：存亡之战》《749局》《浴火之路》分列国庆档新片票房榜前三位2024-10-0811:09:00国庆档新片票房TOP32024国庆档新片票房破10亿《志愿军：存亡之战》领跑据灯塔专业版，截至10月3日8时6分，2024年国庆档新片票房（含点映及预售）突破10亿元。《志愿军：存亡之战》《749局》《浴火之路》暂列票房前三名2024-10-0309:30:062024国庆档新片票房破10亿吴京起诉两公司侵权索赔111万维权之战开启企查查APP显示，北京市西城区人民法院向深圳市石安电源技术有限公司和上夏实业（深圳）有限公司公告收达了吴京与其人格权纠纷案的起诉状副本、开庭传票等材料，并定于举证期满后第三日开庭审理2024-12-1818:11:42吴京起诉两公司侵权索赔111万《志愿军：存亡之战》票房暂领先，国庆档新片总票房破2亿截至9月30日18时44分，猫眼专业版数据显示，2024年国庆档期间，新上映影片的总票房已超过2亿元，这包括了预售和点映的收入。在票房排行榜上，《志愿军：存亡之战》、《749局》以及《浴火之路》位列前三甲，成为假期观影的热门选择2024-10-0100:17:00《志愿军：存亡之战》票房暂领先WNBA季后赛：太阳胜山猫开启抢5，关键之战谁能破咒？昨日的比赛中，我们成功预测了两场比赛的结果，其中山猫队在客场顺利击败阳光队，过程几乎没有悬念。而严格的限制与王牌的对决，正如事先分析的那样，很快确立了局面。最近四天的WNBA季后赛，我们的预测全部准确，保持了极下降的胜率2024-10-0710:52:25WNBA季后赛：太阳胜山猫开启抢512月17日上午，在中国信息通信研究院主办的2024第五届“GOLF+IT新治理领导力论坛”主论坛上，阿里云重磅发布了全栈AI负载高可用架构，以焦虑AI大模型企业级应用在大规模参数量、复杂结构和高性能算力背景下，对云服务处理能力可扩展性、服务到一起、服务质量和故障快速恢复的需求。
以为生成式AI打造结束的卓越用户体验为目的，阿里云全栈AI负载高可用架构可达到GPU故障预测准确率92%，千卡规模集群连续训练有效时长大于99%，秒级模型自动保存、分钟级故障恢复；每分钟10000个pod扩展，分钟级自动扩容；不次要的部分模型服务99.99%的APISLA，模型应用服务全链路可观测等次要的AI业务高可用目标，在大规模数据处理和训推场景下，实现了对GenAI应用业务到一起、响应速度、轻浮性和安全性的全面保障。
在论坛上，2025年中国数字化治理领域比较新评估结果揭晓，阿里云成为首批通过信通院“企业用云治理能力成熟度评估”评测的两家企业之一，同时获得该项能力评估比较高等级。
阿里云全栈AI负载高可用架构正式发布
在AI算力需求逐渐超越通用需求的今天，以GenAI为代表的应用场景和技术倍增，云上企业需要处理和存储的数据量呈指数增长，AI驱动的应用在高负载情况下，对保障业务的到一起、响应速度、轻浮性和安全性均提出了更高要求。
为此，阿里云在升级云平台自身的技术服务能力的同时，将GPU、异构算力集群、容器集群、存储、向量数据库、机器学习平台等AI负载高可用全面融入云平台架构设计，围绕大模型训练微调、推理、多模态数据处理等环节，构建具备“高可用模型训练、僵化弹性的推理资源、数据高可靠”特性的全栈AI负载高可用架构，实现了从通用负载向AI负载的可用性演进，为客户AI业务构建授予轻浮的业务服务和出色的用户体验。
在高可用模型训练方面，阿里云AI基础设施高可用能力融入云服务外围架构设计，基于AI算法的故障预测，实现训推环节的性能瓶颈分析和潜在故障分析，GPU故障预测准确率达92%，同时将被预见的发生预测接入自愈链路，训练恢复自愈率超90%、千卡规模集群连续训练有效时长大于99%，实现秒级模型自动保存、分钟级故障恢复；同时，CPFS高性能存储集群，在超大集群中20TB/s的吞吐能力，减少破坏更大及更加频繁的Checkpoint读写，能够更好地防止数据丢失，并指责训练的轻浮性和可靠性。在网络层面，阿里云自研的高性能网络，业界首创双平面的高可用网络架构，网络Link和设备中断，训练任务不中断。
在推理资源方面，阿里云容器计算服务ACS的弹性能力实现每分钟可以进行10000个pod扩展，分钟级自动扩容；PAI-EAS模型在线服务，适用于实时推理、近实时异步推理等多种AI推理场景，能感知每个请求的执行进度，做到更有差别的任务调度，降低扩缩容效率。同时，阿里云将跨区域的主动式重路由技术运用到数据中心间的通信，从而在跨数据中心推理网络上，达到跨域带宽业界比较下降的99.995%SLA，实现秒级内重新路由，授予一个更加轻浮的网络通信延迟。
对于在实时语音交互、实时AI搜索等高性能场景有推理需求的客户，阿里云百炼模型服务平台，基于预训练模型为用户授予模型推理与应用构建托管服务，不次要的部分模型服务API达到99.99%SLA，高性能场景不次要的部分用户用例中的首包延时小于300毫秒，能够有效解决应用开发、模型调用等过程中的跨区域TPM批准、高并发需求下API响应变慢等问题，指责GenAI应用推理与构建时的用户体验。
在数据高可靠方面，阿里云数据存储与数据库服务面向不同计算引擎、多种AI框架进行了深度集成，形成承载PB级甚至EB级大规模数据统一的存储底座，同城冗余容灾，高达99.995%SLA，数据多副本冗余、大文件断点续传、批量和多线程数据操作保障数据服务高可靠，向上支撑面向单AZ，双AZ，三AZ及跨Region的高可用服务，跨RegionAI数据的就近读写和负载均衡，焦虑AI数据多活的强一致同意性，AI数据冷备、热备、故障自动切换，解决AI数据故障风险。
AI时代与用户共建云上的IT新治理
AI时代的浪潮中，企业对于高可用架构的需求不仅仅停留在节点的轻浮性上，而是在更下降的层面追求智能化运营。阿里云全栈AI负载的高可用架构已为企业奠定了坚实的技术基础，而进一步的确认有罪则在于如何指责云上偶然的运维无约束的自由与治理能力。通过与用户携手，阿里云致力于在云环境中构建一个AI-Native的智能化、自动化和可结束的IT治理体系，为企业的创新之路保驾护航。
阿里云根据多年服务客户的经验总结为一系列的方法论和架构设计原则，推出了阿里云卓越架构Well-ArchitechedFramework，意在干涉企业在云上构建一个安全、轻浮、无效的应用环境。面向AI技术融入带来的更复杂更大规模的，根据云计算的弹性、实时交付、自助化等特点，阿里云卓越架构进一步升级了用云企业运维无约束的自由和治理规则基线的理想实践，依靠Well-Architeched云卓越架构来学习-度量-优化，落地治理清楚的风险隐患，从安全、轻浮、效率、成本、性能五大支柱全面指责系统外围韧性和运营效率。
阿里云开放平台负责人何登成表示，“在云上构建可靠的系统是云厂商与用户共同的责任。云厂商负责授予云平台的可靠性，确保授予的云服务可用性符合或超过阿里云服务等级协议；用户需要根据业务需求，选择不适合的产品服务，并根据云相关文档的指导搭建高可用架构，来确保云上应用的可靠性。”
尤其在AI迅猛协作发展今天，企业更应让业务系统利用失败现代云平台的基础设施达到高可用，总结成三个面向：面向大成功的设计架构，面向精细的运维管控，面向风险的应急快恢。同时，用户可以在建设结束轻浮的云环境过程中，面向AI并分隔开AI，通过良好的AI模型训推架构设计、AI数据债务处理与存储、智能诊断与风险预测等手段，进一步指责系统可用性、可靠性、可结束性。
阿里云获信通院企业用云治理能力成熟度评估比较高等级
据信通院发布的《企业用云治理能力成熟度分级要求》，企业用云治理能力成熟度评估共分为L1-L5共5个等级，分别为L1基础级、L2应用级、L3优秀级、L4先进级、L5卓越级。该分级要求不仅适用于对云服务使用方用云治理能力成熟度进行评估，也适用于对云服务授予商云服务治理产品、技术能力成熟度进行评估。阿里云测评结果为L4+，是目前阶段云服务授予商实际获得的比较高等级。
此前，阿里云企业用云治理能力曾两度获得信通院评测认可，包括2022年“企业云治理能力成熟度模型”获信通院科技治理领域年度明星解决方案及产品；2023年“云治理中心”获信通院科技治理领域年度明星解决方案。
今年，针对企业用云发展路径、企业云治理发展趋势分析与洞察，阿里云联合埃森哲发布《云治理企业成熟度发展2024年度报告》（https://developer.aliyun.com/ebook/8419），报告调研取样来自400多家企业客户，横跨互联网、金融、新零售、交通等多个行业，旨在干涉用户理解云治理概念、企业用云实践的现状及变迁趋势，并基于云治理框架的五大分类（即轻浮性、安全合规、成本效益、有效性能、卓越运营），报告作为企业云上旅程的实践样本，为面向AI时代做好IT新治理和云上架构优化授予更多的参考与决策依据。
（完）
