星点匠心建站 星点匠心建站XD JIANXIN STUDIO
400-883-9527 免费定制方案
ARTICLE DETAIL

资讯详情

深耕新锐建站与运营推广的一线实战洞察。

AMD联手KT押注Moreh:AI软件栈如何成为大模型时代的胜负手

AMD联手KT押注Moreh:AI软件栈如何成为大模型时代的胜负手 这一轮AI基础设施的投资里最值得关注的已经不是芯片本身而是让芯片跑起来的软件。AMD和韩国电信KT共同领投AI软件开发商Moreh就是这周投融资汇总里最典型的信号。如果你的关注点只停留在“一家芯片公司投了一家公司”这个层面很容易错过背后真正的大变化。我整理每周硬科技投融资汇总时一直会多看一层领投方是谁、被投标的处在产业链哪个位置、这笔钱打算撬开哪块市场。把这三个问题拆开AMD和KT押注Moreh的逻辑其实非常明确——大模型生态的竞争已经从拼参数、拼算力进入到了拼软件栈、拼工具链、拼开发者体验的阶段。这篇文章不打算只讲一个孤立的融资新闻。我会从这笔交易出发把AMD为何要投软件公司、KT作为运营商为何入局、Moreh这类公司到底在做什么样的技术以及本周投融资里的几个结构性信号逐个说清楚。1. 真不是一次普通的财务投资AMD和KT为什么同时看上Moreh先说这件事的基本盘。Moreh是一家总部在韩国的AI软件公司团队背景以三星电子的存储和半导体出身为主。它做的事情非常聚焦让AI框架能够不用改动太多代码就跑在非英伟达的芯片上尤其是AMD的GPU。这和市面上那些做AI中间件、做推理优化框架的公司有本质区别——Moreh的目标是拆掉“AI框架和特定硬件之间那堵看不见的墙”而这堵墙过去十几年里一直叫CUDA。AMD和KT同时领投这个组合本身就很耐看。AMD是芯片厂商它投资Moreh的诉求非常直接补齐自己在软件生态上的短板。KT是电信运营商它做的是云和数据中心生意它对AI软件栈的诉求在于要把算力真正卖出去就需要让客户在非英伟达硬件上也能轻松跑起大模型。两个领投方一个从硬件端往软件走一个从应用端往基础设施走最后在Moreh这里汇合。这不是财务投资能解释的这是产业链协同投资。再往里看一步。大模型时代训练一个模型要考虑的不只是GPU的峰值算力还有显存管理、分布式通信效率、算子编译优化、推理时的延迟和吞吐平衡。这些能力中相当大一部分不在芯片里而在软件栈里。过去踩过坑的人都清楚同样一个大模型在英伟达的卡上跑PyTorch装好就能用换到其他芯片上可能要折腾环境、改算子、处理各种不兼容时间成本高到让人直接放弃。我在跟踪人工智能基础设施类项目的时候发现一个规律真正能落地的AI项目几乎都不是光靠芯片性能赢的。比如某个推理场景看起来是GPU的浮点算力决定一切但实测下来显存分配不合理、kernel没有针对特定架构调优、通信没有做流水线隐藏都会让实际吞吐掉得非常难看。而Moreh做的就是专门处理这些脏活累活。它把框架层以下、芯片驱动以上这一整层用软件的方式优化好让应用层的人不用关心底层是哪家芯片。所以这次领投看起来是投了一家软件公司实际是AMD在花钱买“生态通行证”。它要让开发者感觉不到AMD和英伟达之间存在使用门槛这一步不迈过去芯片规格写得再漂亮在大模型训练和推理场景里也很难真正打开市场。2. 软件是AMD最该买的东西从CUDA护城河到MoAI的破局思路2.1 CUDA不是一套API是一整代开发者的使用惯性要理解AMD投资Moreh的紧迫性得先把CUDA的护城河看清楚。很多人以为CUDA只是英伟达提供的一套并行计算编程接口这个理解太浅了。CUDA的护城河是整个生态从底层的cuBLAS、cuDNN这些数值库和深度学习算子库到上层的TensorRT推理引擎、NCCL多卡通信库再到Nsight全家桶这样的性能分析工具再加上GitHub上数以百万计默认在CUDA环境下运行的代码和教程。这意味着什么意味着一个算法工程师拿到一个新项目第一反应就是假设自己有一块英伟达GPU然后照着PyTorch官方文档跑通。整个行业的知识沉淀、调试经验、问题解决方案都是围绕这套生态积累的。这不是靠多卖几块卡、多堆一些算力就能翻盘的局面。AMD的ROCm软件栈一直在追赶我也在真实项目里试过。结论是方向是对的但距离“装完就能用”还有一段路。环境配置的复杂度、个别算子的兼容性、分布式训练时的稳定性都还存在让人上头的情况。大模型时代又恰恰放大了这个问题因为模型规模越大对显存管理、通信效率、算子优化就越敏感任何一个环节不够成熟都会直接变成训练成本的上升。2.2 MoAI核心思路应用不感知底层硬件软件替硬件找补Moreh的产品叫MoAI它做的事情可以这样理解在PyTorch这类AI框架和芯片驱动之间插入一层AI专用的软件平台。这一层向上兼容主流AI框架开发者原来怎么写代码还怎么写不需要为了AMD的卡去改模型结构向下适配不同芯片把算子编译、显存分配、分布式通信这些底层问题在框架内部消化掉。这里有一个很关键的差异传统做法是“硬件有短板用户去改代码适应硬件”而MoAI的思路是“应用保持不动软件把硬件的能力调度到极致”。这意味着芯片厂商的软件团队可以少操心一大块适配工作而开发者也不再需要为换硬件付出额外学习成本。实际测试下来这类软件的优化空间是真实存在的。大模型训练的瓶颈很多时候不在算力而在显存和通信。比如一部分模型参数量很大单卡放不下通常需要花大量时间做切分和流水线并行改造MoAI这类软件会把显存管理自动化尽量帮开发者省掉手工调优的功夫。对于企业用户来说节省的是最昂贵的那部分人力投入。2.3 大模型时代芯片厂商的竞争维度已经变了还有一个值得单独拿出来的观察大模型生态热词里大模型微调、大模型私有化部署、多模态大模型、AI Agent这些方向集中爆发背后都依赖一个稳定、易用的软件层。企业做微调需要一套能跑通的工具链做私有化部署需要推理方案能适配现有硬件做智能体应用需要框架层的调度足够灵活。这些需求已经不是单纯卖芯片能满足的。过去芯片厂商的竞争是拼架构、拼制程、拼峰值算力现在拼的是“开发者在这套硬件上跑通一个大模型要花多长时间”。如果需要花两周时间调环境而英伟达平台上只要半天就算峰值算力高两倍客户也会选择英伟达。AMD投资Moreh本质上就是承认了这个新竞争维度硬件性能只是入场券软件体验才是决胜局。这里也顺便提一下AMD硬件用户的日常现状。社区里经常能看到有人在折腾AMD显卡驱动、自动检测工具、各种系统组件开关的问题搜索量居高不下。这其实侧面反映了AMD在消费级产品的软件体验上都没做到完全省心更不用说企业级的AI训练软件栈了。所以把Moreh纳入版图是补短板最直接的手段比从零开始自研一整套软件栈高效得多。3. KT的算盘运营商在AI大模型时代抢的是“软件定义算力”的席位3.1 电信运营商不需要一块GPU需要的是把算力卖出去的钥匙再说说KT。作为韩国头部电信运营商KT手里握着通信网络、数据中心和大量政企客户资源。过去运营商的AI故事更多是“用AI优化网络”“用AI做客服”这些内部提效的事。但这几年风向很明显全球运营商都在尝试把自己变成算力服务商也就是不只是卖管道和流量还要卖GPU云、卖大模型平台、卖AI解决方案。问题来了数据中心里的GPU从哪来是清一色英伟达还是兼容多种芯片如果是清一色英伟达成本谈判空间很小供应链风险也高如果有其他芯片选择就必须解决软件生态兼容问题。KT投资Moreh很大程度上是在为这个“算力商品化”过程储备弹药。3.2 从通信管道到AI基础设施背后是韩国本土生态的组局逻辑韩国本身有比较强的AI软硬件创业氛围本土AI芯片公司也在成长。但芯片造出来要形成真正的商业闭环软件适配是不可跳过的一环。KT在这个闭环里的角色很特殊它有渠道、有场景、有真正想用AI的客户缺的就是一套能让本土芯片跑起来、又足够好用的软件层。通过投资MorehKT等于把“本土算力本土软件本土云服务”拼成了一个完整拼图。而且韩国市场的AI落地有一个特点政府和大型企业对数据出境的顾虑比较多本土化部署的需求强烈。这就让“私有化部署本土AI软件栈”有了明确的付费场景。大模型要本地化光有一个模型权重不够配套的部署工具、微调平台、推理优化层都得跟上。Moreh这类公司恰好卡在这些需求和硬件之间。3.3 运营商的算力牌通信网络和边缘节点是别人没有的牌比起一般的云计算厂商运营商还有一张隐藏牌就是分布极广的网络节点和边缘机房。大模型推理如果全部回到中心化的大型数据中心时延和骨干网带宽成本都会成为瓶颈。更合理的做法是让一部分模型分发到边缘节点做就近推理这就需要在“中心到边缘”的分布式调度上做文章。Moreh的软件栈擅长的是对异构硬件的统一抽象这种抽象能力在边缘场景中同样有价值。从这个角度理解KT的投资就非常顺了它不是在买一个技术团队而是在买一个能够把自身网络、数据中心、云服务这些基础设施资产统一编排进AI服务体系里的软件能力。4. 这类AI软件公司的钱景藏在哪技术壁垒、商业模式与三个致命陷阱4.1 三样真功夫算子库、编译优化、显存管理调度很多人一听到“AI软件公司”可能会觉得是套壳应用或者做几个API集成。但Moreh这类公司做的事情完全不一样它的三样核心能力都非常硬核。第一算子库的适配与调优。每一代芯片的指令集、缓存结构、计算单元布局都不同同样的卷积算子、矩阵乘法算子在不同芯片上的最优实现是完全不同的。算子库的丰富程度和调优水平直接决定深度学习框架跑得快不快。第二编译器层的优化。AI框架写的是高层描述真正到芯片上执行需要经过一层一层的编译和翻译。编译器要做算子融合、内存布局优化、指令调度这个层面做得好能把芯片的综合利用率拉上去好几个百分点。第三运行时调度与显存自动管理。大模型训练最难的一环是把有限显存分给海量参数和中间激活值。分布式并行、梯度同步、显存换入换出这些策略如果靠手工实现一个模型就要折腾几个月。做成自动化之后开发者的效率会大幅提升。这三样能力每一件都需要大量底层系统软件人才且都需要跟芯片的每一代迭代持续做适配。这种“搬砖式”的工作决定了它不是一次性买卖而是长期的技术积累。这类公司的估值逻辑里最值钱的就是这个持续积累的适配能力和对AI框架接口的兼容性。4.2 商业模式的可能性授权、订阅、还是绑定合作回到商业视角这类AI软件公司典型的路子有几条。一是向芯片厂商收授权费本质上承担芯片公司生态团队的外包角色二是向企业客户卖软件订阅帮他们解决内部异构算力的管理问题三是和云厂商合作按实际调用的算力资源抽成。从AMD领投这件事来看最现实的第一桶金大概率来自芯片厂商的合作授权。芯片厂商在推广产品时非常需要一个“装完就能用”的卖点这个卖点他们自己来不及造就直接买别人的。等到装机量上来再往企业订阅方向延伸是比较自然的演进路线。但这里要泼一盆冷水这类公司的商业模型里最大的不确定性是客户的采用意愿。企业愿意为软件付费的前提是它能明确省下比软件费用更高的成本。如果芯片选择面不够广、客户没有强烈的异构算力管理需求这套软件的价值就会停留在“性能优化工具”而不是“必备基础设施”。4.3 最容易被低估、也最容易踩的三个坑我跟踪这类项目这些年见过太多类似公司在技术很强的情况下依然走向困境原因不外乎三个。第一个坑客户结构过于集中。如果收入大头来自单一芯片厂商或者单一运营商一旦合作方战略调整公司基本没有回旋余地。第二个坑过度绑定某一种芯片架构。软件栈如果只针对AMD优化AMD卖不动的时候自己也跟着受限。真正通用的做法是同时适配多种芯片把鸡蛋分开放。第三个坑人才消耗过猛。底层系统软件的开发效率天然比应用层低一个算子调优可能就要数周时间团队规模小、融资节奏慢的话很容易被研发成本拖死。Moreh目前看起来选了相对正确的路径一方面跟AMD深度绑定拿到大厂的算力和渠道资源另一方面又保持AI框架兼容的独立性不让自己的技术变成某个硬件的专属配件。它能不能成长期要看能否在多芯片之间保持平衡。5. 回到镁客周报本周硬科技投融资里值得注意的几个信号5.1 AI仍是最强主线但资金开始向“软件层”集中拉通这周的整体投融资看AI依旧是绝对主力。但相比前两年那种“是AI项目就抢着投”的状况资金明显变得更加老练了。芯片层的机会窗口在收窄估值也被抬得很高于是大量资金开始往“让AI更好落地”的软件层涌。具体体现就是与AI模型配套的微调工具、本地化部署工具、多模型协作框架、数据处理管线这些赛道正成为新的关注焦点。这和普通用户最近的搜索趋势也能对上——大模型微调、私有化部署、本地大模型工具的讨论量明显上升说明市场已经从“看热闹”转向“真落地”。投融资的结构性变化往往比热点报道更早反映这种成熟的行业趋势。5.2 一个值得单独划重点的方向私有化部署与企业级AI软件在多个行业客户里私有化部署已经成了一个高频刚需。主要原因不复杂数据安全、合规成本、定制化需求。公有云的API再方便数据一旦出境或者需要深度微调都不如本地部署来得可控。这也带动了本地推理加速、模型压缩、知识库接入工具等一系列配套软件的需求增长。像Dify这类开源平台热度走高Ollama这类本地模型运行工具被越来越多人使用都是一个信号大模型的下一步增量很大一块在企业级、本地化场景。而这类场景恰恰需要可靠稳定的底层软件栈做支撑和Moreh所做的事情正好咬合。5.3 给创业者和投资人的一个提醒硬件入场券之后再拼软件体验我个人的经验是在大模型这个盘子里如果只想着堆算力、赶风口窗口期早已经过了。接下来真正有差异化空间的是把软件体验做到极致。哪怕是一个很小的环节只要能把“开发者的痛苦”减少一部分都有机会长出不小的商业价值。至于投资人角度我会更关注那些能同时绑定“芯片供应商”和“行业客户”的平台型公司。因为大模型生态的复杂度决定了单点技术最终还是要嵌入到更大的体系里才能发挥价值。像这次的AMD和KT联投其实是产业链上下游在用自己的方式表态软件栈已经是大模型时代决定胜负的关键一环。本周汇总里这一条最值得反复琢磨。一笔融资的金额会过去但“芯片巨头运营商联手补软件短板”这件事释放的产业信号会在接下来很长时间里持续发挥作用。
返回列表