在AI技术飞速发展的今天,算力已成为推动AI创新的核心动力。商汤科技凭借其SenseCore万卡集群,正在重新定义AI基础设施的标准。作为全球领先的AI企业,商汤科技不仅在算法和模型研发上占据优势,更通过自建AIDC(人工智能计算中心)和万卡集群,为AI2.0时代的技术革新提供了坚实的硬件支持。
SenseCore万卡集群的核心优势
SenseCore万卡集群是商汤科技在AI基础设施领域的重要布局,其核心优势主要体现在以下几个方面:
-
强大的算力支持
SenseCore万卡集群拥有超过5.4万张GPU,总算力规模突破2万PetaFLOPS,能够支持2万亿参数的MoE(混合专家)多模态模型的稳定高效训练和推理。这种规模的算力集群不仅在国内处于领先地位,在全球范围内也具备极强的竞争力。 -
高效的计算架构
SenseCore采用高性能异构集群作为底座,结合计算网络、文件存储和AI算力资源,实现了软硬件系统的协同优化。其千卡并行训练线性加速比超过90%,30天长时间训练不间断,分钟级异常检测和断点续训能力确保训练过程的稳定性和可靠性。 -
灵活的资源调度
SenseCore通过GPU等AI算力资源的容器化和资环池化,实现了灵活调度和远程共享。这种设计不仅提升了资源利用率,还显著降低了AI研发成本。
SenseCore在生成式AI与大模型训练中的应用
SenseCore万卡集群在生成式AI和大模型训练中的应用,展现了其在AI2.0时代的技术领先性:
-
日日新大模型的迭代与优化
商汤科技的日日新大模型体系在SenseCore的算力支持下,完成了从1.0到5.5版本的快速迭代。2024年发布的日日新5.5版本,在多模态能力上对标GPT-4o,实现了语音、视频和语言模型的原生融合,成为国内首个具备流式原生多模态交互能力的大模型。 -
生成式AI的商业化落地
SenseCore不仅支持大模型的训练,还通过其推理服务实现了生成式AI的规模化应用。2024年上半年,商汤科技的生成式AI收入达到10.51亿元,同比增长255.70%,占总收入的60.42%。其应用场景涵盖金融、医疗、企业Copilot助手、拟人交互及智能终端等多个领域。
SenseCore的技术架构与未来展望
SenseCore的技术架构分为算力层、平台层和算法层,通过整合算力、算法和平台,构建了一套端到端的AI基础设施体系:
层级 | 核心功能 |
---|---|
算力层 | 提供高性能异构集群,支持大规模并行训练和万亿参数级大模型的训练。 |
平台层 | 整合数据平台、深度学习框架、推理部署引擎和模型生产平台,实现全链路批量化过程。 |
算法层 | 通过自主研发的算法工具链和开源框架,提供高效、灵活的算法支持。 |
未来,商汤科技将继续优化SenseCore的技术架构,探索多模态技术的深度融合,推动AI在自动驾驶、智能助手、医疗诊断等领域的应用。同时,SenseCore的轻资产运营模式将进一步降低硬件迭代风险,提升现金流和抗风险能力。
结语
SenseCore万卡集群不仅是商汤科技在AI基础设施领域的重要突破,更是推动AI2.0时代技术革新的核心动力。通过高效、低成本的算力支持和灵活的资源调度,SenseCore正在为AI技术的规模化应用提供坚实的基础,助力企业实现智能化转型与产业升级。在未来,随着生成式AI和大模型技术的不断发展,SenseCore将继续引领AI基础设施的新纪元。