端侧AI技术的新里程碑
2025年2月23日,深思考人工智能正式发布了鸿蒙系统TinyDongni & DeepSeek超小端侧多模态大模型及硬件模组,这一创新成果标志着端侧AI技术在低功耗、高性能领域实现了重大突破。通过与国产头部模组厂商广和通、深开鸿的合作,深思考推出了适配国产算力的硬件解决方案,打破了“国产算力性能不足”的固有认知。
轻量化大模型赋能国产硬件生态
TinyDongni作为端侧轻量化大模型,以仅1.5B的极简参数规模实现了高效能运算。其创新量化方法显著降低了首Token延迟,支持32K超长上下文理解,并通过多芯片协同处理与内存优化技术,兼顾了低功耗与高响应速度。deepseek系列则聚焦多模态能力,1B模型通过2048隐藏层维度与32注意力头设计,强化复杂场景下的语义理解,适配智能硬件与边缘计算场景。
国产模组合作:强强联合,打造端侧算力标杆
深思考联合国产模组厂商推出两大解决方案,验证轻量化大模型与国产硬件的协同效能。广和通模组集成5G与Wi-Fi 7通信技术,依托深思考算法优化,为车载、机器人等场景提供实时AI处理能力。深开鸿模组基于国产芯片与OpenHarmony系统,支持8K编解码与多屏交互,赋能工业检测、AI摄像头等高精度场景。
全场景应用:从生活到专业领域的AI革新
深思考端侧大模型已落地多个领域,包括存储领域、智能终端、办公助手、医疗健康、智能汽车和机器人生态。例如,AI显微镜通过加密分析与扩展模块,提升病理检测稳定性与效率;智能汽车融合手势、语音、图像多模态交互,实时解析车内外环境。
技术赋能未来,深思考持续深耕AI创新
深思考创始人&CEO杨志明表示,此次发布不仅是技术突破,更是端侧AI普惠化的里程碑。未来,深思考将致力于优化多模态交互能力,推动AI在医疗、工业、消费等领域的深度应用。针对机器人、萌宠玩具等场景,通过量化技术实现性能与功耗的完美平衡,进一步拓展AI技术的应用边界。
OpenHarmony助力,共筑端侧AI生态
华为OpenHarmony使能部AI技术专家刘小飞介绍了OpenHarmony在大模型领域的探索。OpenHarmony作为开源项目,旨在构建智能设备运行平台,其社区发展迅猛,生态伙伴众多。通过与深思考的合作,OpenHarmony旗下的Laval社区借助大模型服务开发者,极大提升了社区与用户的互动体验。
深思考此次发布的创新成果,结合OpenHarmony在大模型领域的探索实践,有望吸引更多生态伙伴加入,共同推动端侧AI技术的发展,让AI更好地服务于人们的工作和生活。