高通AI推理套件：本地AI部署的新里程碑
在2025年CES消费电子展上，高通技术公司宣布了其在人工智能、物联网及智能家居生态系统方面的多项技术进展。其中，高通AI本地应用解决方案和AI推理套件的推出，标志着本地AI部署的新里程碑。这些解决方案通过边缘计算和本地AI处理，显著提升了隐私保护、可扩展性和用户体验。
安提国际与高通的战略合作
全球边缘AI解决方案领导品牌安提国际（Aetina）与高通技术公司展开合作，结合高通的推理加速卡与安提的边缘计算系统，为企业及工业组织提供前所未有的运算性能和即用型AI方案。安提的旗舰产品MegaEdge AIP-FR68桌上型工作站集成高通的Cloud AI系列加速卡，每个Cloud AI 100 Ultra加速卡在八位元整数计算下，提供高达870 TOPS的AI性能，且功耗仅150瓦特，展现卓越的能源效率。
生成式AI的创新应用
此次合作还引入了生成式人工智能的创新应用，特别是通过大型语言模型（LLMs）和检索增强生成（RAG）技术，使企业能够在标准PC型态的工作站上快速开发、测试和定制生成式AI模型。这些功能对于需要安全、高性能AI运算的医疗保健、金融、零售和制造业等产业尤其重要。
高效能与节能的突破性组合
高通AI本地设备解决方案结合先进硬件与完整的AI推理软件，打造高效能的本地化AI运算解决方案，可在企业环境中发挥卓越性能。安提国际产品研发处副总洪英瑞强调，此次合作标志着边缘AI部署的重大突破，使企业能够在本地端运行复杂的AI模型，在确保数据隐私的同时，维持卓越的互通性和云端级性能。
未来展望
高通技术公司工程资深副总裁拉希德·阿塔尔表示，这项全新整合解决方案结合AI推理软件与服务，不仅满足当前本地AI设备的需求，更能实现多样化的AI代理、行业应用及实际案例，并前瞻性地预见企业与AI技术在各产业中的未来发展需求。这项全新整合方案将于2025年第一季透过全球渠道伙伴正式上市。
通过高通AI推理套件与安提国际的合作，本地AI部署将迎来新的发展机遇，推动各行各业在人工智能领域的创新与应用。
相关文章
