vLLM Production Stack 提供参考部署架构,旨在帮助用户从单个 vLLM 实例扩展到分布式部署,并且具备监控和性能优化功能。通过易于配置和部署的特性,用户可以快速上手,并根据具体需求进行扩展和定制。
LLM4AD是一个面向算法设计的大型语言模型平台,利用人工智能技术自动设计算法,支持优化和机器学习等多种任务,具有友好的用户界面,便于测试和部署。
ConverzAI是一款利用先进语音AI技术,专为人力资源行业设计的工具,通过自动化候选人筛选流程,帮助招聘机构提高运作效率和候选人体验。它能与现有的申请者追踪系统(ATS)无缝集成,使招聘团队能够在不降低互动质量的情况下扩大招聘规模。
LLM App是一个用于构建和服务AI应用以及支持LLM的实时数据管道的生产框架,旨在简化AI管道,集成各种功能,提升开发效率。
PeriFlow是一个创新的生成式AI模型服务引擎,支持大型语言模型(LLM)。它以低成本实现了70~90%的GPU节省,同时提供两种部署选项:PeriFlow容器和PeriFlow云。
OtterTune是一个利用AI技术对运行在Amazon RDS和Aurora上的MySQL和PostgreSQL数据库进行优化的工具。它能够将性能提高至4倍,并将成本降低50%。OtterTune监控并优化数据库的各种参数,包括调节项、资源、索引、表、查询、自清理等。
Pangolin Desktop是为Fuchsia和Linux平台开发的桌面环境,使用Flutter构建,具备现代化的用户界面和高度的可定制性。
打造全能型计算机任务AI Agent,覆盖开发、数据管理、自动化、网络交互和系统操作五大领域,提供WebArena和OSWorld两大基准测试,助力模型评估,汇聚开源与闭源解决方案,满足多样化需求。
dbNix AI是一家企业级人工智能公司,提供技术驱动的解决方案,旨在提升企业运营效率和客户体验。