无问芯穹是什么
Infinigence 无问芯穹是专门大模型应用开发者打造的企业级AI大模型服务平台,专注于AI 2.0时代的解决方案。构建大模型与多种芯片间的高效部署桥梁,推动AGI(通用人工智能)时代的基础设施建设。无问芯穹提供算力推理平台、AI基础设施解决方案以及端上智能一体化解决方案,支持超过20个主流模型和10余种计算卡,实现软硬件联合优化与统一部署。
无问芯穹的主要功能
- 智算云平台:提供从算力、模型到应用的一站式服务,包括全面的云管平台、强大的基础云产品、一站式AI开发平台、大模型开发平台、大模型应用开发平台以及行业大模型。
- 国产化AI算力适配和性能优化:对十余种国产AI芯片全面适配,通过算法和编译优化,实现性能提升50%~200%,并实现多源异构国产AI芯片的统一调度和混合精度计算。
- Megrez-3B-Omni模型:全球首个端侧全模态理解开源模型,能处理图像、音频和文本三种模态数据,支持中文和英文语音输入,实现模态间的自由切换,并提供直观自然的交互体验。
- 一站式AI平台(AIStudio):面向机器学习开发者,提供开发机、任务等功能的企业级开发平台,支持从数据托管、代码开发、模型训练、模型部署的全生命周期工作流。
- 算力推理平台:提供算力资源的异构纳管、运维和监控能力,以及丰富的算力运营体系。
- 大模型服务平台(模型即服务,Model as a Service):提供数据处理、微调、推理等快速便捷的模型调用API,并集成模型与应用结合的最佳实践,提供专家支持与经验的工具化沉淀。
- 异构芯片混合训练平台:全球首个支持单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。
- “端模型+端软件+端IP”端上智能一体化解决方案:提供包括软件、IP在内的端上智能一体化解决方案,实现多种大模型算法在多元芯片上的高效、统一部署。