本站信息不构成投资建议 · 详见使用规则
36氪· 星连资本·· 9 小时前精选AI 评分82
万象智维完成数千万元融资,端侧AI推理引擎实现30B模型部署
「万象智维」再获数千万元融资,清华系团队收入有望破千万|星连被投动态
AI 导读
端侧AI基础设施公司万象智维完成新一轮数千万元融资,资金将用于人才引进、商务团队扩充和部署方案标准化。公司自主研发的OmniInfer引擎可使原有设备推理上限从10B提升至30B,预填充速度最高提升近15倍,解码性能提升2.49倍,内存占用降低近一半。
推荐理由
原文揭示了端侧AI部署方案在实际场景中的性能提升与商业化进展,可为技术选型提供参考。
来源:36氪 · 36kr.com