vLLM团队创业成立新公司 获1.5亿美元融资

2026年1月23日
news

(图片来自网络)

vLLM团队正式成立人工智能初创公司Inferact,在种子轮融资中筹集到1.5亿美元(约10亿元人民币),公司估值达8亿美元。本轮融资由Andreessen Horowitz(a16z)和Lightspeed等风险投资机构领投,是有史以来规模最大的种子轮融资之一,充分体现了业界对AI推理基础设施领域的高度重视。


Inferact的核心使命是将开源项目vLLM打造成世界领先的AI推理引擎,通过降低推理成本、提升推理速度来加速人工智能行业的发展。公司认为,当前AI行业面临的重大挑战之一是如何以低成本、高可靠性的方式运行现有的大模型,而Inferact将聚焦解决这一问题。


vLLM作为开源项目,由PyTorch基金会负责管理,自2023年启动以来,吸引了全球2000多名技术贡献者,已成为全球最受欢迎的大模型推理加速框架,为Meta、谷歌、Character.AI等科技公司提供支持。Inferact的核心正是依托这一强大的开源社区,其联合创始人包括清华博士游凯超等vLLM核心贡献者。




Inferact的首席执行官Simon Mo(伯克利在读博士生、vLLM核心维护者之一)表示,公司将借鉴伯克利早期发展的大型软件项目模式(如Apache Spark),聚焦于模型与硬件的交汇点,确保当新的模型架构发布时,能提供首日支持;当新的硬件芯片推出时,能与vLLM深度集成;当大模型团队进行大规模部署时,能高效运行vLLM,服务从前沿实验室到超大规模数据中心、再到初创公司等多样场景。


值得关注的是,Lightspeed对Simon Mo的访谈中提到,全球AI行业当前面临算力紧缺问题——用于大模型训练的集群将在六个月内逐步转向推理,推理将消耗所有现有及新增的算力容量。Inferact希望通过发展高效的vLLM推理引擎,缓解这一算力压力,帮助企业和机构以更经济的方式运行AI模型。


Inferact的首要任务是继续支持vLLM作为独立的开源项目,将技术改进和成果分享给社区,计划进一步提升vLLM的性能,深化对新兴模型架构的支持,并扩大对前沿硬件的覆盖范围。其次,公司将开发独立的商业产品,帮助企业在不同类型的硬件上更高效地运行AI模型,支持超过500种模型架构和200多种加速器,服务全球规模推理。

(声明:该内容经AI精编) 查看原网页

精彩评论(10)

  • 网友10 2026-01-23 10
    从开源到商业,这种路径很常见但很有效
  • 网友9 2026-01-23 10
    创新和融资结合,未来可期
  • 网友8 2026-01-23 10
    vLLM发展成公司,很期待产品出来
  • 网友7 2026-01-23 10
    科技界的新动态,很值得关注
  • 网友6 2026-01-23 10
    以后企业用AI成本降了,好事情
  • 网友5 2026-01-23 10
    算力问题解决有希望了,生活方便度提升
  • 网友4 2026-01-23 10
    开源项目能变成公司,模式很创新
  • 网友3 2026-01-23 10
    清华博士参与很厉害,技术实力强
  • 网友2 2026-01-23 10
    AI推理发展很快,以后肯定更方便
  • 网友1 2026-01-23 10
    看到新公司融资这么多钱,很 impressive
查看“vLLM团队创业成立新公司 获1.5亿美元融资”相关搜索 >

最新新闻

An unhandled error has occurred. Reload 🗙