HelixML宣布Helix平台1.0版本正式投入生产

HelixML宣布其生成式AI平台Helix 1.0版本已投入生产。该平台被描述为“私有生成式AI堆栈”，提供了一个接口层和应用程序，能够连接各种大型语言模型（LLMs）。用户可以从笔记本电脑开始原型设计，所有组件都经过版本控制，以便于后续部署和扩展。平台特别强调评估（evals）作为LLMs非确定性领域中测试的替代品。

HelixML的背景与愿景

Helix于2023年12月推出，最初在德国一家关注欧盟法规合规性的公司中获得了一些关注。HelixML联合创始人兼CEO Luke Marsden在一篇题为《开源AI革命：法规如何重塑企业生成式AI》的博客文章中解释，开源模型可以在本地运行，以避免敏感数据与美国的服务提供商共享。他指出，开源模型现在提供的功能与前沿专有模型相似，因此在许多用例中可以实现类似性能，而无需牺牲对数据的控制。

Helix 1.0的功能与未来展望

HelixML团队最初旨在促进模型的微调，但发现客户对此兴趣不大，主要是因为检索增强生成（RAG）作为一种更快捷的方式获得了关注。因此，Helix 1.0附带了RAG功能。Marsden认为，当人们进一步优化使用大型通用LLMs（如70B）的系统，并“蒸馏”出微调的LLMs（如3B）以扩展到生产流量时，微调将重新流行。Helix仍在产品中支持微调。

Helix 1.0的技术细节

Marsden在另一篇博客文章《宣布Helix 1.0 – 为严肃人士提供安全的本地生成式AI》中详细介绍了平台的实现细节，包括其架构、接口层、应用程序和底层LLMs的选择。平台使用Golang编写，并作为一组容器部署，符合行业部署和操作的规范。

HelixML的市场定位与竞争

通过构建生成式AI应用程序的集成中间件，Helix无需涉足高成本的基础设施建设和模型训练领域。然而，Helix并非独此一家，竞争对手如Griptape也在推广类似的产品。Marsden在“愿景”博客文章中对2025年做出了冷静的预测，同时对长期前景保持乐观，认为生成式AI将经历幻灭低谷，但最终将达到生产力高原，超级人类规模的知识处理能力将永久改变商业世界。