Unify帮助开发者找到最适合工作的LLM

当开发者需要一个AI可以解决的特定任务时,通常并不像简单地将一个LLM指向数据那样简单。还有其他考虑因素,如成本、速度和准确性,如何平衡所有这些因素一直是一个特别具有挑战性的任务,尤其是时时刻刻有这么多新模型不断上线。

这就是Unify出现的原因,这是一家来自英国的初创公司,由一位帝国理工学院的校友创立,他们想出了一种路由工具,让开发者输入参数,找到最适合他们独特需求的LLM。周三,该公司宣布获得800万美元的投资。

公司创始人兼首席执行官丹尼尔·莱顿告诉TechCrunch:“Unify的主要目标是通过客观基准和仪表盘,帮助您找出哪些提供商的模型最适合您的任务。”

“从公司开始大规模部署开始,路由器在这个过程中实际上是一种自然延伸,速度和成本变得更加重要。所以我们真正想做的是让人们更好地控制LLM应用的质量、成本和速度,”莱顿说。

不出所料,Unify使用AI来运行核心路由器应用。“我们的路由器本身是一个学习型神经网络。所以它学会了哪些模型对于完成哪些任务最好,”他说。公司通过在每个新模型上运行详尽的基准测试以GPT Pro为评测,来实现这一点。从中,系统学习了这个模型在其训练集上对某些任务的表现如何。

“因此,任何新的模型提供商很快就会被路由器支持,基本上是一两天后,”他说。

莱顿说,他们构建了一个独特模型来训练路由器,这本身就是一种保护他的初创公司免受大公司侵犯的方法,再加上他们是中立的,而超级规模化企业可能不是。

他表示,通常客户只是在尝试不同的模型,却没有一个工具来追踪哪一个是最佳的。

他说:“有些人有各种各样难以解决的问题,愿意尝试现有的解决方案。所以我认为这就是我们如何设法获得了机会,”他说。

尽管有像Martian Router、OpenRouter和Portkey等竞争对手,莱顿说他的公司是唯一一个共同优化质量、成本和速度的公司。

目前,公司规模很小,只有七名员工,他故意保持精简,同时致力于推出一个完全商业化的产品。计划今年再增加三名员工。

他目前已经有大约3000个注册用户,其中有几百名活跃用户。他们的盈利预期是向公司收费建立定制基准测试。每家公司可以通过50美元的信用额度开始使用该工具。

这800万美元的投资来自一大批投资方,包括SignalFire、M12、J12、Essence VC、A. Capital、Lunar VC、Y Combinator和一些著名的行业天使投资人。