核心定位
GoModel是一个开源AI网关/AI控制平面,定位为“LiteLLM的开源替代品”。它不生产模型能力,而是充当应用程序与模型提供商之间的“中间层”——统一API接口、统一成本追踪、统一安全管控。创始人Jakub A. Wąsek于2025年创立EnterPilot,初衷是为自己的创业公司解决“追踪AI使用和成本”、“无需改代码即可切换模型”、“更容易调试请求流”等问题。
产品架构:四层能力体系
统一接入层:支持31家提供商(OpenAI、Anthropic、Gemini、Bedrock、Vertex、Azure、Groq、Ollama、vLLM等),通过一个端点统一接入,支持多密钥轮询。提供别名与虚拟模型功能——发布smart-chat这样的稳定名称,背后可自由切换真实提供商和模型,只需改配置、不改代码。
成本控制层:精确匹配缓存+语义缓存(基于Qdrant、pgvector、Pinecone等),重复请求不再重复付费。按用户路径或标签设置硬性预算上限,在请求分发前强制执行——“运行在预算处停止,而不是在发票处停止”。支持令牌和美元级别的按请求追踪,可按团队、租户、功能映射支出。
可观测性与安全层:内置管理仪表盘,实时请求日志、用量明细、密钥管理、预算监控一体化。审计日志记录每个请求的解析路由、工作流、缓存结果和提供商尝试。虚拟API密钥绑定到用户路径和标签,而非暴露原始提供商凭证,支持从管理界面撤销和轮换。支持Prometheus指标和OpenTelemetry追踪。
MCP网关:聚合多个MCP服务器到一个端点,使用命名空间工具——每次工具调用都获得用量追踪和审计。
部署与性能
单二进制部署,管理UI内嵌,无需额外部署。存储从SQLite起步,可迁移至PostgreSQL或MongoDB,同一二进制不同配置。基准测试显示:p50延迟1.8ms、p99延迟6.9ms,吞吐量52.75请求/秒 vs LiteLLM的35.81请求/秒,内存占用仅为LiteLLM的1/7。
商业模式
开源核心(MIT许可)+ Pro付费版。所有路由、缓存、预算、审计、可观测性等功能均开源,Pro版提供高级功能。
团队背景
创始人Jakub A. Wąsek,2025年创立EnterPilot,目标是“创建一个统一的安全平台来管理企业中的AI使用,从GoModel开源AI网关起步”。项目于2025年12月启动,已有少量贡献者参与。
可复用的产品思维
-
从“自己的痛点”出发,用开源替代品切入成熟市场。 GoModel的起点不是“AI网关市场有多大”,而是创始人自己创业时遇到的真实问题:“追踪AI使用和成本”、“无需改代码切换模型”、“更容易调试请求流”。他选择做一个开源替代品,而不是重新发明一个品类。在中国市场,大量AI应用开发者同样面临“多模型API账单混乱、切换模型需改代码、调试请求流程困难”的问题——从自己的痛点出发做工具,比从市场报告出发更可靠。
-
“更轻、更快”本身就是差异化,尤其面对开源竞品。 LiteLLM已在这个赛道运行多年,GoModel的切入点是“Go语言写的单二进制”——比Python方案更轻、更快、更容易部署。基准数据显示吞吐量高47%、内存占用低7倍。这提示中国创业者:在开源工具赛道,如果无法在功能上超越先行者,就从“性能”和“部署体验”上建立差异化。一个“下载即用、无需配置”的工具,比一个“功能全面但部署复杂”的工具更容易获得开发者青睐。
-
开源不是“免费”,是用社区做分发、用Pro版做变现。 GoModel将全部核心功能开源(MIT许可),仅Pro版付费。这种“开源核心+Pro付费”模式,本质是用开源获取开发者信任和传播,用Pro版服务愿意付费的企业客户。在中国市场,这种模式尤其适合开发者工具——开发者对开源工具的信任成本极低,但一旦在生产环境依赖它,就愿意为支持、托管、高级功能付费。
-
“预算在请求分发前强制执行”——把成本控制做成产品的一部分。 大多数成本控制工具是“事后分析”——给你一张账单告诉你怎么花了钱。GoModel的预算控制是“事前拦截”——请求到达时先检查是否超出预算,超出则直接阻止。这从“事后复盘”变成了“事中管控”。在中国企业市场,成本敏感度极高,这种“事前拦截”的能力比“事后报表”更有价值——没有哪个CFO喜欢月底看到超支的发票。
-
MCP网关是面向AI Agent时代的前瞻布局。 GoModel将MCP(模型上下文协议)服务器聚合到一个端点,让所有工具调用都获得统一的用量追踪和审计。这本质上是为AI Agent时代做的准备——当Agent开始自主调用各种工具时,企业需要知道“哪个Agent在什么时候调用了什么工具、花了多少钱”。在中国市场,AI Agent正在快速普及,但“Agent的工具调用治理”仍是一个被忽视的需求——GoModel的MCP网关功能恰好卡在这个位置。