New API
推理框架开源31.8k Stars·
New API 是 OneAPI 的增强版本，提供更多功能和更好的性能
框架介绍
New API 是 OneAPI 的增强版本，提供更多功能和更好的性能。支持更多 LLM 提供商和高级管理功能。
核心特性
1
增强功能
比 OneAPI 更多的高级功能
2
更多提供商
支持更多 LLM API 提供商
3
性能优化
优化了并发处理和响应速度
4
高级管理
更完善的用户和渠道管理
应用场景
企业 API 管理
企业级 LLM API 统一管理
多团队支持
支持多团队独立管理
成本控制
精细化 API 使用成本控制