📄️ 设置 AI 模型
在开始创建 AI 服务之前,首先需要配置 AI 模型供应商。APIPark 支持超过100种 AI 模型,包括 OpenAI、Anthropic、AWS Bedrock、Google Gemini等。配置供应商后,您可以选择不同的模型来创建 AI 服务,并在 APIPark 中统一管理所有 AI 服务的授权信息和成本统计。
📄️ AI 模型负载均衡
AI 模型负载均衡是一种智能调度机制,旨在确保 AI 服务的高可用性和稳定性。当主要的 AI 供应商服务出现故障时,负载均衡能够自动将请求切换到备用的 AI 供应商上。通过这种方式,它能够有效避免因供应商问题导致的服务中 断,保障 AI 应用的连续运行,提升用户体验。
📄️ APIKEY 资源池
APIKEY 资源池是一个集中管理和调配 APIKEY 的功能,为 AI 服务的稳定运行提供有力支持。在资源池中,用户可以查看和管理各个供应商的 APIKEY,包括其状态(如正常、超额、过期等)和调用优先级。通过拖拉操作,用户可以轻松调整 APIKEY 的优先级顺序,以适应不同的业务需求。当某个 APIKEY 出现超额或过期等问题时,系统自动按优先级启用其他 APIKEY ,确保AI服务的持续可用。
📄️ AI API 管理
AI API 管理用于集中展示和管理调用各个 AI 供应商的 API。用户可以通过该列表查看所有调用的 AI API 的详细信息和消耗token的情况。