使用说明
litellm技能
代理技能 用于管理实时LiteLLM代理部署。需要 curl.
安装
curl -fsSL https://raw.githubusercontent.com/BerriAI/litellm-skills/main/install.sh | sh
技能
用户
| 技能 | 描述 |
|---|---|
add-user |
创建具有电子邮件、角色、预算和模型访问权限的用户。 |
update-user |
更新现有用户的预算、角色或模型访问权限。 |
delete-user |
删除一个或多个用户。 |
团队
| 技能 | 描述 |
|---|---|
add-team |
创建一个有预算和模型限制的团队。 |
update-team |
更新现有团队的预算、模型或费率限制。 |
delete-team |
删除一个或多个团队。 |
API密钥
| 技能 | 描述 |
|---|---|
add-key |
生成范围为用户、团队、预算和到期的API密钥。 |
update-key |
更新现有密钥的预算、模型或到期时间。 |
delete-key |
按值或别名删除一个或多个API键。 |
组织
| 技能 | 描述 |
|---|---|
add-org |
创建一个具有预算和模型访问权限的组织。 |
delete-org |
删除一个或多个组织。 |
模型
| 技能 | 描述 |
|---|---|
add-model |
添加任何LLM提供商（OpenAI、Azure、Anthropic、Bedrock、Ollama……）并对其进行测试 |
update-model |
旋转凭据或更改模型的底层部署。 |
delete-model |
从代理中删除模型。 |
MCP服务器
| 技能 | 描述 |
|---|---|
add-mcp |
注册MCP服务器（SSE、HTTP或stdio）。 |
update-mcp |
更新MCP服务器的URL、凭据或允许的工具。 |
delete-mcp |
删除MCP服务器注册。 |
代理
| 技能 | 描述 |
|---|---|
add-agent |
创建一个由模型和可选MCP服务器支持的AI代理。 |
update-agent |
交换模型或更新代理的描述和限制。 |
delete-agent |
删除代理。 |
用法
| 技能 | 描述 |
|---|---|
view-usage |
按用户、团队、组织或模型查询每日支出和代币活动。 |
需求
curl安装- 正在运行的LiteLLM代理
- 代理管理密钥（不是作用域为的虚拟密钥
llm_api_routes)
许可证
麻省理工学院
