多提供商LLM调用工具

一个支持多种LLM提供商和调用格式的工具,用于测试和评估不同语言模型的性能。

  • by WilliamJin123
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 WilliamJin123/tool_call_experiment

使用说明

测试工具调用格式:

  • JSON(不太严格)
  • MCP(超严格)
  • 可扩展标记语言
  • 非结构化?(说明)
  • 功能签名?

测试原理:

  • 多种使用复杂度不同的工具(有些需要非常奇怪)
  • 各种复杂程度不同的评估提示,以及预期的工具调用
  • 多种型号,系统提示合理

签入.env文件:

  • 使用大脑zai-glm-4.7、gpt-oss-120b、qwen-3-235b-a22b-struct-2507、zai-glm-6.6、llama-3.3-70b

  • 使用groq groq/化合物、groq/复合迷你、meta-lama/lama-4-cout-17b-16e指令、moonshotai/kimi-k2-structure-0905指令,

  • 使用双子座2.5号睫毛膏

  • 使用连贯的命令-推理-08-2025和命令-03-2025

  • 我安装了一个名为keycycle的uv软件包(我自己制作的)

  • 从中导入多视频播放器

  • multividualrapper提供了一个openai客户端。有关更多详细信息,请查看.vev文件夹中的包multividerrapper接口。

  • 将此用于任何LLM调用。