LLM代理框架

一个基于LLM的代理框架,作为样板代码展示最佳实践,具有最小化和开箱即用的特点,比HuggingFace的示例更灵活,可直接使用OpenAI并轻松添加新工具和更改提示。

  • by natelastname
  • TypeScript
  • 本地部署
  • 更新于
在 GitHub 查看 natelastname/nate_test_agent

使用说明

nate_test_agent

这是LLM代理。这是对中概述的设计的修改实现 huggingface的博客文章。

目的

  • 充当样板
  • 展示最佳实践
  • 尽量少,打破常规
  • 比hugginface的例子更灵活:
    • 未锁定到huggingface的推理服务(直接使用openai)
    • 可以轻松添加新工具和更改提示

布局

  • TestAgent.ts -一个简单的代理(通过运行 npm run cli)
  • BaseAgent.ts -使用人 TestAgent.ts
  • Cli.ts -交互式终端提示

特性

  • 使用带stdio传输的MCP在启动时加载工具