网页搜索与内容提取服务

一个基于DuckDuckGo的网页搜索和内容提取服务,支持多URL并行处理和内存优化。

  • by pinkpixel-dev
  • JavaScript
  • 本地部署
  • 143 星标
  • 更新于
在 GitHub 查看 pinkpixel-dev/web-scout-mcp

使用说明

Web Scout MCP Server

An MCP server for web search using DuckDuckGo and content extraction, with support for multiple URLs and memory optimizations.

✨ 特性

  • 🔍 DuckDuckGo 搜索:快速且注重隐私的网络搜索功能
  • 📄 内容提取:从网页中提取清晰易读的文本
  • 🚀 并行处理:支持同时从多个URL提取内容
  • 💾 内存优化:智能内存管理,防止应用程序崩溃
  • ⏱️ 速率限制:智能请求节流以避免API阻塞
  • 🛡️ 错误处理:稳健的错误处理,确保可靠运行

📦 安装

通过Smithery安装

通过以下方式自动安装克劳德桌面版Web Scout 铁匠铺:

npx -y @smithery/cli install @pinkpixel-dev/web-scout-mcp --client claude

全球安装

npm install -g @pinkpixel/web-scout-mcp

本地安装

npm install @pinkpixel/web-scout-mcp

🚀 用法

命令行

全局安装后,运行:

web-scout-mcp

使用MCP客户端

将此添加到您的MCP客户端 config.json (克劳德桌面、光标等):

{
  "mcpServers": {
    "web-scout": {
      "command": "npx",
      "args": [
        "-y",
        "@pinkpixel/web-scout-mcp@latest"
      ]
    }
  }
}

环境变量

设置 WEB_SCOUT_DISABLE_AUTOSTART=1 嵌入包和调用时的环境变量 createServer() 你自己。默认情况下,运行已发布的入口点(例如 node dist/index.js 或 npx @pinkpixel/web-scout-mcp)自动启动stdio传输。

🧰 工具

服务器提供以下MCP工具:

🔍 DuckDuckGoWebSearch

使用DuckDuckGo搜索引擎启动网络搜索查询,并返回结构良好的搜索结果列表。

输入:

  • query (string):搜索查询字符串
  • maxResults (number,可选):返回的最大结果数(默认值:10)

例子:

{
  "query": "latest advancements in AI",
  "maxResults": 5
}

输出: 包含标题、URL和片段的搜索结果的格式化列表。

📄 UrlContentExtractor

通过删除脚本、样式和导航等不必要的元素,从网页中获取和提取干净、可读的内容。

输入:

  • url:单个URL字符串或URL字符串数组

示例(单个URL):

{
  "url": "https://example.com/article"
}

示例(多个URL):

{
  "url": [
    "https://example.com/article1",
    "https://example.com/article2"
  ]
}

输出: 从指定URL提取的文本内容。

🛠️ 发展

# Clone the repository
git clone https://github.com/pinkpixel-dev/web-scout-mcp.git
cd web-scout-mcp

# Install dependencies
npm install

# Build
npm run build

# Run
npm start

📚 文档

有关该项目的更多详细信息,请查看以下资源:

📋 需求

  • Node.js>=18.0.0
  • npm或纱线

📄 许可证

该项目根据 Apache 2.0许可证.

Made with ❤️ by Pink Pixel
✨ Dream it, Pixel it ✨