多模型RAG与LLM平台

MCP Server是一个结合多模型、检索增强生成(RAG)和大语言模型(LLM)的平台,适用于需要OCR、LLM集成和向量数据库支持的开发场景。

  • by Teeksss
  • Python
  • 本地部署
  • 更新于

使用说明

MCP Server (Multi-Model + RAG + LLM Platform)

Kurulum Rehberi

Gereksinimler

  • Python 3.9+
  • Node.js 16+ (frontend için)
  • Tesseract (OCR desteği için)
  • (Linux/Mac: sudo apt install tesseract-ocr veya brew install tesseract)
  • pip veya poetry (isteğe bağlı)

1. Backend Kurulumu

a) Sanal Ortam Oluştur

python -m venv venv
source venv/bin/activate

b) Bağımlılıkları Yükle

pip install -r requirements.txt
# veya
poetry install

c) Ortam Değişkenleri

.env dosyasını oluştur:

cp .env.example .env

Gerekirse OPENAI_API_KEY ve diğer alanları doldur.

d) Veritabanını Başlat

python -c "from src.models.database import init_db; init_db()"

e) Sunucuyu Çalıştır

uvicorn src.main:app --reload

2. Frontend (Web) Kurulumu

cd web
npm install
npm start

3. Notlar

  • PDF/OCR için Tesseract kurulmalı.
  • LLM entegrasyonu için OPENAI_API_KEY veya HuggingFace modeli indirecek internet bağlantısı gereklidir.
  • Vektör veritabanı ve LLM eklemek için ilgili Python dosyalarından kolayca genişletebilirsiniz.