Что такое LightRAG?

LightRAG — open-source система Retrieval-Augmented Generation для создания AI-базы знаний на основе собственных документов.

В отличие от обычного поиска по фрагментам текста, LightRAG извлекает из документов сущности и связи между ними и формирует граф знаний.

Документы → LightRAG → граф знаний → LLM → ответ

Как это работает?

После добавления документов LightRAG индексирует информацию, создаёт векторные представления и определяет связи между найденными сущностями.

Когда пользователь задаёт вопрос, система находит подходящий контекст и передаёт его языковой модели.

Основные возможности

• RAG по собственным документам;
• автоматическое построение графа знаний;
• визуализация связей между данными;
• несколько режимов поиска;
• WebUI для документов и запросов;
• REST API;
• поддержка локальных и облачных AI-моделей;
• Docker-развёртывание.

LightRAG + Ollama

LightRAG может использовать Ollama как локальный сервер языковых и embedding-моделей.

Например:

Документы → LightRAG → Ollama → локальная LLM

Такую систему можно разместить полностью на собственной инфраструктуре.

LightRAG + Open WebUI

LightRAG предоставляет Ollama-совместимый интерфейс, благодаря которому его можно подключить к Open WebUI.

Получается удобная связка:

Open WebUI → LightRAG → база знаний → Ollama

Запуск через Docker

Проект предоставляет готовую конфигурацию Docker Compose.

git clone https://github.com/HKUDS/LightRAG.git
cd LightRAG
cp env.example .env
docker compose up

Перед запуском необходимо настроить используемую LLM и embedding-модель в файле .env.

Где использовать?

• личная база знаний;
• техническая документация;
• корпоративные документы;
• исследования;
• AI-поиск по большим коллекциям данных;
• локальный AI-сервер с собственными знаниями.

Итог

LightRAG добавляет к обычной RAG-системе граф знаний, позволяя учитывать не только отдельные фрагменты документов, но и связи между информацией.

Особенно интересна локальная связка Open WebUI + LightRAG + Ollama: удобный чат, собственная база знаний и локальная AI-модель работают как единая система.

GitHub: LightRAG