AnythingLLM в России: чат с документами на Claude, GPT и DeepSeek без VPN и зарубежной карты
AnythingLLM от Mintplex Labs — бесплатная программа с открытым кодом, которая отвечает на вопросы по вашим файлам: PDF, DOCX, таблицы и заметки разбираются и хранятся на вашем компьютере (Desktop) или сервере (Docker). Отвечать может встроенная локальная модель, но её можно заменить облачной: через провайдера Generic OpenAI и ключ RuAPI в AnythingLLM появляются Claude, GPT, Gemini, DeepSeek и Qwen. Запросы к моделям идут на www.ruapi.ai без VPN, баланс пополняется в USDT.
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="https://www.ruapi.ai/v1",
)
resp = client.chat.completions.create(
model="deepseek-flash",
messages=[{"role": "user", "content": "Привет"}],
)
print(resp.choices[0].message.content)Этим примером (вкладка cURL) удобно проверить ключ в терминале ещё до настройки. В AnythingLLM тот же адрес https://www.ruapi.ai/v1 вводится в поле Base URL провайдера Generic OpenAI, а ключ — в поле API Key.
Зачем AnythingLLM облачная модель
Локальной модели нужен мощный компьютер.
Для встроенной модели документация AnythingLLM советует от 16 ГБ оперативной памяти и 8-ядерный процессор, а на Windows — ещё и видеокарту с 8–12 ГБ видеопамяти; с облачной моделью требования намного ниже (docs.anythingllm.com, 02.11.2026). Claude, Gemini и GPT-5 на своём железе не запустить вовсе — их веса не публикуются. С RuAPI ответ генерируется в облаке, а библиотека документов остаётся в AnythingLLM.
Ключ OpenAI или Anthropic из России не оформить.
Россия не входит в списки поддерживаемых стран обеих компаний (anthropic.com/supported-countries, developers.openai.com, 02.11.2026), а российские банковские карты за границей не принимают. В RuAPI регистрируются по email, через Google или Яндекс, баланс пополняют в USDT от 5 USDT.
Готовые провайдеры Anthropic и OpenAI не дают сменить адрес.
В их настройках внутри AnythingLLM есть поле для ключа, но нет поля для адреса API, так что из настроек их на другой сервис не перенаправить (исходный код AnythingLLM 1.19.0, 02.11.2026). Поэтому RuAPI подключается через провайдера Generic OpenAI — один ключ открывает модели всех производителей, а стоимость каждого запроса видна в журнале консоли RuAPI.
Как подключить RuAPI к AnythingLLM: 4 шага
Шаги одинаковы для AnythingLLM Desktop и Docker-версии. Названия пунктов даны по английскому интерфейсу: язык можно переключить на русский в настройках (Display Language), но форма Generic OpenAI всё равно останется на английском.
Создайте аккаунт RuAPI и пополните баланс
Аккаунт на www.ruapi.ai создаётся по email, через Google или Яндекс — номер телефона не нужен. Пополнение — в USDT от 5 USDT (сети TRC20, BEP20, TON, Polygon) или USDC; USDT можно купить за рубли через СБП по инструкции docs.ruapi.ai/ru/buy-usdt. Подойдёт и карта иностранного банка.
Новым аккаунтам обычно сразу начисляется $0,05 на пробу: на нём работают claude-haiku-5-5, deepseek-flash и gpt-6-luna, остальные модели открываются после первого пополнения.
Создайте отдельный ключ для AnythingLLM
Консоль → «API-ключи» → «Создать ключ». Если AnythingLLM в Docker-версии открыт для коллег, задайте ключу лимит расходов: все пользователи и рабочие пространства будут тратить один баланс RuAPI.
Выберите провайдера Generic OpenAI
- Нажмите значок гаечного ключа внизу боковой панели (подсказка Open settings) → AI Providers → LLM. В списке LLM Provider найдите Generic OpenAI.
- Base URL: https://www.ruapi.ai/v1 — обязательно с /v1. API Key: ваш ключ sk-… Когда ключ введён, поле Selected Model превращается в список моделей RuAPI — выберите, например, deepseek-flash. Если вместо списка осталось пустое текстовое поле, список моделей не загрузился: проверьте адрес и ключ.
- Model context window — потолок, до которого AnythingLLM обрезает запрос. В подсказке поля пример 4096, но при таком значении найденные фрагменты документов и история чата урезаются; укажите, например, 32000. Max Tokens — предел длины ответа, по умолчанию 1024: для длинных ответов и моделей с рассуждениями этого мало, поставьте 8192. Нажмите Save changes.
Загрузите документы в рабочее пространство
- Создайте рабочее пространство (New Workspace) и наведите на него курсор в боковой панели: значок загрузки с подсказкой Upload documents to this workspace for RAG indexing открывает менеджер документов.
- Перетащите файлы в область Click to upload or drag and drop — подойдут PDF, DOCX, TXT, MD, CSV, XLSX, PPTX, EPUB, HTML и другие форматы. Отметьте их в списке My Documents, нажмите Move to Workspace, затем Save and Embed. Векторы для поиска (эмбеддинги) считает выбранный эмбеддер: по умолчанию — встроенный AnythingLLM Embedder прямо на вашем компьютере, а если в настройках выбран Generic OpenAI с ключом RuAPI — модель text-embedding-3-small (подробнее в вопросе про эмбеддер ниже).
- Спрашивайте в чате этого рабочего пространства: AnythingLLM найдёт подходящие фрагменты, отправит их модели вместе с вопросом и покажет под ответом, из каких файлов они взяты.
Как устроены ключи и первый запрос к RuAPI: docs.ruapi.ai/ru/quickstart
Что указать в AnythingLLM
LLM → Generic OpenAI
Base URL: https://www.ruapi.ai/v1
API Key: sk-…
Model context window: 32000
Max Tokens: 8192
Embedder
Generic OpenAI: https://www.ruapi.ai/v1, text-embedding-3-small
или встроенный AnythingLLM Embedder (локально)
Docker (.env)
LLM_PROVIDER=generic-openai
GENERIC_OPEN_AI_BASE_PATH=https://www.ruapi.ai/v1
GENERIC_OPEN_AI_API_KEY=sk-…
GENERIC_OPEN_AI_MODEL_PREF=deepseek-flash
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=32000
GENERIC_OPEN_AI_MAX_TOKENS=8192
Оплата
USDT / USDC от 5 USDT
карты иностранных банков
Цены на модели для AnythingLLM
Модели, которые хорошо подходят для ответов по документам, — в долларах за 1 млн токенов, по данным страницы цен. Абонентской платы нет: с баланса списываются только токены ваших запросов.
| model | input $/M | output $/M |
|---|---|---|
| deepseek-flash | $0.17 чтение кэша $0.0120 | $1.44 |
| qwen3.8-flash | $0.14 чтение кэша $0.0288 | $0.49 |
| gpt-5.4-mini | $0.90 чтение кэша $0.0900 | $5.40 |
| claude-haiku-5-5 | $0.12 чтение кэша $0.0120 >100K: $0.60 | $0.60 >100K: $3.00 |
| gemini-3.5-flash | $1.80 чтение кэша $0.18 | $10.80 |
| claude-sonnet-5-5 | $2.40 чтение кэша $0.12 | $12.00 |
| gpt-5.4 | $3.00 чтение кэша $0.30 >272K: $6.00 | $18.00 >272K: $27.00 |
input в таблице — новые входные токены, «чтение кэша» — токены, пришедшие из кэша, output — текст ответа. К каждому вопросу AnythingLLM добавляет найденные фрагменты документов (по умолчанию до 4) и последние реплики из этого чата (настройка Chat History, по умолчанию 20 пар «вопрос — ответ»), поэтому входных токенов обычно намного больше, чем слов в самом вопросе. Если начало запроса совпадает с предыдущим, GPT и DeepSeek сами берут его из кэша по сниженной цене (docs.ruapi.ai/ru/prompt-caching).
Серая строка «>100K» — тариф производителя для длинных промптов: если промпт превышает порог, по нему считается весь запрос.
Встроенная модель или облачная через RuAPI
| AnythingLLM + RuAPI | AnythingLLM со встроенной моделью | |
|---|---|---|
| Где генерируется ответ | В облаке: запрос уходит через www.ruapi.ai к провайдеру модели | На вашем компьютере (Lemonade и llama.cpp); в Docker включается переменной ENABLE_BUILT_IN_LLM=true |
| Что покидает компьютер | Вопрос, найденные фрагменты документов и история чата; с эмбеддером RuAPI — ещё текст документов для расчёта векторов | Ничего |
| Где лежат документы и векторы | У вас: файлы, эмбеддинги и база LanceDB остаются в AnythingLLM | Тоже у вас |
| Железо | Хватит обычного ноутбука | От 16 ГБ памяти и 8 ядер, желательно видеокарта |
| Модели | Claude, GPT, Gemini, DeepSeek, Qwen, GLM, Kimi | Открытые модели в формате GGUF |
Сведения о встроенной модели — по docs.anythingllm.com и описанию релиза v1.19.0 на GitHub, проверено 02.11.2026. Модель можно выбрать отдельно для каждого рабочего пространства, так что оба варианта легко совмещать.