在俄罗斯用 AnythingLLM:用 Claude、GPT 和 DeepSeek 跟文档对话,不用 VPN、不用境外银行卡
AnythingLLM 是 Mintplex Labs 出的免费开源软件,专门根据你自己的文件回答问题:PDF、DOCX、表格和笔记都在你的电脑(桌面版)或服务器(Docker 版)上解析、保存。回答可以交给内置的本地模型,也可以换成云端模型:用 Generic OpenAI 提供商填上 RuAPI 的密钥,AnythingLLM 里就有了 Claude、GPT、Gemini、DeepSeek 和 Qwen。模型请求发到 www.ruapi.ai,不用 VPN;余额用 USDT 充值。
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="https://www.ruapi.ai/v1",
)
resp = client.chat.completions.create(
model="deepseek-flash",
messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)设置之前,可以先用这个例子(cURL 标签)在终端里测一下密钥。在 AnythingLLM 里,同一个地址 https://www.ruapi.ai/v1 填进 Generic OpenAI 提供商的 Base URL,密钥填进 API Key。
AnythingLLM 为什么要接云端模型
本地模型要很好的电脑。
跑内置模型,AnythingLLM 文档建议至少 16 GB 内存、8 核 CPU,Windows 上最好再有 8–12 GB 显存的显卡;用云端模型的话要求低得多(docs.anythingllm.com,2026-11-02)。Claude、Gemini 和 GPT-5 的权重不公开,根本没法在自己的机器上跑。用 RuAPI,回答在云端生成,文档库还留在 AnythingLLM 里。
在俄罗斯办不下 OpenAI 或 Anthropic 的密钥。
两家公司的支持国家列表里都没有俄罗斯(anthropic.com/supported-countries、developers.openai.com,2026-11-02),俄罗斯银行卡在境外也付不了款。RuAPI 用邮箱、Google 或 Yandex 注册,余额用 USDT 充值,5 USDT 起。
自带的 Anthropic、OpenAI 提供商改不了地址。
AnythingLLM 里这两个提供商的设置只有密钥栏,没有 API 地址栏,在设置里没法改成指向别的服务(AnythingLLM 1.19.0 源码,2026-11-02)。所以 RuAPI 要通过 Generic OpenAI 提供商接入:一个密钥就能用各家的模型,每次请求花了多少在 RuAPI 控制台日志里都看得到。
怎么把 RuAPI 接到 AnythingLLM:4 步
AnythingLLM 桌面版和 Docker 版的步骤一样。下面的菜单名按英文界面写;界面语言可以在设置里(Display Language)切换,但 Generic OpenAI 的表单始终是英文。
注册 RuAPI 并充值
在 www.ruapi.ai 用邮箱、Google 或 Yandex 注册,不要手机号。用 USDT 充值,5 USDT 起(TRC20、BEP20、TON、Polygon 网络),也收 USDC;USDT 可以用卢布通过 SBP 买,步骤见 docs.ruapi.ai/zh/buy-usdt。也收境外银行发行的卡。
新账号一般会马上送 $0.05 试用:能用 claude-haiku-5-5、deepseek-flash 和 gpt-6-luna,其他模型第一次充值后开放。
给 AnythingLLM 单独建一个密钥
控制台 →「令牌管理」→「添加令牌」。如果 Docker 版开放给同事用,给密钥设个花费上限:所有用户、所有工作区都扣同一个 RuAPI 余额。


选择 Generic OpenAI 提供商
- 点侧边栏底部的扳手图标(提示 Open settings)→ AI Providers → LLM,在 LLM Provider 列表里找到 Generic OpenAI。
- Base URL 填 https://www.ruapi.ai/v1——一定要带 /v1。API Key 填你的 sk-… 密钥。填好密钥后,Selected Model 会变成 RuAPI 的模型列表,比如选 deepseek-flash。如果那里还是一个空的文本框而不是列表,说明模型列表没拿到:检查地址和密钥。
- Model context window 是 AnythingLLM 截断请求的上限。输入框提示的例子是 4096,但这么小会把找到的文档片段和聊天记录截掉;填 32000 左右即可。Max Tokens 是回答长度上限,默认 1024,对长回答和带思考的模型都不够,建议填 8192。最后点 Save changes。
把文档上传到工作区
- 新建一个工作区(New Workspace),鼠标移到侧边栏里的这个工作区上:上传图标(提示 Upload documents to this workspace for RAG indexing)会打开文档管理器。
- 把文件拖到 Click to upload or drag and drop 区域——PDF、DOCX、TXT、MD、CSV、XLSX、PPTX、EPUB、HTML 等格式都行。在 My Documents 里勾选它们,点 Move to Workspace,再点 Save and Embed。向量化由你选的嵌入器完成:默认是内置的 AnythingLLM Embedder,在你自己的电脑上算;如果嵌入器设成 Generic OpenAI 加 RuAPI 密钥,就由 text-embedding-3-small 来算(见下面关于嵌入器的问答)。
- 在这个工作区的聊天里提问:AnythingLLM 会找出相关片段,和问题一起发给模型,并在回答下面标出片段来自哪些文件。
RuAPI 密钥和第一个请求怎么用:docs.ruapi.ai/zh/quickstart
AnythingLLM 里填什么
LLM → Generic OpenAI
Base URL: https://www.ruapi.ai/v1
API Key: sk-…
Model context window: 32000
Max Tokens: 8192
Embedder
Generic OpenAI:https://www.ruapi.ai/v1,text-embedding-3-small
或内置 AnythingLLM Embedder(本地)
Docker(.env)
LLM_PROVIDER=generic-openai
GENERIC_OPEN_AI_BASE_PATH=https://www.ruapi.ai/v1
GENERIC_OPEN_AI_API_KEY=sk-…
GENERIC_OPEN_AI_MODEL_PREF=deepseek-flash
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=32000
GENERIC_OPEN_AI_MAX_TOKENS=8192
付款
USDT / USDC,5 USDT 起
境外银行发行的卡
AnythingLLM 可用模型的价格
适合根据文档回答问题的模型,单位是美元/100 万 token,按价格页显示价。没有月费:余额只扣你的请求实际用掉的 token。
| model | input $/M | output $/M |
|---|---|---|
| deepseek-flash | $0.17 读缓存 $0.0120 | $1.44 |
| qwen3.8-flash | $0.14 读缓存 $0.0288 | $0.49 |
| gpt-5.4-mini | $0.90 读缓存 $0.0900 | $5.40 |
| claude-haiku-5-5 | $0.12 读缓存 $0.0120 >100K: $0.60 | $0.60 >100K: $3.00 |
| gemini-3.5-flash | $1.80 读缓存 $0.18 | $10.80 |
| claude-sonnet-5-5 | $2.40 读缓存 $0.12 | $12.00 |
| gpt-5.4 | $3.00 读缓存 $0.30 >272K: $6.00 | $18.00 >272K: $27.00 |
表里 input 是新的输入 token,「读缓存」是来自缓存的 token,output 是回答正文。AnythingLLM 会给每个问题附上找到的文档片段(默认最多 4 段)和这个对话里之前的问答(Chat History 设置,默认最近 20 轮),所以输入 token 一般比问题本身多得多。请求开头和上次相同时,GPT 和 DeepSeek 会自动按读缓存价计费(docs.ruapi.ai/zh/prompt-caching)。
灰色的「>100K」行是厂商的长提示价格:提示超过门槛,整个请求都按这个价算。
内置模型,还是走 RuAPI 用云端模型
| AnythingLLM + RuAPI | AnythingLLM 内置模型 | |
|---|---|---|
| 回答在哪里生成 | 在云端:请求经 www.ruapi.ai 发给模型提供方 | 在你的电脑上(Lemonade 加 llama.cpp);Docker 版用 ENABLE_BUILT_IN_LLM=true 打开 |
| 哪些内容会离开电脑 | 问题、找到的文档片段和聊天记录;嵌入器用 RuAPI 时,还有用来算向量的文档文字 | 没有 |
| 文档和向量存在哪里 | 在你这边:文件、向量和 LanceDB 数据库都留在 AnythingLLM 里 | 同样在你这边 |
| 硬件 | 普通笔记本就够 | 16 GB 内存、8 核以上,最好有显卡 |
| 模型 | Claude、GPT、Gemini、DeepSeek、Qwen、GLM、Kimi | GGUF 格式的开放模型 |
内置模型的信息来自 docs.anythingllm.com 和 GitHub 上 v1.19.0 的发版说明,2026-11-02 核对。每个工作区可以单独选模型,两种方式很容易一起用。
