English | 中文
一个超低资源消耗超快的离线翻译服务器，无需显卡。单个请求平均响应时间 50 毫秒。支持全世界主要语言的翻译。
翻译质量与 Google 翻译相当。
注意本模型专注于速度和多种设备私有部署，所以翻译质量肯定是不如大模型翻译的效果。需要高质量的翻译建议使用在线大模型 API。
即将上线
| 项目名称 | 内存占用 | 并发性能 | 翻译效果 | 速度 | 其他信息 |
|---|---|---|---|---|---|
| facebook/nllb | 很高 | 差 | 一般 | 慢 | Android 移植版的 RTranslator 有很多优化，但占用仍然高，速度也不快 |
| LibreTranslate | 很高 | 一般 | 一般 | 中等 | 中端 CPU 每秒处理 3 句，高端 CPU 每秒处理 15-20 句。详情 |
| OPUS-MT | 高 | 一般 | 略差 | 快 | 性能测试 |
| 其他大模型 | 超高 | 动态 | 好好好 | 很慢 | 32B 及以上参数的模型效果不错，但是对硬件要求很高 |
| MTranServer(本项目) | 低 | 高 | 一般 | 极快 | 单个请求平均响应时间 50ms, 加载英译中模型后占用约 450MB 内存 |
现有的 Transformer 架构的大模型的小参数量化版本不在考虑范围。
因为实际调研使用发现小参数模型的翻译质量很不稳定且会乱翻，幻觉严重，速度也达不到指哪翻哪秒回的效果。 出了性能更优的 Diffusion 架构的语言模型，再测试。
表中数据仅供参考，非严格测试，非量化版本对比。
v3.0.1 即将发布
- 完全重写服务架构，提高稳定性和性能
- 添加 Swagger UI 接口文档
- 支持 HTTPS 安全连接
- 添加模型自动下载机制，使用更流畅
- 支持更多语言对的翻译
- 更新模型
即将发布桌面端软件，敬请期待。
对普通用户来说有难度，建议使用桌面端。
- Docker
- Docker Compose（可选）
- 默认无内置模型翻译时自动下载：
xxnuo/mtranserver:latest - 内置中英互译模型：
xxnuo/mtranserver:latest-zh - 内置日英互译模型：
xxnuo/mtranserver:latest-ja
复制下面的命令，在终端执行。
docker run -d --name mtranserver -p 8989:8989 -e API_TOKEN=your_token xxnuo/mtranserver:latest服务器准备一个存放配置的文件夹，打开终端执行以下命令
mkdir mtranserver
cd mtranserver
touch compose.yml用编辑器打开 compose.yml 文件，写入以下内容。
修改下面的
your_token为你自己设置的一个密码，使用英文大小写和数字。自己内网可以不设置，如果是云服务器强烈建议设置一个密码，保护服务以免被扫到、攻击、滥用。如果需要更改端口，修改
ports的值，比如修改为9999:8989表示将服务端口映射到本机 9999 端口。建议使用
API_TOKEN设置密码，旧版本的CORE_API_TOKEN也还可以生效。
services:
mtranserver:
image: xxnuo/mtranserver:latest
container_name: mtranserver
restart: unless-stopped
ports:
- "8989:8989"
environment:
- API_TOKEN=your_token先启动测试，确保 8989 端口没被占用。
docker compose up正常输出示例：
HTTP Service URL: http://0.0.0.0:8989
Swagger UI: http://0.0.0.0:8989/docs然后按 Ctrl+C 停止服务运行，然后正式启动服务器
docker compose up -d这时候服务器就在后台运行了。
模型自动下载功能需要连接网络（中国大陆不需要代理），后续翻译及其他功能均无需联网完全离线。
所以第一次翻译不是秒回，要等待一会儿！
可在 Docker 日志处观察进度。下载速度取决于网络速度，一般在 10s 内能完成一个语言模型的下载。如果下载超时/失败，请检查容器是否能正常联网。
如果属于内网机器无法访问互联网可按照下文指导手动下载模型。
下面表格内的 localhost 可以替换为你的服务器地址或 Docker 容器名。
下面表格内的 8989 端口可以替换为你在 compose.yml 文件中设置的端口值。
如果未设置环境变量 API_TOKEN、CORE_API_TOKEN 或者设置为空，翻译插件使用无密码的 API。
如果设置了 API_TOKEN、CORE_API_TOKEN，翻译插件使用有密码的 API。
下面表格中的 your_token 替换为你在环境变量中设置的 API_TOKEN 值。
注：
沉浸式翻译 在
设置页面，开发者模式中启用Beta特性，即可在翻译服务中看到自定义 API 设置(官方图文教程)。然后将自定义 API 设置的每秒最大请求数拉高以充分发挥服务器性能准备体验飞一般的感觉。我设置的是每秒最大请求数为5000，每次请求最大段落数为10。你可以根据自己服务器配置设置。简约翻译 在
设置页面，接口设置中滚动到下面，即可看到自定义接口Custom。同理，设置最大请求并发数量、每次请求间隔时间以充分发挥服务器性能。我设置的是最大请求并发数量为100，每次请求间隔时间为1。你可以根据自己服务器配置设置。接下来按下表的设置方法设置插件的自定义接口地址。注意第一次请求会慢一些，因为需要加载模型。以后的请求会很快。
| 名称 | URL | 插件设置 |
|---|---|---|
| 沉浸式翻译无密码 | http://localhost:8989/imme |
自定义API 设置 - API URL |
| 沉浸式翻译有密码 | http://localhost:8989/imme?token=your_token |
同上，需要更改 URL 尾部的 your_token 为你的 API_TOKEN 或 CORE_API_TOKEN 值 |
| 简约翻译无密码 | http://localhost:8989/kiss |
接口设置 - Custom - URL |
| 简约翻译有密码 | http://localhost:8989/kiss |
同上，需要 KEY 填 your_token |
普通用户参照表格内容设置好插件使用的接口地址就可以使用了。
cd mtranserver
docker pull xxnuo/mtranserver:latest
docker compose up -dBase URL:
http://localhost:8989在 v3.0.0 及以上版本中，API 文档可通过访问
http://localhost:8989/docs查看完整 Swagger 文档
| 名称 | URL | 请求格式 | 返回格式 | 认证头 |
|---|---|---|---|---|
| 服务版本 | /version |
无 | {"version": "v3.0.0"} |
无 |
| 支持的语言列表 | /languages |
无 | {"languages":["en","zh","ja","ko"...]} |
Authorization: your_token |
| 普通翻译接口 | /translate |
{"from": "en", "to": "zh", "text": "Hello, world!"} |
{"result": "你好，世界！"} |
Authorization: your_token |
| 批量翻译接口 | /translate/batch |
{"from": "en", "to": "zh", "texts": ["Hello, world!", "Hello, world!"]} |
{"results": ["你好，世界！", "你好，世界！"]} |
Authorization: your_token |
| 健康检查 | /health |
无 | {"status": "ok"} |
无 |
| 心跳检查 | /__heartbeat__ |
无 | Ready |
无 |
| 负载均衡心跳检查 | /__lbheartbeat__ |
无 | Ready |
无 |
| 谷歌翻译兼容接口 1 | /language/translate/v2 |
{"q": "The Great Pyramid of Giza", "source": "en", "target": "zh", "format": "text"} |
{"data": {"translations": [{"translatedText": "吉萨大金字塔"}]}} |
Authorization: your_token |
开发者高级设置请参考 CONFIG.md
 Lv Meiyang |
 Leo |