- 大模型
- 本地部署
- 模型推理服务
- 人工智能
- AI 应用
- 后端
- 多模态
【免费下载链接】lemonade
Lemonade helps users discover and run local AI apps by serving optimized LLMs right from their own GPUs and NPUs. Join our discord: https://discord.gg/5xXzkMu8Zk
Lemonade 是一款在本机 GPU 与 NPU 上直接运行优化后 LLM 的本地 AI 服务软件,通过一个轻量的lemond守护进程对外提供 OpenAI 兼容 API,并内置 Web 管理界面。本篇指南以官方 Arch 安装文档为骨架,结合仓库内 systemd 服务模板、CLI 手册与配置文档,完整讲解在 Arch Linux 上安装lemonade-server、选择前端界面、启动与管理服务、验证安装以及修改配置的每一步,读完后你可以在自己的 Arch 机器上跑起一个私密、免费的本机 AI 服务。
Lemonade 在 Arch 上由什么组成
在动手安装前,先理解lemonade-server包会带来什么。从仓库的打包与安装清单(contrib/debian/lemonade-server.install)可以看出,服务端包的核心组件包括:
lemond守护进程:真正的服务本体,负责请求路由与负载均衡,把请求分发到各 LLM 实例(参见 docs/man/man1/lemond.1);lemonadeCLI:与服务器交互的命令行工具,支持status、list、pull、run、backends等子命令(参见 docs/man/man1/lemonade.1);- 内置 Web UI:无需额外安装,服务一启动即可通过浏览器访问;
- 若干共享库与资源文件。
服务默认监听http://localhost:13305,这个端口在仓库中多处得到印证:CLI 入口的默认端口定义为int port = 13305;(src/cpp/cli/main.cpp),前端默认配置也是private port: number = 13305;(src/app/src/renderer/utils/serverConfig.ts),Web App 启动脚本同样以LEMONADE_PORT="${LEMONADE_PORT:-13305}"作为默认值(data/lemonade-web-app)。此外,服务还会通过 UDP 13305 端口广播局域网发现信标(见 src/app/src-tauri/src/beacon.rs)。
在 Arch Linux 上,lemonade-server位于官方 extra 软件仓库,直接使用 pacman 即可安装。
第一步:安装 lemonade-server
打开终端,执行:
pacman -S lemonade-serverpacman 会从 extra 仓库拉取lemonade-server及其依赖并完成安装。安装完成后,先确认二进制是否就位:
pacman -Q lemonade-server # 查看已安装版本 command -v lemond lemonade # 确认两个主要二进制存在lemond是服务进程,lemonade是配套 CLI。如果你需要从源码构建,可参考 docs/guide/install/README.md 与仓库根目录的 CMakeLists.txt(构建时启用BUILD_WEB_APP=ON可一并产出 Web UI,参见 contrib/debian/rules 的打包参数)。
启动并管理 lemond 服务
启用与启动
安装完成后服务可能已自动运行(发行版打包策略不同,Arch 官方包行为以实际为准)。若服务未启动,使用 systemd 启用并立即启动:
sudo systemctl enable --now lemond检查服务状态:
systemctl --no-pager status lemond查看运行日志:
journalctl -u lemond -f系统服务的关键设计
仓库中的 data/lemond.service.in 是 systemd 服务模板,揭示了服务运行的关键约束:
- 专用运行账号:服务以
lemonade用户/组运行(对应 data/lemonade.sysusers 中定义的系统用户),主目录为/var/lib/lemonade; - 目录约定:持久化状态位于
StateDirectory=lemonade(即/var/lib/lemonade,含config.json与模型缓存),下载的后端二进制放CacheDirectory=lemonade(/var/cache/lemonade),临时运行文件(PID、Unix socket)在RuntimeDirectory=lemonade(/run/lemonade); - 环境变量文件:
EnvironmentFile=-/etc/default/lemond(前导-表示文件缺失也不报错)。仓库提供了模板 data/secrets.conf,用于把密钥与config.json分离存放:# /etc/default/lemond 可设置以下变量 #HF_TOKEN= #LEMONADE_API_KEY= #LEMONADE_ADMIN_API_KEY=也可以在
/etc/default/lemond或通过systemctl edit lemond添加 systemd drop-in 覆盖; - 安全加固:模板启用了
PrivateTmp=yes、NoNewPrivileges=yes、ProtectSystem=full、ProtectHome=yes等加固选项,并以KillSignal=SIGINT实现优雅退出; - 运行时热更新:
ExecReload=/bin/kill -HUP $MAINPID说明可通过systemctl reload lemond触发配置重载,无需完全重启。
仓库还提供了按用户运行的服务模板 data/lemond-user.service.in(systemctl --user场景,环境文件默认读~/.config/lemonade/lemond.conf)。需要注意:从 Debian 打包的注释(contrib/debian/rules)看,项目刻意默认禁用按用户服务,以避免与系统服务在同一台机器上争抢端口,Arch 上的使用方式建议以官方包行为为准。
第二步:选择你的前端
lemonade-server装好后,有两种前端使用方式,可以二选一,也可以两者都装。
方案 A:Web UI(零额外安装)
Web 界面随服务一起提供,只要 lemond 在运行,打开浏览器访问http://localhost:13305即可,无需安装任何额外包。这是最轻量的选择,适合只想快速体验的用户。
仓库中的 Web App 启动脚本 data/lemonade-web-app 还揭示了更多细节:
- 默认端口通过
LEMONADE_PORT环境变量可覆盖(默认 13305); - 若本机已装
lemonadeCLI,脚本会先执行lemonade status --json探测服务实际监听端口,避免端口被改后打不开页面; - 支持
lemonade://协议 URI(如lemonade://open?view=logs会被转换为http://localhost:13305/lemonade?view=logs#/open),用于从外部应用直达 Web UI 的指定视图; - 优先用 Chromium 系浏览器以
--app模式打开(依次探测google-chrome、microsoft-edge-stable、chromium、chromium-browser),都没有则回退到xdg-open;设置环境变量LEMONADE_PREFER_CHROMIUM=false可强制走xdg-open。
方案 B:Lemonade Desktop 桌面包
若希望在应用商店/桌面环境中有独立入口,而不是每次手动开浏览器,可以安装桌面包:
pacman -S lemonade-desktop桌面包本质上是 Web UI 的桌面封装。从仓库打包文件(contrib/debian/lemonade-desktop.install)看,它提供:
lemonade-web-app启动脚本与对应的.desktop入口(data/lemonade-web-app.desktop),注册了x-scheme-handler/lemonade,因此系统会把lemonade://链接交给它打开;- 应用元数据(data/ai.lemonadeserver.webapp.metainfo.xml)与图标。
从 Debian 包的依赖关系(contrib/debian/control)可以推断同类桌面包通常依赖jq(脚本解析 status JSON 需要)、lemonade-server本体和xdg-utils,并推荐安装 Chromium 系浏览器以获得最佳--app模式体验;Arch 包的具体依赖以pacman -Si lemonade-desktop输出为准。
安装后的验证与快速上手
验证服务连通性
lemonade status如果服务正常,会输出服务器信息;加--json可得到机器可读输出(Web App 脚本正是靠它做端口探测)。若显示无法连接,先确认systemctl status lemond处于active (running)状态,再检查 13305 端口是否被占用:
ss -tlnp | grep 13305拉取并运行第一个模型
lemonade list # 查看可用模型 lemonade pull <模型名> # 下载模型 lemonade run <模型名> # 加载模型并在浏览器打开 Web UI其中run是加载模型并直接打开 Web 界面的快捷方式。完整命令集(import、delete、load、unload、backends、export、launch、scan、bench等)参见 docs/guide/cli.md。
通过 CLI 聊天
lemonade chat [模型名]可进入终端交互式聊天(详见 docs/guide/cli-chat.md)。
配置与自定义
配置文件位置与优先级
系统服务(以lemonade用户运行)的持久化配置位于/var/lib/lemonade/config.json(对应 systemd 的StateDirectory=lemonade)。config.json是一个稀疏覆盖文件:只记录你显式修改过的项,未指定的设置自动继承内置默认值,并随升级获得上游改进。
从 docs/guide/configuration/README.md 可知,lemond启动时按以下优先级逐层深合并配置:
- 内置出厂默认值(
resources/defaults.json与后端描述符); - 发行版系统默认值(Linux 下若存在
/usr/share/lemonade/defaults.json则合并); - 环境变量
LEMONADE_DEFAULTS_PATH指定的defaults.json; - 用户覆盖文件
config.json; lemond启动参数(--port、--host等,仅对本次进程生效,不改写配置文件)。
修改端口与监听地址
推荐用 CLI 在线修改(立即生效并持久化):
# 查看全部当前设置 lemonade config # 修改端口与日志级别 lemonade config set port=9000 log_level=debug # 允许局域网访问(注意安全警告) lemonade config set host=0.0.0.0默认值参考:port默认13305、host默认localhost、log_level默认info。若希望让其他机器通过局域网访问,host=0.0.0.0会让服务暴露在所有网络接口上——包括内部控制端点(/internal/*,可执行 shutdown、改配置),务必只在可信网络使用,并设置 API Key 保护(见下文)。
若服务器因配置问题无法启动,可用临时覆盖参数启动再修复:
sudo systemctl edit lemond # 或直接以 lemond --port 9000 临时启动设置 API Key 保护端点
密钥不写入config.json,而是通过环境变量注入(系统服务场景写入/etc/default/lemond或 systemd drop-in):
LEMONADE_API_KEY:保护常规 API 端点(/api/*、/v0/*、/v1/*),设置后未携带匹配 Bearer Token 的请求会被拒绝;LEMONADE_ADMIN_API_KEY:额外保护内部控制端点(/internal/*),与普通 Key 形成权限分离(详见 docs/guide/configuration/README.md 的"API Key and Security"小节)。
更多配置项
其余常用设置(models_dir模型缓存目录、auto_evict显存动态回收、telemetry遥测追踪、allowed_origins跨域白名单、后端二进制选择*_bin等)的完整参数表与取值说明,见 docs/guide/configuration/README.md。
升级与卸载
升级直接交给 pacman:
sudo pacman -Syu卸载(连同不再需要的依赖)使用:
sudo pacman -Rns lemonade-server若同时安装了桌面包,可一并移除。卸载不会自动删除/var/lib/lemonade下的模型缓存与配置,如有需要可手动清理(注意先停服sudo systemctl stop lemond)。
进一步阅读
- 其他发行版安装方式:Linux 安装总览、Debian 安装指南
- 核心概念(本地 LLM 服务器与 OpenAI 标准):docs/guide/concepts.md
- 完整配置参考:docs/guide/configuration/README.md
- CLI 全命令详解:docs/guide/cli.md
- 服务端集成与 API 说明:docs/api/README.md
- 大模型
- 本地部署
- 模型推理服务
- 人工智能
- AI 应用
- 后端
- 多模态
【免费下载链接】lemonade
Lemonade helps users discover and run local AI apps by serving optimized LLMs right from their own GPUs and NPUs. Join our discord: https://discord.gg/5xXzkMu8Zk
相关推荐
Lemonade 用户指南:从安装到 CLI、配置与本地 LLM 服务实战
Lemonade 用户指南:从安装到 CLI、配置与本地 LLM 服务实战 本文是 Lemonade 开源项目的用户指南导读与实战合集,围绕「安装、服务、GUI
大模型本地部署模型推理服务人工智能AI 应用后端多模态QOwnNotes 在 Arch Linux 上的安装指南:AUR 包与 pacman 官方仓库全流程详解
QOwnNotes 在 Arch Linux 上的安装指南:AUR 包与 pacman 官方仓库全流程详解 本篇指南完整覆盖 QOwnNotes(支持 Mark
桌面应用Win11Debloat 一键精简 Windows 11:10 分钟移除预装应用与遥测,随时可回滚
Win11Debloat 一键精简 Windows 11:10 分钟移除预装应用与遥测,随时可回滚 我拿一台用了几周的 Win11 笔记本实测了 Win11De
桌面应用CLI
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考