当前位置：首页 > news >正文

LocalAI 桌面客户端教程：从安装到跑通第一次对话的完整步骤

news 2026/8/31 9:06:01

LocalAI 桌面客户端教程：从安装到跑通第一次对话的完整步骤

【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI

LocalAI 是一个开源 AI 引擎，LLM、语音、图像、视频模型都能跑在同一套服务里，不依赖 GPU（显卡加速卡）。对不熟命令行的人，LocalAI 桌面客户端把"下载引擎、建目录、配环境变量、起服务、查日志"收进几个按钮里。本文按你要完成的任务串起来，带你从零走到跑通第一次对话。

一个窗口替你干完的脏活累活

先说清楚：没有客户端，这些手工步骤你要自己完成。平时你得自己找引擎对应平台的二进制、校验文件没坏、建模型目录、设监听地址、盯启动日志，任何一步错服务就起不来。客户端接管了全部：首次启动自动建好~/.localai下的models、backends、logs目录；按你的系统架构下载引擎二进制到~/.localai/bin；每次启动前做一次完整性校验，发现损坏会自动删掉并提示重装。监听地址默认127.0.0.1:8080、日志级别默认info，不改也能直接用。那个 800×600 的设置窗口，只在你要改配置时才需要打开。

获取客户端并等引擎下载完成 📦

这一节解决：装什么、装完会发生什么。按操作系统选安装包运行即可。客户端会自动检测架构、拉取匹配的发行版，大文件下载带重试机制，弱网环境不用反复手动操作。macOS 用户注意：官方 DMG 未做 Apple 签名，安装后需执行一次下面命令解除系统隔离，否则启动会被拦截：

sudo xattr -d com.apple.quarantine /Applications/LocalAI.app

Windows 与 Linux 直接安装运行。客户端首启若发现引擎未安装会弹出下载对话框，确认并等下载完成，二进制落盘到~/.localai/bin，校验和记录在~/.localai/checksums。

从启动服务到第一次对话，三步走 🚀

这一节是主线，读完即可复现。第一步启动服务：右键系统托盘图标点"Start LocalAI"（关掉主窗口只是收进托盘，服务不受影响）；菜单顶部常驻状态与版本两行信息，点一下可看完整详情。启动成功后点菜单里的"Open WebUI"，浏览器直接打开127.0.0.1:8080。

第二步加载一个对话模型：在 WebUI 里进 Models → Explore，选中模型点 Install 即可；也可以在终端执行local-ai models install llama-3.2-1b-instruct:q4_k_m。纯 CPU 机器优先选小参数量配q4_k_m这类量化档位；对应的后端（如 llama.cpp）只在该模型首次运行时才拉取，不跑的能力不额外占磁盘。

第三步开始对话：在终端运行下面命令，它会连上你的服务打开终端 Agent，能读文件、执行命令，凡涉及状态变更的操作都会先征求你的同意：

local-ai chat

按需才改的配置项

所有设置都落在一份 JSON 配置里，改动即时生效，无需重启整个应用。只在你需要时动这几项：

字段	什么时候改
`models_path`	模型太多占满系统盘时，指向大容量盘
`address`	`8080`端口被占用时改端口
`log_level`	排查问题前临时调成`debug`拿更细输出
`environment_vars`	逐条注入环境变量，如`OMP_NUM_THREADS`这类并发参数
`start_on_boot`	设为`true`，客户端启动即自动拉起服务