基于LLM与RAG的长篇小说创作智能体：从架构解析到本地部署实战

1. 项目概述：一个能“听懂”你想法的小说创作Agent

如果你也和我一样，有过写小说的冲动，但总卡在“开头难”、“剧情散”、“人物崩”这些坎上，那么今天聊的这个工具，可能会让你眼前一亮。Long-Novel-GPT（简称LNGPT），不是一个简单的文本续写器，而是一个真正意义上的“长篇小说创作智能体”。它的核心目标，是帮你把脑子里那些零碎的想法、一个简单的提问，比如“我想写一个关于未来世界，主角是退役机甲师，捡到一台古董机甲的故事”，一步步变成结构完整、情节连贯、甚至能达到网文签约门槛的百万字长篇。

这背后依赖的，是当下最前沿的LLM（大语言模型）和RAG（检索增强生成）技术。但LNGPT的巧妙之处在于，它没有让AI天马行空地乱写，而是为它设计了一套严谨的“工作流”：大纲 -> 章节 -> 正文。就像一个经验丰富的编辑，它会先帮你搭好骨架（大纲），再填充血肉（章节剧情），最后打磨细节（正文润色）。更关键的是，它支持你导入已有的小说草稿或全文，在这个基础上进行修改、扩写和续写，让AI成为你的“超级辅助”，而不是“替代者”。接下来，我将结合自己深度使用和测试的经验，为你拆解这个工具从部署到创作的全过程，分享那些官方文档里不会写的实操细节和避坑指南。

2. 核心架构与工作流深度解析

LNGPT之所以能处理长文本并保持逻辑连贯，其核心在于一个精心设计的Agent（智能体）架构。它不仅仅是调用一次API生成一段文字，而是将创作过程分解为多个可管理、可回溯的步骤，并通过工具调用实现信息的检索与同步。

2.1 自上而下的“金字塔”式创作流程

传统的AI写作工具，往往是“一次性”或“续写式”的，容易导致剧情跑偏、前后矛盾。LNGPT采用的“大纲-章节-正文”三级结构，是一种典型的自上而下、逐步细化的工程化思维。

1. 大纲层（战略层）：这是小说的顶层设计。AI根据你的初始想法（Prompt），生成一个包含核心冲突、主要人物关系、故事主线与可能支线的概要。这一步决定了故事的基调和走向。在我的测试中，明确要求“科技修仙题材，主角以现代知识破解上古阵法”，AI生成的大纲就会围绕“知识体系碰撞”这一核心矛盾展开，而不是泛泛的修仙升级。
2. 章节层（战术层）：在大纲的框架下，将故事分解为具体的章节。每一章会有一个核心事件和目标。例如，大纲中“主角首次破解阵法”这一情节，在章节层会被细化为“第X章：藏书阁偶得残卷，夜观星象初窥门径”。这一层确保了每个叙事单元都有明确的推进作用。
3. 正文层（执行层）：这是最终的文本产出层。AI根据章节目标，结合具体的风格Prompt（如“天蚕土豆风格”），生成详细的场景、对话和心理描写。在这一层，RAG技术会介入，检索已有的相关正文片段和剧情纲要，确保新写的内容与之前已生成的部分在细节上（如人物外貌、地点特征、法宝名称）保持一致。

注意：这个流程并非完全线性。在“正文”创作阶段，如果发现情节需要调整，信息会反向反馈到“章节”甚至“大纲”层进行同步更新，形成一个动态调整的闭环。这模仿了人类作者“边写边改”的创作习惯。

2.2 RAG与工具调用：确保“记忆”与“一致性”的关键

长篇小说创作最大的挑战是“一致性”。写了50章之后，AI很可能忘了第3章给配角设定的口头禅是什么。LNGPT通过RAG技术解决了这个问题。

• “拆书”与知识库构建：当你导入一本已有小说时，LNGPT会首先执行“拆书”操作。这个过程不仅仅是分割文本，更重要的是提取关键信息，如人物关系图谱、核心剧情纲要、重要地点和物品设定。这些信息被结构化地存储起来，形成一个专属于这部小说的“知识库”。
• 实时检索与上下文注入：在生成新内容（无论是修改还是续写）时，Agent会首先根据当前创作焦点（例如，“正在写主角与反派的第一次对决”），从知识库中检索出最相关的正文片段（可能是之前描写反派武功招式的段落）和剧情纲要。这些检索到的内容，会作为关键上下文，与你的新指令一起发送给LLM。这就相当于在提醒AI：“记住，反派的特点是阴险狡诈，常用一把淬毒短剑”。
• 同步更新机制：当你对某一段正文进行了修改（比如把一场平局改成了主角惨胜），LNGPT不仅保存修改后的正文，还会自动分析这次修改对整体剧情的影响，并更新对应的剧情纲要。例如，纲要可能会从“主角与反派试探性交手”更新为“主角重伤，但窥得反派武功破绽”。这保证了高层纲要始终是底层正文的准确摘要。

这套机制使得LNGPT能够处理超长篇幅，理论上只要知识库管理得当，百万字级别的小说也能保持前后细节不自相矛盾。

3. 从零开始：本地化部署与配置详解

官方推荐使用Docker部署，这是最便捷、环境最统一的方式。但为了满足不同需求，特别是使用本地大模型的情况，这里会详细拆解每一步。

3.1 基础Docker部署（使用OpenAI等云端API）

这是最直接的启动方式，适合绝大多数使用ChatGPT、文心一言、DeepSeek等云端API的用户。

1. 获取镜像：打开终端（Linux/macOS）或命令提示符/PowerShell（Windows），执行拉取命令。这里有一个细节：latest标签指向最新稳定版，如果你想锁定某个特定版本（如2.2），可以指定maoxiaoyuz/long-novel-gpt:2.2。

   docker pull maoxiaoyuz/long-novel-gpt:latest

2. 配置文件准备：这是最关键的一步。你需要从项目仓库找到.env.example文件。通常你可以直接使用curl命令下载，或访问GitHub页面手动复制内容。

   # 示例：下载配置文件到当前目录 curl -o .env.example https://raw.githubusercontent.com/MaoXiaoYuZ/Long-Novel-GPT/main/.env.example

   下载后，将其重命名为.env。用文本编辑器（如VS Code、Notepad++）打开它，你会看到如下关键配置项：

   # OpenAI OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx OPENAI_BASE_URL=https://api.openai.com/v1 # 可用的模型，例如 gpt-4o, gpt-4-turbo-preview OPENAI_AVAILABLE_MODELS=gpt-4o # 文心一言 (可选) WENXIN_API_KEY=your_api_key WENXIN_SECRET_KEY=your_secret_key WENXIN_AVAILABLE_MODELS=ernie-4.0-8k # 线程配置 MAX_THREAD_NUM=5

   • API密钥：将OPENAI_API_KEY替换成你自己的。如果你主要用文心，就填写文心的API_KEY和SECRET_KEY。
   • 模型名称：OPENAI_AVAILABLE_MODELS务必填写你API账户内确实有权限访问的模型名。填错了会导致无法调用。多个模型用英文逗号隔开。
   • 线程数：MAX_THREAD_NUM控制同时生成的任务数。设为5表示最多可以5章同时创作，速度更快，但API调用并发量高，费用消耗也快。请根据你的API套餐和网络状况调整。

3. 启动容器：确保终端位于你存放.env文件的目录下，执行运行命令。

   docker run -p 80:80 --env-file .env -d maoxiaoyuz/long-novel-gpt:latest

   • -p 80:80：将容器内的80端口映射到宿主机的80端口。如果你本机的80端口已被占用（比如有Nginx），可以改为-p 8080:80，之后通过http://localhost:8080访问。
   • --env-file .env：指定环境变量文件。
   • -d：后台运行。

4. 访问与验证：打开浏览器，访问http://localhost（或你指定的端口）。如果看到LNGPT的Web界面，说明部署成功。

实操心得：第一次启动时，Docker可能会花一点时间拉取镜像层。启动后，如果无法访问，首先用docker ps命令查看容器是否在运行。如果容器状态异常，使用docker logs [容器ID]查看日志，通常能快速定位问题，比如API密钥无效或模型名错误。

3.2 对接本地大模型（Ollama、LM Studio等）

许多开发者希望在本地运行开源模型（如Qwen、Llama、DeepSeek Coder），以保护隐私或节省成本。LNGPT通过兼容OpenAI API格式来实现这一点。

核心原理：你需要一个“桥梁”服务，将本地模型的接口，转换成LNGPT能识别的OpenAI API格式。Ollama和LM Studio都原生支持此功能。

部署步骤（以Ollama为例）：

1. 启动本地模型服务：首先，确保你的Ollama已经运行，并拉取了所需模型（例如qwen2.5:7b）。然后，启动OpenAI格式的API服务。

   # 启动Ollama的OpenAI兼容接口，默认端口通常是11434 ollama serve # 或者，如果你需要指定端口，可以用其他工具如OpenAI-Forward或第三方包装器 # 假设服务地址为 http://127.0.0.1:11434/v1

2. 修改Docker启动命令：为了让容器内的LNGPT能访问到宿主机（你的电脑）上运行的Ollama服务，需要添加网络参数。

   docker run -p 80:80 --env-file .env -d --add-host=host.docker.internal:host-gateway maoxiaoyuz/long-novel-gpt:latest

   关键参数--add-host=host.docker.internal:host-gateway，它创建了一个主机名映射，使得容器内可以通过host.docker.internal这个域名访问到宿主机。

3. 配置.env文件：这是最容易出错的地方。你需要配置本地模型部分，并正确使用上述主机名。

   # 本地模型配置 (例如 Ollama) LOCAL_BASE_URL=http://host.docker.internal:11434/v1 # 注意：不是localhost！ LOCAL_API_KEY=ollama # Ollama通常不需要密钥，但有些包装器需要，这里可随意填写非空字符串，如`ollama` LOCAL_AVAILABLE_MODELS=qwen2.5:7b # 这里填写Ollama中你拉取的模型名称

   • LOCAL_BASE_URL：必须使用http://host.docker.internal:[你的端口]/v1。localhost或127.0.0.1在容器内指向的是容器自己，而不是宿主机。
   • LOCAL_AVAILABLE_MODELS：必须与本地服务提供的模型名完全一致。在Ollama中，就是ollama list命令显示的名字。

4. 在界面中选择模型：部署成功后，在LNGPT的Web界面设置中，你应该能看到一个下拉菜单，里面除了云端模型（如GPT-4），还会有你配置的本地模型（如qwen2.5:7b）。选择它，即可开始用本地模型进行创作。

踩坑记录：我最初在LOCAL_BASE_URL中使用了http://localhost:11434/v1，导致容器无法连接到Ollama，日志报错“Connection refused”。改为host.docker.internal后立即解决。另外，确保宿主机防火墙允许容器访问你所指定的端口（如11434）。

4. 实战创作：从零生成一部短篇小说的全流程

假设我们现在要创作一部名为《星尘回响》的科幻短篇，目标是生成约2万字的内容。我将演示如何利用LNGPT 2.2版本的功能，高效完成从构思到成稿的过程。

4.1 阶段一：创意输入与大纲生成

1. 初始Prompt：在“创作”页面，不要只写“写一个科幻小说”。给予AI更明确、更具象的指令，这能极大提升生成质量。例如：

   “创作一部软科幻小说，核心设定：人类可以通过‘共鸣器’聆听宇宙中古老星辰消亡时发出的‘遗言’，这些‘遗言’中蕴含着超越当前科技的物理规律。主角是一名因听力过于敏锐而被‘星语者’组织边缘化的监听员，在一次偶然中，他听到了一个本不该存在的、来自未来星辰的‘预言遗言’。请为此生成一个详细的故事大纲，包括核心冲突、主要人物（主角、导师、对手、盟友）、故事的三幕式结构（开端：发现异常；发展：调查与遭遇阻挠；高潮：破解预言与终极抉择；结局：影响与余波），以及可能涉及的科幻概念。”

2. 生成与调整：点击生成后，LNGPT会调用Agent开始工作。它会先根据你的Prompt生成一个初步大纲。这个大纲可能比较粗糙，你可以直接在这个结果框里继续用自然语言对话来调整它。比如：“把对手从组织内部官僚，改为一个试图垄断星辰遗言科技的巨型企业‘寰宇集团’。给主角增加一个弱点：每次深度共鸣后，会短暂失去对现实声音的感知。”

3. 锁定大纲：当大纲调整到你满意后，这个文本就成为了后续所有章节和正文生成的“宪法”。LNGPT会将其存入知识库，作为后续检索和一致性校验的最高指导。

4.2 阶段二：章节规划与剧情展开

1. 基于大纲生成章节：进入“章节规划”或类似功能页。你可以指定要生成多少章（比如10章），以及每章的预期字数（比如先设定200字作为章节概要）。输入指令：“根据上述大纲，生成10个章节的标题和核心剧情概要，每章概要约200字，确保节奏紧凑，每章结尾留有悬念。”

2. 并行生成与线程控制：LNGPT 2.1+版本支持多线程并行生成章节。如果你在.env中设置了MAX_THREAD_NUM=5，那么10章会分两批（每批5章）同时生成，速度显著提升。在界面上，你通常可以看到一个任务队列或进度条。

3. 人工审核与微调：生成完毕后，务必逐章审阅这些概要。这是控制故事走向最关键的人工介入点。你可以：

   • 调整顺序：拖拽章节调整叙事时序（如采用倒叙）。
   • 合并/拆分：觉得某章内容太多就拆成两章，太单薄就合并。
   • 直接编辑：对任何一章的概要进行文字修改，细化或改变情节。
   • 重新生成：对不满意的单章，可以选中后让其重新生成，直到符合要求。

注意事项：章节概要阶段不必追求文笔，重点是情节逻辑和节奏把控。确保每一章都有明确的事件推进、人物成长或悬念设置。这是防止后续正文写“散”了的关键。

4.3 阶段三：正文生成与风格化润色

这是篇幅最长的阶段，也是AI大显身手的阶段。

1. 选择风格Prompt：LNGPT允许你为正文生成选择不同的风格模板。例如，如果你想要网络文学那种快节奏、强代入感的风格，可以加载“天蚕土豆风格.txt”这个Prompt。这个Prompt里定义了句子长短、词汇偏好、描写侧重等。你也可以根据自己喜好创建或修改Prompt。

2. 启动正文生成：选中所有或部分章节，点击“生成正文”。LNGPT会为每个章节的概要，结合选定的风格Prompt，以及从已生成内容中检索到的相关信息（如人物特征、已设定的科幻名词），展开成详细的正文。

3. RAG在此时的作用：当生成第5章时，Agent会自动去检索前4章中关于“共鸣器”的具体描述、主角听力缺陷的几次表现、以及“寰宇集团”首次出场的段落，确保这些细节在第5章中得到延续。这正是长篇小说保持“一致性”的魔法所在。

4. 迭代与扩写：

   • 单章润色：对某一章生成的正文不满意，可以选中该章，使用“对草稿进行润色”Prompt，或输入具体指令（“把这场打斗写得更细致一些”，“增加一些环境描写烘托孤独感”）进行重写或扩写。
   • 批量扩写：如果觉得每章2000字还不够，可以选中全部章节，使用“扩写”功能，指令为“将每章正文在保持原有情节的基础上，扩充50%的篇幅，主要增加人物对话细节和环境氛围描写”。
   • 全局修改：如果你中途想改变某个设定（比如把“共鸣器”改名为“星纹接收器”），可以在知识库管理或特定界面进行全局查找与替换，LNGPT会同步更新剧情纲要中的相关提及。

4.4 阶段四：导入已有文本与协同创作

这是LNGPT区别于其他工具的强大功能。假设你已有3万字的《星尘回响》初稿。

1. 导入与拆书：在“书籍管理”或类似页面，导入你的Word或TXT文档。LNGPT会启动“拆书”流程，这可能需要几分钟，时间取决于文本长度。完成后，系统会生成初始的人物关系图和剧情纲要。

2. 基于原文的修改与续写：

   • 局部改写：你觉得第8章的高潮部分张力不足。你可以直接选中第8章对应的正文片段，给出指令：“重写主角与寰宇集团保安队长在空间站核心的对峙场景，要求对话更加针锋相对，增加主角利用环境智取的细节。”
   • 续写：如果你的故事卡在了第15章。你可以让AI基于前14章的全部内容（通过RAG检索）和整体大纲，生成第15章及之后的章节概要和正文。
   • 风格统一：如果你的初稿文风不统一，可以选中全部章节，应用“润色”Prompt，让AI将全文风格调整为一致的网文风或文艺风。

5. 高级技巧与成本优化实战指南

使用AI辅助创作，效果和成本是需要平衡的艺术。以下是我在多次实践中总结出的经验。

5.1 提示词工程：与AI高效沟通

• 结构化指令：将你的要求分点列出，比写一大段散文式的描述更有效。

  低效：“写一个有趣的相遇，主角很酷，女主很美，场景要浪漫。”高效：“生成主角林风与女主苏雨在‘星辰遗物拍卖会’上的首次相遇场景。要求：1. 林风的行为动机是寻找特定频率的遗物碎片，表现其专业和敏锐；2. 苏雨的身份是神秘卖家，举止优雅但带有疏离感；3. 场景描写突出拍卖会的科技感与奢华；4. 两人因竞拍同一件物品产生交集，对话中有隐晦的机锋；5. 结尾为苏雨留下一个谜题式的线索。”

• 提供范例：在Prompt中直接粘贴一段你喜欢的文字风格作为例子，告诉AI“请模仿以下段落的描写节奏和词汇风格”。
• 角色扮演：直接让AI扮演特定角色进行思考。例如，在生成大纲时，指令开头可以是：“你是一位拥有20年经验的科幻杂志主编，请以专业视角评估并完善以下故事创意...”
• 分步引导：对于复杂情节，不要指望AI一步到位。可以先让它“列出这个阴谋的5个关键步骤和3个可能的漏洞”，然后再基于这个列表去生成具体剧情。

5.2 成本与线程管理：精打细算玩转API

LNGPT界面会实时显示API调用费用（针对OpenAI等计费API），这是非常实用的功能。

1. 线程数设置：.env中的MAX_THREAD_NUM是双刃剑。数字越大，并行章节越多，生成速度越快，但瞬间的Token消耗和API请求数也呈倍数增长，可能导致速率限制或费用激增。
   • 建议：初次尝试或使用高价模型（如GPT-4）时，设置为2-3。在生成章节概要这类对质量要求稍低、任务量大的环节，可以调高到5。在生成最终正文这类要求高的环节，建议调回2-3，甚至1，以获得更稳定、更专注的生成质量。
2. 模型选择策略：
   • 大纲与章节规划：可以使用能力较强但成本较高的模型（如GPT-4），因为这一步决定了故事骨架，值得投入。
   • 正文扩写与润色：对于已有详细章节概要的正文生成，可以尝试使用性价比较高的模型（如GPT-3.5-Turbo、文心ERNIE-Speed）。风格化润色时再切换回强模型。
   • 本地模型兜底：对于大量的、重复性的文本生成任务（比如批量将每章从500字扩写到800字），完全可以交给本地部署的7B/13B参数模型，虽然文采可能稍逊，但零成本，用于产生草稿非常合适。
3. 分阶段保存与版本管理：不要一次性生成全部百万字。建议每完成10-20章，就手动将作品导出保存。LNGPT的内部状态可能会因为更新或意外而重置，外部备份至关重要。你可以用Git来管理不同版本的小说文稿，清晰看到每次AI修改和人工调整的差异。

5.3 质量把控：当好AI的“主编”

AI是强大的写手，但不是完美的作家。它缺乏真正的人类情感和深度的生活阅历。因此，你的角色必须从“作者”转变为“主编”。

1. 逻辑检查官：AI最常犯的错误是“逻辑跳跃”和“细节遗忘”。仔细检查：人物的动机是否合理？时间线是否矛盾？上章受伤的角色这章是否突然痊愈了？利用LNGPT生成的“剧情纲要”作为检查清单，逐条核对。
2. 情感注入者：AI写的对话和内心独白有时会显得“空洞”或“套路化”。你需要人工介入，为关键场景添加真正打动人心的细节。比如，把“他很伤心”改成“他攥着那张泛黄的星图，指节发白，却感觉不到一丝疼痛，因为心里的某个地方，已经先一步碎成了听不见的星尘。”
3. 风格统一者：即使使用了风格Prompt，AI在不同段落间的文风仍可能有细微波动。通读全文，调整那些过于突兀的句式或词汇，确保语言风格统一。
4. 创意源泉：AI擅长组合与扩展，但突破性的“神转折”和“绝妙设定”依然来自人脑。当AI生成的情节陷入俗套时，就是你发挥创意、给出全新指令的时候。

6. 常见问题与故障排查实录

在实际部署和使用中，你可能会遇到以下问题。这里记录了我的排查和解决方法。

最后一点个人体会：Long-Novel-GPT是我目前见过的，将AI用于长文本创作最务实、最体系化的工具之一。它没有空谈“完全自动创作”，而是聚焦于“增强人类作者”。它的价值不在于替代你写出惊世之作，而在于帮你扛住最枯燥、最需要重复劳动的“堆字数”和“保一致”的环节，让你能把宝贵的精力集中在核心创意、人物塑造和情感升华上。把它当作一个不知疲倦、知识渊博、任劳任怨的写作助理，明确你掌舵、它划桨的分工，才能真正人机协同，驶向创作的深海。