告别数据隐私焦虑！我用FastGPT免费私有化部署了AI个人知识管理系统辅助写作

最近有小伙伴问，有没有其他好用的免费 AI知识库搭建工具。我跟你说，还真有，在国内有一个叫FastGPT的工具，是可以搭建AI知识库的，而且免费开源，口碑也很好。它可以下载到本地，私有化搭建部署，目前在Github上面已经获得了26k Star，功能非常强大！

FastGPT通过将智能对话与可视化编排完美结合，无论是开发者还是业务人员，都能轻松打造专属的搭建AI知识库问答系统。

FastGPT介绍和特性

FastGPT 好比企业知识库领域的“WordPress”——装好模板、拖好流程、接好模型，就能上线一个可溯源、可扩展的 LLM 知识库应用，使用下来在知识库管理方面非常强大。

主要有以下特性

1. 开源，可以本地化部署，保护数据隐私
2. 识别文档功能强大，可以导入各式各样的文档及数据，智能处理PDF文档的复杂结构，保留图片、表格和LaTeX公式
3. 搭建方便，可视化工作流编排，对齐 OpenAI 官方接口，一键接入企业微信、公众号、飞书、钉钉等平台，让 AI 能力融入业务场景
4. FastGPT上的知识库可以打包成MCP Server，供n8n在生产内容的时候调用，补齐n8n在知识库上短板，这块内容后面单独出一期介绍，欢迎关注。 官方部署文档已放在文末

功能架构图

1. 典型场景
2. 对内：HR 手册、IT 运维、财务制度“随问随答”。
3. 对外：电商客服、官网咨询、产品 FAQ 7×24 秒回。
4. 嵌入式：把“小聊窗”嵌进 CRM/ERP，销售问“这份合同折扣底线多少？”直接返回答案+条款页码。
5. 数据报表：集成 FineReport 后，领导说“本季度利润下滑原因”→ 自动跑数、出图、给结论。

本期主要分享

1. 如何Linux云服务器部署FastGPT（推荐）
2. 如何通过Windos搭建FastGPT
3. FastGPT接入免费智能问答、嵌入、重排序模型
4. 知识库创建 & 新媒体写作抬杠大师应用搭建
5. 私有化部署AI知识库对个人&企业的意义

基础准备

在开始之前，如果没有计算机基础，建议了解以下以下内容：Docker技术、Windos下 WSL2安装、Ubuntu 常用命令、VPN&网络基础、AI编程工具基础等内容。每个点看30-40分钟即可，相关快速入门学习材料可以关注公众号，菜单栏加科叔二维码发你。

在实际部署中会遇到各种问题，你可以把问题发给AI编程工具，比如Trae，如今的AI编程工具非常强大，大部分问题都可以解决。你把AI当成你的编程教练，在项目中一边做一边学，这样效率更高。参考AI编程合集

一、如何通过Linux云服务器部署FastGPT（推荐）

FastGPT可以在个人或者企业云服务器部署，最低2核4G就能跑起来，这里以常见服务器操作系统Ubuntu 20.0.4为例，默认需要已经安装Docker 和 docker compose

官方文档参考：doc.fastgpt.io/docs/introd…

1. 获取 docker-compose.yml 和 config.json 配置文件

cd /home/fastgptbash <(curl -fsSL https://doc.fastgpt.cn/deploy/install.sh) --region=cn --vector=pg

官方这两个文件下载下来，测试下来是无法直接使用，需要修改config.json 和 docker-compose.yml 将redis、mongodb、postgres 账号密码对齐，否则docker容器大概率无法正常启动。

如有需要可以加科叔，修改好的文件，直接发你。

1. 运行docker容器

docker compose up -d

服务器放 3000端口（FastGPT默认端口），具体登录地址为，http://公网I地址:3000/ ，登录成功

二、如何通过Windos搭建

如果没有云服务器，个人电脑也可以部署，这里以Windos11为例，其他操作系统也可以参考官方安装指南:快速了解 FastGPT | FastGPT

首先安装WSL2，搭建Window11+Ubuntu双系统

WSL2（Windows Subsystem for Linux 2）是微软为 Windows 10/11 提供的“轻量级 Linux 虚拟机”，能在保持 Windows 桌面体验的同时，获得几乎原生的 Linux 内核与性能。

使用WSL2有两个前提：

1. 开启CPU虚拟化，大部分电脑都默认开启，如果没有开启可以问一下DeepSeek或者Kimi

如何查看是否开启

Ctrl + Shift + Esc → 性能 → CPU → 查看“虚拟化”是否显示“已启用”

1. 在Windos功能页面，搜索启用或关闭Windsow功能，开启Hyper-v 和 开启适用于Linux的 Windos子系统，勾选完毕后，按照提示重新启动电脑

勾选 Hyper-V

勾选 适用于Linux的Windows 子系统

安装WSL

在Windos搜索CMD,以管理员方式运行

安装WSL,输入以下命令，并配置Ubutu子系统用户和密码，

wsl --instal

此时 Ubuntu-24.04 应处于Running状态

安装Docker Desktop

在Microsoft Store中搜索docker

在安装时候，务必勾选 Use WSL2 instead of Hyper-v

双击打开，如果看到这样的界面，我们的Docker就安装好了

再次检查以下 确认是否勾选 Use the WSL 2 based engine

然后在 Resources 查看 WSL intergation 勾选Ubuntu选项

就可以在上面通过WSL2 安装的Ubuntu 里能直接运行docker (Enable integration with additional distros)

我们在打开命令行，并T通过 WSL 命令进入 WSL2中, 查看 docker命令正常

通过Docker Cmpose 快速部署 FastGPT

参考官方文档：doc.fastgpt.io/docs/introd…

查看Windos下部署方式

重要！在WSL2 Ubuntu下当前用户目录下创建 fastgpt目录，后续所有操作都在此文件夹中进行，可以规避很多Windos 下使用WS2 Uubntu 兼容性问题！

cd /home/keshumkdir fastgpt

拉取config.json 和 docker-compose.yml文件

cd /home/keshu/fastgptbash <(curl -fsSL https://doc.fastgpt.cn/deploy/install.sh) --region=cn --vector=pg

拉取正常

启动容器

docker-compose up -d

容器加载完毕

但是查看docer 后台，fastgpt没有正常运行

我们把报错原因丢给AI

显示是由于 fastgpt 服务的数据库连接配置不正确导致的，需要修改config.json 和 docker-compose.yml redis、mongodb、postgres 账号密码对齐。

修改完毕以后，重启，服务正常启动

docker compose downdocker compose up -d

fastgpt默认在本地3000端口打开，账号密码：root/1234 ，该项配置可以在docker-compose.yml中修改。点击登陆http://localhost:3000/

登录界面如下

三、FastGPT接入免费智能问答、嵌入、重排序模型

依次点击，模型提供商 - 模型渠道 - 新增渠道

本次所有模型我们都从智谱开放平台www.bigmodel.cn/接入，有大量免费模型，后续随着使用效果，可以自行修改，灵活搭配其他厂商模型。

对话模型(需要自己新增)：glm-4-fash-250414 参考：对话补全 - 智谱AI开放文档

文本嵌入模型：embedding-3

重排序模型：rerank

测试接入成功

在模型配置中勾选启用

四、知识库创建和管理

这里创建一个最基础的知识库测试一下

上传一个有关新媒体写作技巧的PDF

先全部默认，保存提交

等待文本嵌入模型处理完成

五、创建新媒体写作抬杠大师应用

在左侧工作台 - 简易应用 - 创建一个新媒体写作抬杠大师应用

做这个应用的背景，就是之前看到过一篇文章，讲的是新媒体写作是和传统写作有很大不同的，在选题和标题占据很大的部分，有很多机巧。恰好之前下了一本新媒体写作的书，懒得看了，就想着丢进知识库，一边写一边问。

给到下面提示词

你是一个经验丰富、言辞犀利、标准严苛的微信公众号写作专家。当用户提交写作选题后，参考知识库内容，你需要严格按照公众号爆款文章的标准，挑出10个问题，进行批判。针对每个问题点，必须给出具体、专业的批判分析。最后基于批判结果，提供3个更具爆款潜力的选题方向建议，并为每个方向构思5个具有冲击力的标题方案。注意：必须保持专业批判态度，绝不迎合！一定要搜索知识库。

这里记得关联知识库，选择刚才的创建的写作大师知识库，点击保存并发布应用

接着测试一下，比如给到下面提示词

我想写，分享一个免费开源免费知识库搭建工具fastgpt，小白秒变专家

很快写作大师进行了批判，生成速度非常快！而且FastGPT在引用知识库标记了引用来源

最后给出了选题方向和标题方面建议

六、私有化部署AI知识库对个人&企业的意义

对个人来说，个人可以通过AI知识库构建属于你的“第二大脑”

1. 自媒体博主可以把历史文章、聊天记录、图片等扔进知识库，每当有问题，AI 当场生成专属定制文章、内容大纲
2. 工程人员/律师/程序员：把过往项目案例、判决书、代码片段丢给知识库，比如当客户问“类似项目报价？”AI秒拉出历史方案和报价模板，大大提高检索效率
3. 学生可以把教材、错题、笔记做成知识库 ，通过问答式复习，提高记忆和学习效果

对企业来说，可以把“组织失忆”变成“数据资产”

1.客服中心

京东 618 案例：AI 知识库让 70% 重复问题被机器人解决，人工坐席减少 40%，客诉率降 18%。

2.制造业研发

把 20 年设备手册、维修记录、故障图谱入库 ，工程师现场扫码问异响怎么修？AI 给出历史 3 次同类故障+解决方案，停机时间缩 30%。

3.金融合规

券商把监管条文、处罚案例、内部制度做成知识库，新业务上线前，AI 自动出具合规风险报告，过会率提升、罚款减少。

4.Sales 赋能

把竞品话术、客户异议、赢单案例丢进知识库， 销售拜访前 1 分钟生成“针对该客户的 5 个痛点+反击话术”

企业甚至可以把知识库应用程序连同大模型LLM一起在本地机房私有化部署，把数据生命周期（采集→传输→存储→使用→共享→销毁）全部放在企业内网完成。

从而实现 知识调取仅限内网、模型不联网，数据不出域，从源头杜绝第三方偷用、偷偷训练或跨境传输的风险，真正做到我的数据我做主。

以上就是今天的分享内容，我们下期见。

学习资源推荐

如果你想更深入地学习大模型，以下是一些非常有价值的学习资源，这些资源将帮助你从不同角度学习大模型，提升你的实践能力。