在数字时代,尤其是在企业中,必须考虑信息安全。公司的私有知识库显然无法在公共领域使用大规模模型。在这种情况下,基于本地的大规模模型构建个人/企业知识库是一个很好的解决方案。为了满足这一需求,我们创建了一个简洁易懂的教程,指导您如何使用MaxKB 和Docker Compose 构建自己的本地知识库。
1.MaxKB初介
MaxKB是一个基于LLM大规模语言模型的知识问答系统。 MaxKB=最大知识库旨在成为您公司最强大的大脑。
即用:支持文档直接上传、自动抓取在线文档、自动文本分割和矢量化、智能问答交互体验。无编码党业务系统等。 模型支持:主流大型模型,包括本土私有大型模型(Llama 2、Llama 3等)、统一钱文、OpenAI、Azure OpenAI、Kimi、百度千帆大型-比例模型等。支持与模型对接。 2.OpenEuler安装Docker和MaxKB
在openEuler 上安装Docker 参见上一期在openEuler 上安装Docker。我这里就不详细说了。
在Docker 离线安装上安装MaxKB 2.1
a. 将镜像离线并生成maxkb离线包。
docker save 1panel/maxkb -o maxkb.tar
b. 将步骤a中的离线包上传到目标服务器。
c. 在目标服务器上加载离线映像。
docker 加载maxkb.tar
2.2 执行直接在线安装
docker run -d --name=maxkb -p 8090:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
# 用户名: 管理员
# 密码: MaxKB@123.
3. MaxKB应用大型模型
添加智普AI大模型 创建应用
创建知识库
4.演示智普AI本地大模型效果:
版权声明:本文转载于网络,版权归作者所有。如有侵权,请联系本站编辑删除。