首页 > 自考资讯 > 高考百科

华为openEuler亲测,MaxKB上构建清华智谱AI本地大模型知识库!五

小条 2024-06-27

在数字时代,尤其是在企业中,必须考虑信息安全。公司的私有知识库显然无法在公共领域使用大规模模型。在这种情况下,基于本地的大规模模型构建个人/企业知识库是一个很好的解决方案。为了满足这一需求,我们创建了一个简洁易懂的教程,指导您如何使用MaxKB 和Docker Compose 构建自己的本地知识库。

1.MaxKB初介

MaxKB是一个基于LLM大规模语言模型的知识问答系统。 MaxKB=最大知识库旨在成为您公司最强大的大脑。

d663795ea8ff4e5a887ff15277a626a2~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=hOv%2Fg6jnMHFa%2BMmHGNmapqjjVJI%3D即用:支持文档直接上传、自动抓取在线文档、自动文本分割和矢量化、智能问答交互体验。无编码党业务系统等。 模型支持:主流大型模型,包括本土私有大型模型(Llama 2、Llama 3等)、统一钱文、OpenAI、Azure OpenAI、Kimi、百度千帆大型-比例模型等。支持与模型对接。 2.OpenEuler安装Docker和MaxKB

在openEuler 上安装Docker 参见上一期在openEuler 上安装Docker。我这里就不详细说了。

在Docker 离线安装上安装MaxKB 2.1

a. 将镜像离线并生成maxkb离线包。

docker save 1panel/maxkb -o maxkb.tar

b. 将步骤a中的离线包上传到目标服务器。

c. 在目标服务器上加载离线映像。

docker 加载maxkb.tar

2.2 执行直接在线安装

docker run -d --name=maxkb -p 8090:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

# 用户名: 管理员

# 密码: MaxKB@123.

60baa09252634a8aa0caa5b2802f41a9~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=V8zhu7JwkDLImnl9xnoV671ZC2k%3D 3. MaxKB应用大型模型

添加智普AI大模型d20ca336e1614b9a8d4e7381bffdaa9f~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=RIXzXpzBzzn4tG8l%2BP7K4rEufFU%3D 创建应用e386d37004794d11aec623064cabacca~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=O4oxEWMVuuM0zmzbi45%2B5v4oBik%3D 创建知识库8e616b37e5ba4a83a8dad49b6f8ce840~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=XETTMgXDRYF94fPJKPEQpaHvHMI%3D 4.演示智普AI本地大模型效果:

9e2b7e4570894cf8b7a0f0fe67fd9e28~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=XDnVUwS4AYLy2oapeHiAptC7HCk%3D 5c1de791526146c289591bc8e2424c6c~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1720058910&x-signature=giVKxjjc3XrZl4dOFBla68nG%2FHw%3D

版权声明:本文转载于网络,版权归作者所有。如有侵权,请联系本站编辑删除。

猜你喜欢