AI知识库这事儿FastGPT是专业的

  |   0 评论   |   0 浏览

在搭建AI知识库这事儿上,有不少成熟的框架,我推荐使用FastGPT。这篇文章笔者就使用过的两款平台做个比较,FastGPT和百度千帆平台。

1. 为什么要搭建知识库

随着企业的运营,企业的私有数据越来越多(结构化、半结构化、非结构化的数据)。这么多数据,我们不可能都记在大脑里,就算老员工能记住,那对于一个新人来说如何快速上手呢?

所以搭建知识库就成了刚需。得益于LLM(大模型)的发展,让AI可以更好的理解自然语言,再加上向量数据库的检索,让许多沉睡的知识可以被唤醒。

企业可以通过搭建知识库提高工作效率,提升服务质量,还可以基于知识做出更好的决策。

2. 技术方案

2.1. 我推荐的方案

LLM存在幻觉问题,对于它不知道的知识会胡编乱造,可靠性差。所以在搭建知识库的技术方案上,一般有2个争论:

  1. 企业自己微调大模型。
  2. 使用RAG检索增强技术。

微调大模型,就是将已有的知识喂给LLM,让LLM学习。暂不说这种方式的安全性如何。单单从模型迭代的角度来看就不合适。

不管是部署开源模型 还是 采用闭源模型,随着时间的推移,模型的迭代非常快,模型会越来越聪明。模型每14天都会小迭代一次。迭代之后,之前投喂的数据会失效,而且之前做过的优化,会随着模型能力变强后,会变成无用功。

所以,我更推荐RAG技术。检索增强生成(Retrieval Augmented Generation,RAG)是一种强大的工具,它可以将企业的私有知识 通过LLM + 外接向量数据库的方式整合到一起。

2.2. 常规步骤

技术方案选定后,我们常规的搭建知识库的步骤如下:

文档加载 → 文档分割 → 文档嵌入 → 向量化存储 → 文档检索 → 生成回答

2.3. 两个主角

方案和步骤有了,下面看看选哪种框架。业内用LLM做知识库的方案较多,比如FastGPT、Dify、自己基于LangChain开发、百度的千帆平台等等。

本篇主要介绍FastGPT和 百度千帆平台。基于LangChain开发的方案之前的文章也介绍过,感兴趣的朋友自行翻阅之前的文章。

  • 百度千帆平台是百度推出的基于大模型的一站式应用解决方案平台,提供先进的生成式AI生产及应用全流程开发工具链。**主打一个一站式。**百度深耕AI多年,也是国内最早推出一站式平台的,整体还算方便。

  • FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!主打一个知识库问答。

下面就两个主角在知识库问答领域的效果 做个比较

3. 使用比较

3.1. 操作界面

操作界面上都差不过,从首页,到上传文件到知识库,再到创建AI应用,操作都很简便。

我个人更喜欢FastGPT的页面风格,页面比较清爽,很明显地看到 知识库、创建大模型应用 这2个版块。

FastGPT

首页

创建知识库,将处理好的本地文档、网页、QA问答上传,然后利用词嵌入模型处理,再存入向量数据库。

创建AI应用

百度千帆

首页:

创建知识库,将处理好的本地文档、网页、QA问答上传,然后利用词嵌入模型处理,再存入向量数据库。

创建AI应用

3.2. 可选词嵌入模型

在文档嵌入这一步,需要选择词嵌入模型。FastGPT可以选择适合自己的模型,但是百度千帆没有选择项,只能用百度的模型。

FastGPT

3.3. 可选问答模型

在AI回答这一步,也需要用到大模型。FastGPT可以选择适合自己的模型,但是百度千帆没有选择项,只能用百度的模型。

FastGPT

百度千帆

3.4. 可以发布到的渠道

发布渠道这一局,算百度完胜了!百度千帆集成了多个发布渠道,使用感受较好。FastGPT相对来说就有点少了,而且还需要额外的搭建和部署。

FastGPT

百度千帆

3.5. 最终的回答效果和体验

他俩在正常的问答结果上都差不多,这个结果跟选择的词嵌入模型和问答模型有关。但是在使用的体验上,我有几点要吐槽:

  • FastGPT的对话框,历史对话消息不会丢失。但百度千帆的对话框刷新下,历史对话会丢失,这个体验感有点差。
  • 百度千帆的对话界面,不知道为什么非要突出老大一个图标和应用标题,几乎占了小半屏,导致对话内容的可见区域被压缩,此处我要@下百度的产品经理,请问你这么设计的目的是啥?

  • 对比看下FastGPT就很简洁,对话区域也很大,用起来比较舒适。

  • 百度千帆分享出去的网页必须要登录,这个有点恶心,没必要在这里强行拉一波注册吧。而FastGPT分享的网页免登即可使用。

3.6. 源码开放

FastGPT

FastGPT源码开放,可以自己搭建,模型也可以自己搭配。对于企业内部使用非常友好。

自行搭建的话,需要开发者介入。不过FastGPT也有云上的SaaS版本,按需付费使用,无需开发者介入。

百度千帆

百度千帆是百度的闭源产品,模型也是闭源,而且模型只能用百度。这个对于企业内部使用不友好。

无需开发者介入,稍微懂些产品,看下文档,即可使用。

3.7. 数据安全

如果从数据安全方面考虑,只能选择FastGPT了,所有的数据都可以存储在企业自己的服务器上。

4. 方案总结

总之,没有最优的方案,只有最合适的方案。

大部分场景下FastGPT都是比较胜任的。如果只考虑以最小代价快速实现一个知识库问答,我推荐使用百度千帆平台。其余情况,我推荐使用FastGPT。

在操作界面上、词嵌入模型上、问答模型上、对话体验和数据安全上,我觉得FastGPT都是很专业的。FastGPT的发力点就是在构建专业的知识库领域。

=====>>>>>> 关于我 <<<<<<=====

本篇完结!欢迎点赞 关注 收藏!!!

原文链接: https://mp.weixin.qq.com/s/D2s2Y0sndjc8oDA3ce1QRg


标题:AI知识库这事儿FastGPT是专业的
作者:程序员半支烟
地址:http://www.mangod.top/articles/2024/07/25/1721874393070.html