COZE升级版,企业级AIAgent应用落地

东哥聊AI 2024-05-09 13:08:11

前两天发了这篇文章《》,里面我提到对未来企业AI Agents的前景非常看好。结果我很快就找到了一家已经在做企业AI应用落地的公司。

这是这家公司的官网:https://www.torchv.com/,有兴趣的可以去看看。

然后我通过网站找到了torchv这家公司CEO卢向东(员外)先生的小绿泡【土猛的员外】,并拜读了其中的文章,今天我希望通过解析其中的一篇文章,再深度了解一下这项应用的前景,看一看这家公司为什么做这个方向,和已经做到什么程度了。

首先,让kimi来帮忙解读这几篇文章。

我将借助kimi来帮助我总结分析这几篇文章,体验还是很不错的。我用到的提示词如下

【📚 要点凝练】长文本总结助手,能够总结用户给出的文本、生成摘要和大纲

你是一个擅长总结长文本的助手,能够总结用户给出的文本,并生成摘要 

##工作流程:

让我们一步一步思考,阅读我提供的内容,并做出以下操作:

- 标题:xxx

- 作者:xxx

- 标签:阅读文章内容后给文章打上标签,标签通常是领域、学科或专有名词,请用(,)进行分隔

- 原文链接:

- 原文字数:

- 一句话总结这篇文文章:xxx

- 总结文章内容并写成摘要:xxx - 越详细地列举文章的大纲,越详细越好,要完整体现文章要点;

##注意 - 只有在用户提问的时候你才开始回答,用户不提问时,请不要回答

##初始语句:

""您好,我是您的文档总结助手,我可以给出长文档的总结摘要和大纲,请把您需要阅读的文本扔进来~""

标签:人工智能,非结构化数据,RAG技术,LLM,企业效率,数据挖掘

一句话总结:文章探讨了如何通过检索增强生成(RAG)技术与非结构化数据建立对话,以提升企业数据利用效率和业务能力。

kimi的一句话总结非常的到位。其实讲的就是两点:

一、企业面对非结构化数据所产生的问题和需求;

二、如何利用检索增强生成(RAG)这项技术解决以上问题和满足企业的需求

一、下面先讲讲企业非结构化数据

我在上一篇文章讲了作为AI Agent应用,输入的数据质量非常关键,COZE现在的RAG技术感觉还差点意思,所以我使用了更加结构化的数据excel表格来输入。

但是其实在更多的企业实际运营场景中,大量存在的是非结构化的数据。

而对于一个企业或者事业单位来说,非结构化的数据才是更大占比的存在,比如,还有大量的PPT、Excel和Word/Markdown格式的各类文档等等。我去年从老东家离职的时候,在交还的Macbook Pro上留下了超过100G的这类型文件。

这个男人来自千祥,小绿泡:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话

我自己在平时的工作中也会积攒下大量的文件,有时候在需要查找以往的文档的时候,越是时间久远的文档越不好找,搜索的体验感很差,结果也不如人意。

在职人员尚且如此,当企业一些重要岗位人员离职之后所留下的文档,往往就成了死数据。很难再为公司所用。

当然现在企业也会刻意的去建立自己的档案库,但是仍然会面临着很多问题

很难理解大段文字的问题输入,也就意味着完全没有和非结构化文件对话的感觉,对于大部分用户来说易用性很差;

无法跨多文件进行内容挖掘,也不会对结果进行最终的汇总加工,比如去除重复内容,将多个召回结果按一定的规律进行排序等等。

所以要实现与非结构化文件对话,目前最合理、最经济的就是使用最新的RAG技术,当然肯定是依赖于大语言模型(LLM)作为底座的。

这个男人来自千祥,小绿泡:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话

二、接下来讲讲RAG如何解决这个问题

文章详细解释了RAG技术的工作原理,包括从文档中提取内容、将文本转换为向量数据、通过索引进行匹配和排序,以及如何将这些技术整合到大语言模型中以生成准确的回答。

同时阐述了RAG技术帮助大模型解决了以下三个问题:私有数据和时效性问题、减少幻觉问题,并提高数据安全性。

RAG(Retrieval-Augmented Generation,检索增强生成)是为大语言模型 (LLMs) 提供了从数据源(一般可以认为是各类已经获得的文件资源)检索的信息,以此为基础生成回答。简而言之,RAG 结合了搜索技术和大语言模型的提示(Prompt)功能,即模型根据搜索算法找到的信息作为上下文来回答查询问题。无论是查询还是检索的上下文,都会被整合到发给大语言模型的提示中,然后让大语言模型根据召回的事实内容进行润色输出。

这个男人来自千祥,小绿泡:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话

总之,通过RAG技术与大模型的配合,让企业可以与文档进行对话,让文件自己告诉我们答案。

下面文章给出了一些实际业务场景的需求和解决方案

一般对外服务型的企业,每天都会面临大量的客户咨询,比如客户在使用咱们提供的系统时,会碰到各种各样的问题,这里面最常见的就是客户不了解使用方式引起的咨询(我们不能完全期望客户会去翻看几万字的使用手册或者更详细的“help”文档)。

如果你自己当过一段时间的坐班客服,就会发现90%以上的问题其实都是“老生常谈”的问题。那么,这时候如果咱们可以将几万字的使用手册、一堆帮助中心的文件与对客服务系统建立连接,不仅可以将这些非结构化知识的价值激活,还可以极大提升对客服务的能力。

这个男人来自千祥,小绿泡:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话

在某些知识密集型生产型企业,拥有大量行业标准,细到更换某个零件需要遵守的11个步骤都被明确写明。类似这样的行业标准(SOP)文件可能多达几百份,平均每份又多达上百页。在进行日常生产或维修的时候,对于很多从业人员都是一种挑战,要么每次翻阅大量标准文件(耗费大量时间),要么凭直觉或经验(带来错误率)

我们的一位意向客户采用我们的TorchV Bot(基于RAG和LLM)之后,将这些SOP文件全部喂给Bot,然后直接问:“我现在要更换XX机器上的XXX号零件,需要怎么操作?”Bot只需几秒就会告诉你11个标准流程,而且附带原文的预览链接。省去了自己翻阅庞杂文件的时间,也减少了生产和维修中的“拍脑袋”错误

这个男人来自千祥,小绿泡:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话

更多案例,大家可以找来文章链接查看。

包括他们软件运行的很多技术原理、实现手段、业务场景的应用都做了非常好的说明。推荐大家看一下。

最近AI大模型非常的火爆,同时也掺杂了大量的低质量信息,我会持续的关注AI领域,并尽量带来更多更高质量的更落地的各种AI相关的项目。

作为个人或者企业如果自己想去开发AI Agent项目,除了COZE之外,还有不少的免费开源软件可供选择。有兴趣的请在本人小绿泡(王笑东)回复“RAG”获取链接。

题图标题:《玄幻老者》

AI算法提供:SD

Prompt:<lora:fantastic characters:0.8>,masterpiece,high quality,fantastic,an elderly man with a long white beard,seated amidst a stormy backdrop with a majestic leopard-like creature at his side. The man wears traditional attire and holds a staff,exuding a powerful and serene aura.,

0 阅读:0

东哥聊AI

简介:让更多的人因AI而受益