AI 智能体工作流:用 Dify 打造本地、开源长文翻译神器

AI 智能体工作流:用 Dify 打造本地、开源长文翻译神器

今天我们来完成一个既有挑战性又有启发性的任务:我们来使用开源的 AI 开发平台 Dify 创建一个高质量的 AI 翻译助手。同时我们可以学习一种可以应用于不同平台的通用的方法。

虽然现在的 AI 翻译比传统的机器翻译提升了很多,但是依然不够令人满意。这就是为什么我们今天要学习一种新的方法来提升翻译的质量。这种方法就是 AI 界大神吴恩达老师最新开源的反思工作流。简单来说它就是一种让 AI 对自己的输出结果进行思考并进一步改进的方法。

反思工作流它的具体步骤实际上就是三步法:先让一个 AI 进行初始翻译打一个草稿,然后再让第二个 AI 去挑毛病,然后再让第三个 AI 对草稿进行最终的优化,形成最后的翻译结果。这就相当于是一个团队作业,三个臭皮匠胜过诸葛亮。这个过程不仅能够提高翻译的准确性,还可以让翻译更加符合目标语言的表达习惯。

在上期智图派,Coze 复刻吴恩达开源 AI 翻译神器 | 「智图派」 当中我使用 Coze 平台来实现过这个翻译的工作流,今天我们将使用另外一个 AI 开发平台 Dify 来再次实现这个工作流。我们可以通过这次实例来学习到如何把同一套思想同一套工作流在不同的平台当中实现。这就好像我常说的电影《神鞭》当中的台词:鞭没了神还在。神就是你的思想、理念和方法,而鞭就是工具。所以就算主角的鞭没了,但是他很快又能成为一名神枪手。

在 AI 开发当中,掌握核心的方法要比依赖于特定的工具更为重要。这种灵活性可以让我们能够去适应不同的平台和不同的工具。

Dify 是一个开源的 AI 智能体和工作流开发平台,可以很轻松地创建聊天助手、AI 工作流等等。它跟扣子的主要区别就是:首先,Dify 是开源而且可以本地部署的,比如我现在的 Dify 就是部署在本地。其次,Dify 使用到的这些 AI 模型,它使用的是你自己的 API Key。所以如果你要用 GPT 或者 Claude 这些模型的话,你需要自己给 API 充值。当然 Dify 它支持很多模型,大家可以去按需来选择。

好,那在接下来的视频当中,你将会学到:

  1. 如何使用 Dify 来快速地创建一个反思翻译工作流来提高翻译质量;
  2. 如何使用 Dify 工作流的迭代功能来针对长文进行分片翻译,突破 AI 模型的 4K 输出上下文的瓶颈;
  3. 反思翻译的工作流的意义在哪里?仅仅是为了翻译吗?

首先我们来看一下长文分片翻译的效果。我已经发了一个推文,30 分钟字幕文本,6551 个 token,用的是 Claude 3.5 Sonnet 的模型,切了 6 片翻译,耗时 6 分钟,耗费 4 毛 8 Dollar,美元。所以成本还是不低,但是你可以用更便宜的模型去尝试。

详细的讲解过程,请观看我的 YouTube 视频: AI 智能体工作流:用 Dify 打造本地、开源长文翻译神器 | 实操教程 | Coze 收费了 | 回到Axton

这期智图派,主要是给大家分享两个工作流的模板文件。

首先是反思翻译工作流的核心流程,也就是用三个 AI 来完成翻译工作。工作流的配置文件我已经在我的免费课程当中分享了,感兴趣的朋友可以通过以下链接加入我的免费课程下载 DSL 文件,导入到 Dify 当中就可以直接使用:Axton 的免费福利分享

只需要输入你的姓名和邮箱,就可以加入到我的免费课程里面。如果你已经加入过了,那么直接点击右上角登录就可以。然后找到 Axton 的免费课程,点击 Access Now 进去。之后在这边的 GPT and AI 智能体的章节下面,我们就会看到 Dify 反思翻译工作流的配置文件。点击上面就是一个下载文件,Download 的标志,点击把它下载回来。这是一个压缩包,然后我们解压缩。双击解压缩以后,就会生成一个 Dify 反思翻译核心工作流,扩展名是 YML 的文件。在 Dify 中导入这个文件就可以。

接下来是加入了长文分片功能的工作流。这个工作流才相当于是完美地复刻了吴恩达老师的开源项目。

那么我们为什么要对长文进行分片翻译呢?有两点。首先第一点,现在的 AI 模型虽然它的 token 上下文窗口 200k、128k 等等都很大,但是它的输出一般都是在 4k。所以你超过 4k token 的一个文章,它就没有办法一次性的输出完成了。这就是你在使用 ChatGPT 也好,或者使用 Claude 也好,他会经常输出一部分就停下来了,你经常需要让它去”继续”,它才能把一个完整的文章给你输出完成的原因。这种方式对于你单独使用没有什么大的问题,但是它就没有办法去融入到你的其他工作流里面去了。

那第二个问题就是你把一篇文章分的稍微小一些,比如说 1000 个字左右的一片,去让 AI 翻译的效果会更好一些。当然这里面也存在一个隐患,就是你的切片的地方如果再连接到一起的时候,它可能会有一定的语义不完整。那这就是之后优化的事情了,我们先不用管它。

整个长文切片的工作,它的重点就是你对分片的一个判断,这边会要用到 Dify 的代码节点。我们重点要学的就是作为一个不会编程的人,我们如何使用自然语言去让 ChatGPT、让 Claude 这些 AI 帮我们写出能够正常运行的代码。另外一个重点就是 Dify 的迭代节点,其实它本身并不很复杂,大家稍微练习一下就可以掌握。

完整的工作流模板链接如下,大家下载后导入到 Dify 中就可以使用了:

Read more

Coze 复刻吴恩达开源 AI 翻译神器 | 「智图派」

Coze 复刻吴恩达开源 AI 翻译神器 | 「智图派」

AI 最大的应用场景之一,就是翻译。虽然说现在的 AI 翻译比以前的机器翻译好了很多,但是常常还是不够完美。不过现在呢,有一种超强的方法可以显著提升 AI 翻译的水准,这就是 AI 界大神,吴恩达 Andrew Ng 教授最新开源的「反思工作流」 它利用prompt engineering,让AI不仅能翻译,还能"思考"如何改进翻译!这意味着,无论你要翻译的文档有多专业、多复杂,都能得到一个高度定制化的优质翻译。我们可以先看一下翻译效果。 吴恩达老师的反思翻译核心思路 吴恩达老师的翻译工作流可以归纳为两个核心要点: 第一,采用"初始翻译-反思-优化"的三步迭代流程,不断改进翻译质量。首先使用一个 AI 进行初始的翻译,然后让另一个 AI 对初始的翻译结果进行思考和评判,找出可以改进的地方,最后,由第三个

lock-1 By Axton
Jina Reader API 的四种用法 | 「智图派」

Jina Reader API 的四种用法 | 「智图派」

构建知识库,或者分析各种文章数据,是大家使用 AI 很重要的一个应用场景,因此我们常常会需要用到爬虫去爬取某个网站上的内容,现在,Jina 推出了一款非常简单好用的获取网页内容的工具,你只要把网址给它,它就能把网页内容整理成很适合大语言模型使用的格式,简直是构建知识库的利器。今天我就给大家介绍四种用法。分别包括在自动化工作流中使用以及在 AI 智能体中使用。 Jina Reader API 的网址是 读取器 API,你可以直接输入你需要爬取内容的网址 URL 在这边进行测试,输入之后直接点击按钮「获取内容」,就可以在右边得到结果了。 而他的用法也很简单,就是把你需要爬取内容的网页的 URL 写在 https://r.jina.ai 的后面就可以了。 什么是 Reader API Reader 是将任何URL转换为LLM友好的输入,只需简单添加前缀 https://r.jina.ai/ 无需付费即可获得改进后的适用于智能体或 RAG 系统的输出。

lock-1 By Axton
Coze 工作流获取 Tweets 详解 | 「智图派」

Coze 工作流获取 Tweets 详解 | 「智图派」

Coze是一个可以不用代码来搭建AI聊天机器人的平台。我在这期视频当中已经详细地讲解了Coze的各种功能,以及如何用到GPT-4 Turbo的模型。感兴趣的朋友可以回看一下。 自从 Twitter 被马斯克买了之后,如果你想从 Twitter 网站的外面来获取推文信息,也就是用 Twitter API,就需要每个月充值100美元了。但是 Coze 却很大方地让你可以免费地用部分 Twitter API 的功能了。今天我就先给大家演示一个可以批量获取多个 Twitter 作者的推文的工作流,把这个工作流嵌入到你的 AI 聊天机器人里面。比如我这里加了两个 Twitter 账号,我的和马斯克的,这样就可以一次性地获取到我们两个人的推文了。 今天我首先给大家演示一下在 Coze 上可以用到的 Twitter API 的功能,然后再演示一下批量获取推文的工作流,最后我们再聊一聊 Coze 的局限性。 Plugins 的基本功能 getUsers 首先第一个 "get users"

lock-1 By Axton
建立微信 AI 工作流 | 支持 10000 个文件,Assistants API v2 发布 | AI 快讯20240418

建立微信 AI 工作流 | 支持 10000 个文件,Assistants API v2 发布 | AI 快讯20240418

点击进入「AI 精英学院」,做一个会 AI 的人- 新视频发布:微信如何通过 Make 与 GPT、Claude、知识库无缝集成 - 支持 10000 个文件,Assistants API v2 发布 - 我们需要为生物技术的“ChatGPT时刻”做好准备 - NVIDIA推出基于安培架构的两款新GPU,RTX A400和RTX A1000 - Google地图将利用AI帮助您找到隐蔽的电动车充电器 微信如何通过 Make 与 GPT、Claude、知识库无缝集成 没想到海外的自动化平台居然也支持微信公众号。Make 工作流自动化平台,不但支持微信,还支持的挺完善,确实有些让人意外。本期视频演示如何使用 Make 获取微信公众号信息、与 OpenAI 知识库联动、

By Axton