总结之Coze 是一站式 AI Bot 开发平台——工作流使用及coze总结(三)

工作流介绍

工作流支持通过可视化的方式,对插件、大语言模型、代码块等功能进行组合,从而实现复杂、稳定的业务流程编排,例如旅行规划、报告分析等。
当目标任务场景包含较多的步骤,且对输出结果的准确性、格式有严格要求时,适合配置工作流来实现。

功能概述

工作流由多个节点构成,节点是组成工作流的基本单元。例如,大语言模型 LLM、自定义代码、判断逻辑等节点。 工作流默认包含了 Start 节点和 End 节点。
Start 节点是工作流的起始节点,可以包含用户输入信息。
End 节点是工作流的末尾节点,用于返回工作流的运行结果。

工作流节点

工作流通用节点及说明

节点名称 描述
大模型 大语言模型节点,该节点支持选择不同的 AI 模型处理文本生成任务。
代码 代码节点。通过 IDE 编写代码处理输入参数,并返回输出值。
知识库 知识库节点。根据输入参数从关联知识库中召回数据,并返回。
条件 if-else 逻辑节点。满足设置条件则运行 if 分支,否则运行 else 分支。
变量 变量节点。用于读取和写入 Bot 中的变量。
循环 通过设置循环次数和逻辑,来实现重复执行一系列任务。
工作流 集成已发布的工作流,可以嵌套子任务。

coze额外节点及说明

节点名称 描述
插件 coze的插件节点,可以实现指定功能,比如封装的gpt4调用、头条搜索等功能,可以自定义插件。
图像流 集成图像流,可以嵌套子任务。
数据库 可支持对 Database 放开读写控制,用户可读写其他用户提交的数据,由开发者控制。需要提前在 Bot 的 Database 中添加 Table。
长期记忆 用于调用Long-term Memory,获取用户的个性化信息,对应的Bot必须打开了LTM
文本处理 用于处理多个字符串类型变量的格式

通过使用场景介绍节点功能

简单场景

1、调用插件

比如调用图片理解插件,解析图片内容,当然还有很多插件,其插件特定和功能不一样,可以理解成插件就是封装的应用程序,里面也是代码逻辑、大模型交互等实现。可以自定义插件。
在这里插入图片描述

2、调用大模型

通过使用大模型(LLM)节点,设置大模型的模型类型,模型参数,输入参,输出参,提示词等调用大模型。支持批处理。当批处理有能力限制,并发最高10,一批次任务最高200。

在这里插入图片描述

3、使用代码实现指定逻辑

以下面为例,处理输入大模型的变量。
在这里插入图片描述

复杂场景

调用插件、LLM、子流程、代码、条件等实现特定业务场景,如:分析图片内容,并且优化文本,提炼文本骨干,聚合文本信息

条件判断作用:如何插件获取内容失败,直接结束。
代码作用:作为适配器,调整输入输出参数,方便使用以发布的子流程。
在这里插入图片描述

使用循环体

通过循环体实现业务功能

在这里插入图片描述

COZE总结

优点:

1、一站式服务,开发成本低,对开发人员要求低。
2、方便快捷的搭建自己的LLM工作流。
3、学习成本较低,上手快。
4、接入方便,可以通过bot或者直接使用工作流的方式接入,bot还可以发布到豆包、飞书等字节旗下平台中。

缺点:

1、使用coze的工作流、大模型、bot都需要收取费用,如果工作流中没有大模型交互也是要有费用产生。调用其他模型也需要key。但整体成本还好,费用不高。
2、coze插件能力有限,除了字节跳动自己应用的扩展功能,如短视频内容提取、头条搜索、抖音搜索等。
3、存在bug,coze还是在不断迭代过程,会出现使用上bug。特别是它集成了很多东西,复杂组合后,出现问题对生产端是致命的。
4、日志体系不完善,调试内调用还可以看出工作流哪里有问题,如果发布成API调用,日志不方便实时查询,排查需要时间。
5、插件、或者发布的工作流存在并发问题
如:图片理解插件其内部实现就是单线程不支持并发,并发报错,这是官方插件,并且插件描述没有提及。这样的坑估计不少。
工作流也会出现并发后连续失败,流程本身没有问题。超过20就出现了。

建议

如果公司以后有规划大模型方向的扩展,建议自己搭建自己的工作流,不依赖coze。
但开发周期和成本确实更高。
参考开源AI工作流:
https://dify.ai/
https://tryfastgpt.ai/
https://n8n.io/

猜你喜欢

转载自blog.csdn.net/IManiy/article/details/142634495