今天小编分享的科学经验:GPT Store都开不下去,这家国产平台怎么敢走这条路的??,欢迎阅读。
注意看,这个男人把超 1000 种大模型接入,让你可插拔无缝切换使用。
最近还上线了可视化的 AI 工作流:
给你一个直观的拖放界面,拖拖、拉拉、拽拽,就能在无限画布上编排自己个儿的 Workflow。
正所谓兵贵神速,量子位听说,这个 AI Workflow 上线不到 48 小时,就已经有用户配出了 100 多个节点的个人工作流。
不卖关子,今天要聊的就是 LLMOps 公司Dify,及其 CEO张路宇。
张路宇也是 Dify 的创始人。
投身创业前,有 11 年的互联网从业经验。搞产品设计,懂项目管理,也对 SaaS 有点自己的独到见解。
后来他还在腾讯云 CODING DevOps 团队负责产品和运营管理工作,服务超百万开发者用户的平台产品。
投身创业后,Dify 迅速在他和团队的合力下成为 " 开源 LLM 应用程式开发平台 " 领網域绝对的佼佼者,迄今在 GitHub 坐拥超 22k 星标。
这一次,借着上新 AI Workflow 功能,我们专门找到张路宇,和这个帮 20 万个 AI 应用接上大模型的男人聊了聊。
他说:
未来的编程,可能就是编 flow。
拖放拽完成 workflow 設定
不久前,AI 大牛吴恩达发表了一个引发广泛讨论的观点。他断言,AI agent workflow 将在今年推动人工智能取得巨大进步,甚至可能超过下一代基础模型。
吴恩达视 workflow 为一个重要趋势,并呼吁所有从事 AI 工作的人都关注它。
于是 Dify 就趁热打铁地上线了 AI workflow。(但其实 Dify 看到这个机会是在半年之前,这个我们待会说。)
正式上线后,它是酱婶儿的:
核心是一个直观的拖放界面。
用户可以通过连接不同的节点,在一个无限的画布上构建自己的 Workflow。
没错,是 "无限画布" ——目前版本允许不断扩大可用节点的类型,且每个节点均可配置,用户可以为每个节点定义输入和输出,确保 workflow 的工作逻辑和数据流动符合预期。
也就是说,你既可以端到端地测试你的 Workflows,也可以单独测试每个节点,快速定位问题所在。
值得注意的是,一些核心节点被优先支持,包括:
LLM:选择任意一个主流的大型语言模型,并定义它的输入和输出
工具:使用内置的和自定义的工具来扩展你的 workflow 能够实现的功能。
意图分类器:让 LLM 对用户的输入自动分类,根据不同的类别进行工作流转。
知识检索:为你的 LLMs 挂载来自现有知识库的上下文数据。
代码:执行自定义的 Python 或 Node.js 代码。
If/Else 块:定义条件逻辑以创建分支的 Workflows。
此外,AI workflow支持 DSL 的导入导出,张路宇称其为 " 最酷的功能之一 "。
简单来说,用户可以导出自己的 workflows,然后导入到其它工作区,让 Workflows 来去自如,同时还能根据需要再次自定义它们。
这个特性为社区内的合作、分享,以及在他人工作基础上再构建,打开了一扇窗户。
并且 workflow 中可以利用 Dify 平台的全部能力,用户已经設定好检索方案的知识库、平台提供的第一方丰富工具、自定义的工具等,都能作为其中一个节点能力编排。
可以说是和 Dify 生态无缝适配了。
不会把门槛降到无限低
AI Workflow 上线后,Dify 就有了两种应用模式。
一种是 Workflow,一种则是传统的 Chatflow。
" 绝大多数用户会使用传统的 Chatbot 类型,它背后没有复杂的逻辑,基本上依靠接入的大模型的自我运作。" 张路宇解释道,相比之下,Workflow 会强大很多,但这不代表不能用 Workflow 做出聊天机器人。
这下就明了了,"workflow" 虽然翻译为工作流,但其实代表的是 Dify 背后的运作机制。
而 Dify 之所以朝这样一个方向进化,原因是团队有自己的 " 信仰 "。
我们认为,未来的编程,可能编的就是(work)flow。
据了解,Dify 的下一步规划,是上线 RAG 的 Pipeline,以及 prompt 的协同范式。
那么,不断给自己打补丁的 Dify,到底把哪些群体视为自己的用户和潜在用户?
" 假设全中国有 1000 万名开发者,其中有 50 万人现在有能力去创作、去影响别人,大模型对他们有天然的吸引力;剩下的人需要时间去理解和接纳新事物。"
有价值的、有留存的、能充分产品化的,在自己行业或技能有丰富技能的人——张路宇这么来 " 界定 "Dify 服务的主要用户群体,并称其为 " 真正的我们认为的专业的开发者,或者说这个有极具创造力的创新者 "。
这部分群体,在所有人群中占比不超过 10%。
所以,张路宇也坦白,DIfy 一直做的事是降低工具的使用门槛,但门槛不会低到没有。
Dify 更不会把使用门槛降为零。
我们还聊到了功能上线时间的选择。
Dify 上线 AI Workflow 的时间并不早,去年下半年起,借着 Agent 概念大热的东风,不少创业公司就已经上线了类似功能。
但 Dify 称这个时间是主动选择的时机,在 GPTs 上线前,团队就对 Workflow 的机会有所洞察。
既想观察模型侧和产品侧的动态,又要交付完整能力,不打没有准备好的仗," 我们其实节奏故意放慢了一些。"
出身大厂," 但我离经叛道 "
Dify 有自己的节奏,大约和团队对自我技术的评估有关系。
当被问及是否担心大厂下场挤压市场空间时,得到的答案是正面的三个字:不害怕。
他们的理由是这样的:
一来,市场竞争似乎并没有那么紧迫与激烈。
去年 5 月 Dify 成立时,核心创始团队一直担心入场时间过晚,怕有团队先声夺人," 但事实是,没有别的团队做起来 "。
二来,大厂往往是因为看到市场上有这么一个机会,供给推动,而选择押注;Dify 则是因为看到切实需求才驱动研发。
不仅不怕大厂,Dify 也不惧同类创业公司的力量。
张路宇表示,虽然有许许多多的现在这一波创业者,大多还是十年前的那一波创业者。这群人身上的标签,是在大厂进行过修炼。
" 在打上大厂经历标签的同时,大厂部门之间写作流程复杂等,也成为了这些人固有的思维模版。"
同样在大厂呆过的张路宇,称自己是 " 大厂叛逆者 ",标榜着自己的离经叛道——
我不归于(被思维掣肘)的那一类。我第一份工作在一个很大的游戏公司,21 岁,当工程师。那时候只要我判断我做的事有价值,产品很好,我会忽略一切流程,把产品弄上线,叫偷渡上线。
这在很多公司属于违规,但我一定要做。为什么呢?如果按流程走,可能走不通;但我把它上线,用户体验后带来的价值是显著的。
这和创业一样,需要接受风险。
创业有风险,下场需谨慎,好在有一些令张路宇高兴的事情。
他说,过去一年最兴奋的事情,就是有特别多的年轻人在涌入这个行业,有无数顶尖学校的应届生愿意投身到里面来。
这群人不缺好的机会,毕业后轻松能拿下 500 强或大厂的高职级,但现在愿意拿非常少的钱来做大模型相关的事情。
" 在以前,我们如果想招聘这样的人是很难的,甚至不知道从哪里去找到这样的简历,更别提说服他们来加入。"
" 这样的人在我们公司内部有很多吗?"
" 已经至少有 1/3?但这个比例我认为还不够高,这些人应该成为我们的主力。"
— 联系作者 —
— 加入量子位社群 —