我完全同意你说的,就是等于是让大模型做一个前端的开发,甚至于还有调试的工作。就是所以它有反复,而我们现在做的实际上是一个机械的,就等于是说我让模型把这个我们的这个机器人啊,培养成一个叫做流水线工人,我跟它说你要去做什么做什么。就大概就是演示一遍。甚至于说我们就有一个视频分析视频,说人类给你演示做几步,第一步做什么,第二步做什么,第三步做什么。现在有很多的这种视,就是图片截图式的,标注红一二三,你要做几步。这个现在有网上有很多的这种知识库。我指的知识库是什么呢?很多大公司普通公司都有这种内部的文档,就教这个员工去做这种操操作,第一步是什么?截图,第二步截图,第三步截图。如果是使用这个截图的话,甚至于把这个工作都连这个人类指示都去掉了,就自然语言理解可能都去掉了,变成是一种模式匹配了,就是等于是说有可能这个指示更容易,就是这个文档里面就有一个截图,然后就让模型去理解这个截图的几个步骤。这个模型的话是不是更容易一点呢?比这个自然语言理解,因为我现在跟你讲一个自然语言的指令的话,我认为说你刚才分析的不到位,就说第一步你可能是要先用机 ui 去把这个整个描述一下画面,然后回过头来再跟我说的这个自然语言的这个指令去对照,然后你可能还要再去有可能可能再让那个 GUI 识别的这个模型再去把这个截屏里面的坐标再取出来。因为有可能你不可没有预期到说哪个控件哪个按钮你是需要点击的,而你模型让它一次性识别太多的话,实际上耗时很多,或者说很多东西你也许不需要,你是否豆包需要把它所有的详细的坐标都解都查出来呢这个是一个工程化的问题。就说这个流程其实还挺复杂的,就说你必须得一开始是不是需要说你相当于说用睁开眼睛看一下这个屏幕有些什么东西,然后再结合我的指令,然后你再去找,还是说你看到我的指令了,直接就编写一个 prompt,让这个 gui 去定向地去找你感兴趣的这些元素。所以这个也是一个挺复杂的一个过程,就是需要考验你的智能,说你是否一下子就能理解这个意图,然后就知道要去找什么,还是说你要先知道有什么东西,然后再去比对说要去找什么?
其实我现在知道做下去还非常的复杂我现在不打算立刻去做我只想把这个原理想清楚我们要做这件事情实际上是最主要的因素是什么是对标 OpenClaw 就是小龙虾的那个方案我们来比较一下就说我们跟他的这个优势劣势这个什么能做什么不能做不能做他怎么做我们怎么做我们来对比一下然后再来评估什么意思呢就第一步就是说小龙虾它是使用 playwright 这种方式就是去解析 DOM 然后这个 HTML 这个几乎它可以完成所有的这个脚本的运行就等于是操纵浏览器上面的这个元素提取这个所有的 DOM 元素然后去就是说它不用去鼠标去点击就可以完成浏览器上面的所有的功能因为直接去调用浏览器的这些脚本或者说是不用模拟人类的操纵点键点某个按钮或者说怎么样怎么样填表单等等它可以完全自动化去做这个事情但是如果是我们采用这种模拟人类的这种操作的话一个可能是比它会慢会不会这个有可能会比它慢因为它是用脚本直接去执行这个去等于是跳过了人点鼠标输入键盘等等但是优势是说我们这个可能还原度更真一点我是怀疑说他的这个 dom 脚本解析不可能做到万能的是不是有可能他最后还是有一些比如说登录的动作我举例来说假如说当然这可能谁也完成不了就说那种 gpt 就是那种鉴别人跟机器人的那种图标识别啊什么什么之类他还是要借助大模型去做这个事情但是这个这个能力其实就是都一样如果我他借助的模型做不了我们我们的模型也做不了就他能做我们也能做就说它还是要有一些比方登录界面还有一些就是那种鉴别人跟机器人的这个它也是要用到这个这个图像识别只不过说是它浏览器这一块就比我们来的优越因为它是直接去读取 html 去分析然后拆解然后运行的话这个成本就说我的意思说速度可能会快一些但是就你所说上次你讲的这个现代的这个 html 这些有很多的脚本这个未必它能完全解析出来是不是它有时候还是需要用借助于这个图形识别然后帮助它完成任务那么与其说是借助于这个脚本还不如说像我们这样完完全全地使用这种 GUI 图像识别能够保证做到只不过说有有可能会慢一点你同意不同意这些你来分析我我不要你老是奉承我我要你有批评式的建议式的来认真地分析我说的