埋头干活,抬头看路
人工智能自主能力的边界

人工智能自主能力的边界

最近在尝试让opencode这样的AI编码智能体,进行长时间的自主的任务规划与演进。

为什么会做这个尝试,出发点也比较单纯和简单,个人的时间有限,当前的状态是,人上班,AI智能体上班,人下班,则AI智能体下班。如果这时候,有人跳出来问我,AI是否可以代替人类?我会毫不犹豫的回答,不会,因为我下班后,AI不干活了。

如果想让AI编码智能体发挥更大的作用,需要让AI智能体的干活过程,避免人工的干预,可以在现有能力的基础上,具备更长时间的任务规划以及任务执行能力。

当前长程任务执行的瓶颈是什么?

第一:工具与模型的稳定性

日常工作中,某些工具和模型会因为各种原因,出现超时,停止响应,故障以及上下文溢出和压缩等不稳定行为,需要首先解决此问题,当出现问题的时候,能有办法识别出来,自动解决并重试任务。

第二:任务结果正确性的确认

智能体产出结果后,需要人工检核和确认成果的正确性,目前成为了人工工作的重要和最核心的内容。貌似这个事情,在一段时间内还是需要的,尤其是某些流程规范要求必须人工介入时,人工的最终确认,是价值和责任保障的底线。

第三:目标的来源

现在智能体要干什么,要完成的目标,是人给出来的。而且是一个个的小目标。智能体完成小目标后,就呈现工作成果,并停止。与上面两个问题相比。长程任务控制系统,或者智能体长程任务执行最大的问题,其实是如何能够自动识别和规划目标。

短期开来,第一第二个问题,已经有解决方案或者说答案。第三个问题,暂时没有答案。

AI编码智能体现在很擅长在由人给定了目标之后,快速进行能力爬坡和目标达成。但是不擅长给定战略级目标或者战术级目标。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注