官方案例里1万个agent连跑36小时,长时agent的瓶颈在哪
OpenAI 官方昨天放出的客户案例里有个数字挺扎眼:一家 AI 研究机构用 GPT-6 Astra、GPT-6.1 Sol 加上 Codex,把 10000 个 agent 连续跑了 36 小时以上;官方描述这些 agent 能连续专注数天,并且随着使用变得更顺手。 这个量级说明,长时 agent 的瓶颈早就不在单次推理。单次调用再快,只要中间断一次、状态丢一次、账单超一次,整批任务就白跑。 按这个思路,长时任务要专门设计四件事:一是检查点,把任务拆成能存档的段落,断了从最近一段接着跑;二是幂等,重试不产生重复副作用;三是预算上限,给每一轮循环设 token 或金额的天花板,超了就停;四是观测,至少要能看出有多少 agent 在跑、卡在哪一步、失败率多少。 落地建议是先别追并发:用 1 个 agent 跑满 36 小时,把断点恢复、重试和预算控制都验证一遍,再考虑横向放大。规模上来之后,出问题的往往都是这四件事,而不是模型能力。
还没有跟帖,欢迎写下第一条。