软件远程操控时代

本文信息来源：akashbajwa

部分自主软件：软件2.5时代

安德烈·卡帕西在 YC AI 创业学院关于”软件 3.0 时代”的演讲本周引发强烈反响，这完全在情理之中。

基于他 2017 年发表的《软件 2.0》论文，Andrej 阐述了用英语编写的软件如何正在吞噬软件 1.0 和 2.0 时代。

他进一步将 LLMs 描述为”人类灵体”，展现出某种涌现心理特征。众所周知，LLMs 对人类知识的学者般掌握伴随着幻觉、锯齿状智能、记忆缺失和谄媚倾向等缺陷。

因此，那些宣称普适智能体即将无处不在的预言都偏离了事实。

Andrej 回忆道，2013 年乘坐 Waymo 的经历曾让他确信完全自动驾驶汽车已近在咫尺，然而 12 年后的今天，我们仍处于自动驾驶行业的萌芽阶段。

尽管我们正见证着令人目眩的进步速度，但智能体自主化的发展轨迹可能遵循相似的时间线。

自动驾驶从 L1 升级到 L5，本质上是个数据问题 ，就像从凭感觉编写个人网站，到让智能体为关键系统构建生产级代码的跨越。

随着自主性提升，对高风险任务的信任度也会同步增长。

A friend 这样描述他第一次乘坐 Waymo 的经历：

第一次乘坐 Waymo 的经历并不令人恐惧。关键在于车内配备的显示屏能实时呈现车辆的感知画面。当你望向街道时，若现实场景与屏幕显示完全吻合，安全感便油然而生——这意味着车辆的认知模型已精准捕捉到你此刻所处的具体情境。这种持续同步的感知能力，让人对其决策系统建立起坚实信任。

在构建这种2.5版本的软件时（直到我们实现完全自主的智能体），要让智能体成功接管更关键的工作，其核心体验将在于我们逐渐习惯将越来越多任务委托给它们，并见证它们正确完成这些工作。

正如自动驾驶和机器人行业通过远程操作工具来部署产品并推动应用那样，未来十年智能体开发者将设计出部分自主的软件。

要让 LLMs 能够完美感知人类所能感知的一切，我们需要重新思考当前互联网的设计方式。

智能体开发者的需求激增终将促使服务提供商优化供给端以适应智能体消费—— 智能体体验时代已然来临。

LLMs 的 txt 文件和用 markdown 编写的文档仅仅是个开始。

以下是 Daytona CEO Ivan Burazin 关于他们如何重构产品以适应智能体使用的观点：

我们提出的问题是：如果智能体是最终用户，它真正需要从计算环境中获得什么？

第一个答案显而易见： 所有操作都必须通过 API 驱动 。无论是启动机器、归档还是删除，全部通过接口完成。这是基本要求。

在每个环境内部，智能体不需要用户界面或键盘。它们需要的是无头工具链 ：文件浏览器、Shell 访问、LSP 支持、git 客户端，所有这些都通过结构化、可预测的 API 提供。

要让 LLMs 能够像人类一样高效运作 ，未来许多年内人类仍需参与其中。

安德烈将这种情况比作托尼·斯塔克的钢铁侠战衣，它能根据实际情况在自主模式和增强模式之间切换。这个类比非常贴切。

开发自主评估工具的智能体构建者正专注于这种人机共生关系：可扩展的人类数据收集流程和人在回路的基础设施。

需要考虑的因素包括：

验证界面 ：人类快速审核和修正 AI 输出的有效方式有哪些？
错误处理与恢复： 用户如何轻松修正智能体行为（AI 操作的”撤销”功能）？采用快照回滚与版本控制——每个智能体操作都是可逆的提交；用户界面将”撤销/回退”设计为核心控制功能。
上下文脚手架： 用户界面如何帮助用户更便捷地为智能体提供准确的上下文？
渐进式权限授予 ——智能体仅在需要时请求权限范围（”可以读取您的收件箱来安排日程吗？”）。
置信度加权功能可见性 ——仅当模型自报告的确定性或评估分数超过阈值时，按钮才会高亮显示；低于该阈值则转为人工确认。
仪表盘叠加显示 ——特斯拉自动驾驶系统会展示神经网络”看到”的内容。LLM 产品则能呈现解析树、引用来源或工具调用轨迹，从而在更高自主性设置下赢得用户信任。