Rohan Paul
@rohanpaul_ai
人工智能将需要“无数”的代币。
- 高通首席执行官克里斯蒂亚诺·阿蒙:
代理人工智能将消耗更多的代币,因为它执行自主任务、使用多个系统并与工具交互。
聊天机器人在语言上花费代币;代理花费代币来决定、检查、调用工具、读取输出、修改计划以及与其他软件协调。
因此,当软件开始让代理采取行动而不仅仅是回答时,人工智能需求将大幅增长。
如今,单个人类与人工智能的交流可能很大,推理任务可能要大得多,但我们已经进入代理时代,在这个时代,自主工作流程可能会呈指数级增长,因为模型不再产生单一响应。
它正在运行一个进程。
当 SaaS 产品围绕人机交互重新设计自身时,每个任务都可以成为一系列隐藏的微决策,每个微决策都会消耗上下文、内存、工具调用、验证和输出令牌。
另一点是,当更深层次的变化是经济性的时,人们听到“更多代币”时只会想到更大的数据中心:软件使用情况可能不再主要通过点击、席位或会话来衡量。
它将通过代表每个用户花费多少机器推理/代币来衡量。
----
来自“路透社”YouTube 频道,(评论中的链接)