Santiago Valdarrama

如何用小型、便宜、快速的模型替换大型、昂贵且缓慢的模型，并且仍然获得相同的结果。 速度提高 7 倍，令牌数量减少 50%。 这就像微调，但不触及模型。 在这里，我们使用 Zep Agent 技能教 Haiku 完成 Opus 5.5 所做的任务。 • Opus 5.5 需要7 分钟。俳句只有 59 秒。 • Opus 5.5 需要140 万个代币。俳句只有 700K。