Sebastian Raschka
@rasbt
由于本周末我不得不与很多人讨论“节奏”,因此我的两点意见是:我认为节奏实际上并不意味着这些公司将以任何方式“放慢”培训和开发速度。
这里的“Pacing”意味着添加一个框架以进行更多检查。
近几个月来,我们已经看到了一些这样的“节奏”,当时《神话》并没有按原样发布,而是发布了一个延迟的、削弱的《神鬼寓言》变体。
或者当 Astra 没有立即发布时 / 有一个现有的 Astra 模型尚未发布。
这些神话/寓言和阿斯特拉的节奏决定是临时的。如果你是一家公司,你必须在跟上竞争、赚钱、取悦股东、减轻风险和伤害等方面权衡延迟发布的利弊。
我
如果有一个每个人都必须遵守的正式框架,那么这基本上可以减轻公司为了占据排行榜第一名而匆忙推出其模型的压力,因为它知道竞争“必须”遵循相同的规则。
根据今天的讨论,我认为“节奏”主要意味着这个,而不是停止训练模型。
TL;DR:节奏!=节奏发展。