Sebastian Raschka

正在补看过去一个月发布的 10 个（！）开源 LLM 架构。十月确实发生了不少事。 我想我们可以称之为「Open October」！ 1. Kolibri-1（78B）：来自德国的一个值得关注的模型。采用经典的分组查询注意力（GQA）与滑动窗口注意力 https://t.co/WJ93uHu8tK