Rohan Paul

@rohanpaul_ai

大量的。麻省理工学院的研究人员表明,GPT-6 Astra 可以通过直接改变权重来改进另一个 AI 模型,无需训练。 在这里,GPT-6 Astra 通过编辑 0.016% 的权重,在未经训练的情况下将 Qwen3.5-0.8B 在 MATH-500 上的性能从 7.9% 提高到 48.1%。 Astra 在 Python 笔记本中获得了 Qwen 的权重,再加上 50 次数学练习题测试运行的预算。它看到模型不断重复自身,直到达到其长度限制,将这种习惯追溯到由其两层写入的单个内部信号,并从权重中减去该信号。 随着循环消失,模型可以完成它已经能够解决的答案。 单次有针对性的编辑改变了 0.016% 的权重,并将数学准确性从 7.9% 提高到 48.1%。
打开原帖#511482
  1. 产业

    Elon Musk:@TheFlintFace @IterIntellectus 太空中的 100GW 大致相当于地球上的 800GW。 此外,地球上的太阳能必须搭配大规模电池,才能在夜间继续为算力供电,并在冬季辅以燃烧或核能。 这两者完全不是一回事。
  2. 产业

    Runway:Seedance 2.5 的 4K 版本来了
  3. 产业

    Perplexity:我们正在发布关于我们在红队测试 SPACE 的发现的新研究,SPACE 是…