AI@NEWS

1914亿词元开放合成STEM语料

QVAC Genesis III覆盖19个STEM领域,面向小模型和端侧高效预训练。

推荐理由:该语料以1914.3亿词元覆盖19个STEM领域,重点追求小模型的单位词元学习效率;若质量验证成立,可缓解开放生态缺少专用预训练数据的问题。

阅读原文