1914亿词元开放合成STEM语料
QVAC Genesis III覆盖19个STEM领域,面向小模型和端侧高效预训练。
推荐理由:该语料以1914.3亿词元覆盖19个STEM领域,重点追求小模型的单位词元学习效率;若质量验证成立,可缓解开放生态缺少专用预训练数据的问题。
QVAC Genesis III覆盖19个STEM领域,面向小模型和端侧高效预训练。
推荐理由:该语料以1914.3亿词元覆盖19个STEM领域,重点追求小模型的单位词元学习效率;若质量验证成立,可缓解开放生态缺少专用预训练数据的问题。