为推动全模态大模型的研究与应用,字节跳动Seed团队发布并开源了全模态PyTorch原生训练框架——VeOmni。据介绍,VeOmni采用以模型为中心的分布式训练方案,可将复杂的分布式并行逻辑与模型计算解耦,为全模态模型组合设置高效的并行训练方案。这一方式可大幅降低工程开销,提升训练效率和扩展性,将数周的工程开发时间缩短至几天。
字节跳动Seed开源VeOmni框架
来源:界面新闻
字节跳动
3.8k
- 字节跳动100名员工因触犯红线被辞退,8人涉嫌刑事犯罪已移交司法机关
- 芯片团队权限被注销?字节跳动:关于裁员、独立、变更主体等解读不实
评论