命令行工具
作者: Shenggui Li
预备知识:
简介
Colossal-AI给用户提供了命令行工具,目前命令行工具可以用来支持以下功能。
- 检查Colossal-AI是否安装正确
- 启动分布式训练
- 张量并行基准测试
安装检查
用户可以使用colossalai check -i
这个命令来检查目前环境里的版本兼容性以及CUDA Extension的状态。
启动分布式训练
在分布式训练时,我们可以使用colossalai run
来启动单节点或者多节点的多进程,详细的内容可以参考启动 Colossal-AI。