创建算力实例
算力实例常用来做算法开发和模型微调,在少量训练数据的前提下可以选择单卡、或者整机 8 卡的实例申请使用,提供本地数据盘,和关联文件存储,使用终端进行算法开发、微调,使用完成后下载成果,释放算力实例。
操作步骤
-
进入左侧侧边栏中的算力实例,点击创建实例。
-
在创建实例页面:选择付费方式(按量计费或者包日、包周、包月)、GPU 型号(3090,4090、H20、H100)、GPU 数量、GPU 规格,选择镜像(内置了不同的深度学习框架),最后创建即可。对于私有镜像的制作可查看镜像章节。如果你需要更大的硬盘用于存放数据,那么请设置需要扩容的大小。
NOTE:考虑到 GPU 型号为 H100 的实例无法联网,我们为这类实例配置了定制化的镜像(镜像名称后缀为 -h100),以确保使用 pip 和 apt 进行软件包的安装时能够指向本地源,目前本地源包含的软件包列表与清华源一致。这使得实例在无网络环境下也能顺利完成软件和所需依赖的安装。
-
返回算力实例页面,等待算力实例创建完成。已创建成功的实例显示在列,且状态为运行中。
-
算力实例创建完成后,通过 JupyterLab 或者 SSH 连接使用算力实例。