1 InternStudio
本质上 InternStudio 是一个云计算平台,针对大模型场景有较好的支持,包括算法库、微调环境、工具、数据集,兼容 🤗 HugginFace 开源生态。
具体平台介绍不如看 InternStduio 官方介绍 。
2 InternStudio 开发机
2.1 开发机申请
只要有 GPU 额度和算力就可以申请,申请界面如下,根据需要填写即可。
申请完创建中的状态长这样。此处截图为创建团队开发机,只比个人开发机多一个团队的选择,需要先创建团队再创建开发机。
2.2 开发机界面
开发机一共有3种界面展示形式:jupyter、Terminal 和 VS Code。简单调试视情况使用即可,长时间使用还是使用 SSH 用本地的 VS Code 更方便(毕竟有自己熟悉的插件)。
3 SSH
3.1 什么是 SSH
SSH全称 Secure Shell,是一种网络安全协议,通过加密和认证机制实现安全的访问和文件传输等业务。
SSH 是 C/S 架构。服务端和客户端先建立 TCP 连接,协商使用的版本号和各类算法,并生成相同的会话密钥用于后续的对称加密。在完成用户认证后,就建立了 SSH 通道,可以通过会话进行数据交互。
远程连接的优点在于可以在本地进行开发,使用远程的环境,提高效率。
3.2 InternStudio 开发机的3种连接方式
3.2.1 使用密码连接
3.2.2 使用秘钥连接
首先使用 ssh-keygen 命令来生成密钥其中 -t 表示指定密钥类型。
ssh-keygen -t rsa
除此之外还有:
- -b:指定密钥长度。
- -C:添加注释。
- -f:指定保存密钥的文件名。
- -i:读取未加密的 ssh-v2 兼容的私钥/公钥文件。
然后在开发机平台,在首页点击配置 SSH Key,接着点击添加 SSH 公钥。接着将前面通过 ssh-keygen 生成的密钥粘贴到公钥框中即可。重启 Terminal 进行连接就无需再输入密码了。
这里直接复制了教程的图,比我自己截图清楚得多。
3.2.3 使用 VS Code 连接
关于如何建立连接已经有很多人写过保姆级教学了,在此不再赘述。随便找了一个比较详细的文档留作指引。
通过 Remote-SSH 在 VS Code 中进行远程开发 - 掘金 (juejin.cn)
4 端口映射
端口映射是一种计算机网络相关技术,它可以将外网中的任意端口映射到内网中的相应端口,实现内外网间通信。通过端口映射,从而实现在外网访问内网中的服务或应用。
在远程机的 VS Code 模式下可以通过 Ctrl + Shift + ~ 唤起端口界面,无需配置。
唤起的界面可以查看端口映射的信息,如果需要修改的话,在端口那一栏修改端口号即可。
一些操作记录:
建立连接:
展示效果: