🔗基础连接信息
用户名: yons
校园网:
- 96: 10.242.14.90
- 95: 10.242.6.73 需要有校园网账户, 登录校园网后才可连接. 内网最高速度100Mb/s, 校园网限速为套餐限速 认证:
- 优先使用公私钥进行认证, 使用
ssh-keygen命令生成公私钥, 公钥的位置在C:/Users/用户名/.ssh/id_rsa.pub - 默认用户已有docker与conda等权限.
⚠️注意事项
- 不要在服务器上面安装使用drcom, VPN, 以及其他任何代理软件
- 注意定时保存代码和实验结果, 远程任务可用tmux离线进行
- 注意使用某项资源前, 先检查一下其他人有没有在使用
- GPU使用: nvidia-smi 注意空余显存情况
- 已登录用户: w
- tmux 会话: tmux ls
SSH工具
Mobaxterm: MobaXterm_Portable_v24.3_chs.zip
VSCode: VS Code Remote SSH配置 , 也可不配置ssh 配置文件, 直接使用密码连接.
不建议使用VNC等连接服务器.
Pytroch & Transformer 等版本问题
如果要运行的项目采用的版本与服务器目前的CUDA不兼容, 又不想升级代码的话, 请考虑使用容器.
- 到NVIDIA 官方Pytorch容器兼容列表中寻找适合的容器: Frameworks Support Matrix - NVIDIA Docs
- 我们的服务器是RTX 4090 Ada架构, 驱动版本是560.35, 驱动CUDA版本是12.6
- 找到适合的容器后, 参考: PyTorch | NVIDIA NGC 来运行容器
- 之后, 可以使用vscode连接容器进行开发.
🌐服务器联网
服务器截至目前没有开通互联网连接.
鉴于大多数服务(Huggingface, pypi, etc)均需要外网连接, 因此我这里提供一个代理服务器:
96默认开启http和https协议的代理, 不需要额外配置.
95在登录后, 需要手动输入source ~/proxy.sh 开启代理, 请注意只在当前终端有效.
🖧不使用校园网连接服务器
下载: Easytier-Manager.rar 后解压到任意位置, 打开其中的可执行文件, 按照下面的图进行操作.
另附配置文件如下, 包内自带可忽略这部分内容:
instance_name = "aidinglab"
dhcp = true
listeners = []
rpc_portal = "127.0.0.1:15888"
[network_identity]
network_name = "aidinglab"
network_secret = "jellyfish"
[[peer]]
uri = "tcp://tier-hk1.spica648.top:11010"
[[peer]]
uri = "tcp://tier-sz.spica648.top:11010"
[[peer]]
uri = "udp://tier-sz.spica648.top:11011"
[[peer]]
uri = "tcp://tier-cd.spica648.top:15120"
[flags]
latency_first = true
#如果你想作为中转节点帮助组内其他同学连接的话, 可以取消下面的注释, 同时使用这些listeners:
# listeners = [
# "tcp://0.0.0.0:12000",
# "udp://0.0.0.0:12001",
# "wg://0.0.0.0:12002",
# "ws://0.0.0.0:12001/",
#]
#relay_all_peer_rpc = true
启用后, 会占用172.21.21.0/24网段.
两个服务器分别在172.21.21.95和172.21.21.96.
公益代理服务
请安装配置上面的Easytier组网软件后使用, 请注意不保证可用性, 并且存在审计.
- 虎溪: 172.21.21.101 代理端口7890
- 深圳: 172.21.21.24 代理端口7890