当前位置: 首页 > news >正文

市场监督局网站电子签名怎么做芒市网站建设

市场监督局网站电子签名怎么做,芒市网站建设,专业网站建设公司兴田德润在哪里,毕节网站网站建设Win Docker Desktop WSL2 部署PyTorch-CUDA服务至k8s算力集群 Win Docker Desktop WSL2 安装安装WSL-Ubuntu拉取镜像并测试挂载数据并开放端口导出镜像或导入镜像在k8s集群部署 Win Docker Desktop WSL2 安装 首先根据你的操作系统版本 安装WSL ,记得切换WSL2&a…

Win Docker Desktop + WSL2 部署PyTorch-CUDA服务至k8s算力集群

  • Win Docker Desktop + WSL2 安装
  • 安装WSL-Ubuntu
  • 拉取镜像并测试
  • 挂载数据并开放端口
  • 导出镜像或导入镜像
  • 在k8s集群部署

Win Docker Desktop + WSL2 安装

首先根据你的操作系统版本 安装WSL ,记得切换WSL2,其次 安装Docker Desktop,如果Docker安装后一直无法加载WSL,卸载后重新安装时不要勾选WSL,安装后去设置里面勾上WSL即可。

安装WSL-Ubuntu

wsl -l -v
wsl --install Ubuntu-18.04

Windows中运行以上代码,WSL中安装Ubuntu是为了方便在docker容器中挂载数据。

拉取镜像并测试

docker pull cnstark/pytorch:2.0.0-py3.9.12-cuda11.8.0-ubuntu20.04
docker run -it --rm --gpus all cnstark/pytorch:2.0.0-py3.9.12-cuda11.8.0-ubuntu20.04
nvcc -V
nvidia-smi
python
>>> import torch
>>> torch.cuda.is_available()

去WSL-Ubuntu系统中运行以上命令,拉取镜像并激活容器。这时候由于--gpus all命令,容器内使用的是宿主机上的英伟达驱动,也就是说你的Windows里得有CUDA和CUDNN。注意,在k8s算力集群中并无法简单挂载宿主机的显卡驱动。部署过程中宿主机中CUDA版本和容器内CUDA版本不一致也能正常部署,但是不排除有兼容性问题。

挂载数据并开放端口

docker run -it --gpus all -p 0.0.0.0:你的程序端口:你的目标端口 --shm-size="4g" -v /etc/localtime:/etc/localtime -v /mnt/c/你的电脑上的数据路径:/workspace cnstark/pytorch:2.0.0-py3.9.12-cuda11.8.0-ubuntu20.04
# 以下代码在容器内运行
cp -r /workspace/你的数据文件夹/code/ /workspace/code/
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip install flask pandas numpy scipy easy-torch easydict einops scikit-learn torchdiffeq fastdtw packaging setproctitle torchinfo torch-summary

去WSL-Ubuntu系统中运行以上命令,注意如果是Flask,建议app.run(port=你的程序端口, debug=False, host='0.0.0.0', threaded=True)运行。

导出镜像或导入镜像

docker info
docker images
docker ps -a
docker export 你的镜像ID > /mnt/c/路径/image.tar
docker import /mnt/c/路径/image.tar straka/ts_server_231102:v0.1
docker save -o /mnt/c/路径/image.tar straka/ts_server_231102:v0.1
docker load --input /mnt/c/路径/image.tar

去WSL-Ubuntu系统中运行以上命令。

在k8s集群部署

环境变量:NVIDIA_DRIVER_CAPABILITIES=compute,utility,端口转发按需配置,默认运行"/bin/bash",自动运行bash -c "cd /workspace/code && python server.py"。由于英伟达驱动挂载问题,需要重新软链接驱动(libcuda.so和libnvidia-ml.so)后才能识别到显卡。在容器内运行:

ldconfig # 查看软链接错误的so库
find -name libcuda* # 查看软链接错误的so库所在之处
ls /usr/lib/x86_64-linux-gnu # 一般在这个路径
cd /usr/lib/x86_64-linux-gnu
rm libcuda.so
rm libcuda.so.1
ln -s libcuda.so.525.105.17 libcuda.so
# 注意,525.105.17与宿主机具体安装的驱动版本有关,不同机器需要自行ls /usr/lib/x86_64-linux-gnu后找到size libcuda.so.xxx 大于0的文件
find  -name libnvidia-ml*
rm libnvidia-ml.so.1
ln -s libnvidia-ml.so.525.105.17 libnvidia-ml.so.1
ldconfig # 再次检查是否有遗漏nvcc -V
nvidia-smi
python
>>> import torch
>>> torch.cuda.is_available()
http://www.yayakq.cn/news/928921/

相关文章:

  • phpstudy怎么做网站华夏名网网站管理助手
  • 江苏雷威建设工程有限公司网站寮步仿做网站
  • 研创网哈尔滨做网站优化
  • 四川省住房与城乡建设厅网站企业网络营销实施方案
  • 企业网站推广内容佛山网站制作网页
  • 网站建设收费子域名做微信开放平台网站应用
  • 涉县移动网站建设报价互联网营销师怎么做
  • php网站开发思路物流建设网站总结报告
  • 城市联盟网站怎么做在线印章制作生成免费
  • 西安火车站网站建设湖北建设科技中心网站首页
  • 加强门户网站建设与管理网站建设领导小组
  • wordpress 建的网站吗高密做网站的公司
  • 惠济免费网站建设如何进行电子商务网站建设
  • 快速做网站公司哪家好wordpress添加分享功能
  • 中国免费最好用建站cms中国空间站搭建国际合作平台
  • 平台网站如何做推广方案设计为企业做网站建设优化小程序包年竞价
  • 《php网站开发实例教程》asp 网站权限设计
  • 国家单位网站建设要多久留号码的广告网站
  • 网软志成学校网站管理系统官方商业正式版wordpress建中英文
  • wordpress门户网站网站设计培训
  • 电子商务网站建设汉狮嵌入式培训宣传
  • 服务专业的网站建站公司网站开发写好了怎么发布
  • 美食网站策划书搜一搜
  • 优秀网站开发公司wordpress 左右黑白
  • 找公司做网站源代码给客户吗大学生网站建设
  • 建设银行网站总是崩溃自己公司网站自己能做吗
  • 中国站长之家爱站网夸克建站系统官网
  • 珠海自适应网站建设网站审核要多久
  • 网站建设与维护 许宝良企云网站建设
  • 温州微网站制作公司电话音乐网站模板下载