当前位置: 首页 > news >正文

wordpress 招聘网站软文推广经典案例

wordpress 招聘网站,软文推广经典案例,保定网站seo技术,北京公司请做网站工资模型训练时CPU和GPU大幅度波动——可能是数据的加载拖后腿 问题 在进行猫狗大战分类任务时,发现模型训练时CPU和GPU大幅度波动,且模型训练速度很慢。 原因 ​ 初步分析可能是数据加载(包括数据的transform,我用了Resize&#…

模型训练时CPU和GPU大幅度波动——可能是数据的加载拖后腿

问题

在进行猫狗大战分类任务时,发现模型训练时CPU和GPU大幅度波动,且模型训练速度很慢。

原因

​ 初步分析可能是数据加载(包括数据的transform,我用了Resize,ToTensor,Normalize这三个操作)的的速度太慢,于是通过计算一个epoch数据加载的时间来判断,最后发现数据加载的数据和一个epoch训练的时间差不太多(因为用的模型较小,是ResNet18,如果模型比较大,训练时间比数据加载时间大得多的时候,这种情况CPU和GPU的波动频率和幅度会好很多,情况最好的是,在训练一个完batch的数据前,下一个batch的数据已经准备好了)。测量加载时间代码如下:

import time
from torch.utils.data import DataLoaderdata_loader = DataLoader(dataset, batch_size=64)
start_time = time.time()# 遍历数据加载器中的所有批次
for i, data in enumerate(data_loader):passend_time = time.time()
# 计算并打印整个数据读取的时间
total_time = end_time - start_time
print(f"Total data loading time: {total_time:.4f} seconds")

然后再计算训练一个epoch的时间,若没有比加载数据的时间大很多的话,大概率就是数据加载拖后腿了。

解决方法

我使用的是方法是将所有数据一次性读入内存中,避免频繁进行磁盘IO,这样集中把所有数据读出来的时间要比一边训练一边读要快的多(使用较小的模型一般数据量不大,全部读入内存应该没什么问题,如果数据量较大呢?这时候用的模型一般也会较大,训练的时间占据主导,这时候就基本不会出现gpu等待数据的情况了)。以猫狗大战这个任务来说,自定义的Dataset如下,关键代码后用!!!..表示:

class CatDogDataset(Dataset):def __init__(self, root_dir, transform=None, test=False):self.root_dir = root_dirself.transform = transformself.image_paths = []self.image_data = []		# !!!!!!!!!!!!!!!!!!! self.labels = []self.test = testfor filename in os.listdir(root_dir):if filename.endswith('.jpg'):image_path = os.path.join(root_dir, filename)image = Image.open(image_path).convert('RGB')  # 转换为RGB格式if self.transform:image = self.transform(image)self.image_paths.append(image_path)		self.image_data.append(image)		# !!!!!!!!!!!!!!!!!!!!	将所有图片读到内存进来if not test:if 'cat' in filename:self.labels.append(0)  # cat 类别标记为 0elif 'dog' in filename:self.labels.append(1)  # dog 类别标记为 1def __len__(self):return len(self.image_data)def __getitem__(self, idx):if self.test:return self.image_data[idx], self.image_paths[idx]  # 测试集返回图像及其路径else:return self.image_data[idx], self.labels[idx]
http://www.shuangfujiaoyu.com/news/20659.html

相关文章:

  • 如何做招聘网站运营如何让新网站被收录
  • 西宁网站网店推广方法有哪些
  • 收纳用品网站建设社群营销怎么做
  • 模板做图 网站有哪些软文推广网
  • 动画制作平台深圳seo关键词优化
  • 集团网站设计南京疫情最新情况
  • 关于做批发网站湖南网站建设工作室
  • 计算机做网站难吗百度app免费下载安装
  • 做网站赚钱吗是真的吗淘宝推广软件
  • 网站制作建设站长之家0
  • 网站首页页面国际外贸网络交易平台
  • 宜昌手机网站制作网络推广外包公司干什么的
  • 厦门php商城网站建设百度指数怎么提升
  • 做企业网站制作搜索引擎大全网址
  • 武汉网站建设排行自己搭建一个网站
  • 武汉模板建站源码优化关键词排名的工具
  • 申请域名空间seo快速排名优化公司
  • 牛商网做网站怎么样html网页制作软件有哪些
  • 上海专业做网站电话百度广告电话号码
  • 公司官网网站搭建企业模板建站
  • 设计个人网站seo排名赚app官网
  • 网站的制作流程做网站价格
  • 便民类网站 做站群seo
  • 怎么做网站搜索引擎利于搜索什么是百度竞价排名
  • 提供手机自适应网站制作全域seo
  • 太仓公司做网站网络销售技巧和话术
  • 多视频网站建设关键词工具
  • 代做ansys网站信阳seo
  • 做装饰画的行业网站整站优化 mail
  • 深圳营销型网站建设公司广州百度提升优化