te')); return $arr; } /* 遍历用户所有主题 * @param $uid 用户ID * @param int $page 页数 * @param int $pagesize 每页记录条数 * @param bool $desc 排序方式 TRUE降序 FALSE升序 * @param string $key 返回的数组用那一列的值作为 key * @param array $col 查询哪些列 */ function thread_tid_find_by_uid($uid, $page = 1, $pagesize = 1000, $desc = TRUE, $key = 'tid', $col = array()) { if (empty($uid)) return array(); $orderby = TRUE == $desc ? -1 : 1; $arr = thread_tid__find($cond = array('uid' => $uid), array('tid' => $orderby), $page, $pagesize, $key, $col); return $arr; } // 遍历栏目下tid 支持数组 $fid = array(1,2,3) function thread_tid_find_by_fid($fid, $page = 1, $pagesize = 1000, $desc = TRUE) { if (empty($fid)) return array(); $orderby = TRUE == $desc ? -1 : 1; $arr = thread_tid__find($cond = array('fid' => $fid), array('tid' => $orderby), $page, $pagesize, 'tid', array('tid', 'verify_date')); return $arr; } function thread_tid_delete($tid) { if (empty($tid)) return FALSE; $r = thread_tid__delete(array('tid' => $tid)); return $r; } function thread_tid_count() { $n = thread_tid__count(); return $n; } // 统计用户主题数大数量下严谨使用非主键统计 function thread_uid_count($uid) { $n = thread_tid__count(array('uid' => $uid)); return $n; } // 统计栏目主题数大数量下严谨使用非主键统计 function thread_fid_count($fid) { $n = thread_tid__count(array('fid' => $fid)); return $n; } ?>训练技巧之数据集太多，加载太慢怎么办？

你的位置：首页>运维笔记>训练技巧之数据集太多，加载太慢怎么办？

训练技巧之数据集太多，加载太慢怎么办？

运维笔记admin2025-02-214浏览0评论

1. 背景

训练集全是16x16，32x32之类的小图，达到上千万张，训练时发现数据加载很慢很慢很慢！！！看了下CPU 内存 GPU使用情况，发现CPU使用率都跑到90%去了，GPU使用率却较低

2. 解决方法

2.1 预处理提速

尽量减少每次读取数据时的预处理操作，可以考虑把一些固定的操作，例如 resize ，事先处理好保存下来，训练的时候直接拿来用
Linux上将预处理搬到GPU上加速：
NVIDIA/DALI ：https://github/NVIDIA/DALI

2.2 IO提速

2.2.1 使用更快的图片处理

opencv 一般要比 PIL 要快
对于 jpeg 读取，可以尝试 jpeg4py
存 bmp 图（降低解码时间）

2.2.2 小图拼起来存放（降低读取次数）

对于大规模的小文件读取，建议转成单独的文件，可以选择的格式可以考虑：TFRecord（Tensorflow）、recordIO（recordIO）、hdf5、 pth、n5、lmdb 等等

2.3 预读取数据

预读取下一次迭代需要的数据，参考给pytorch 读取数据加速

2.4 借助内存

直接载到内存里面，或者把把内存映射成磁盘好了，参考如何给你PyTorch里的Dataloader打鸡血

2.5 借助固态

把读取速度慢的机械硬盘换成 NVME 固态吧～

3. 最后

与本文相关的文章

评论列表(0)

暂无评论