背景: 基于GPU, 用TensorFlow评估模型性能, 直接输出了59500个样本
问题:
TensorFlow 提示:
Resource exhausted: OOM when allocating tensor with shape[10000,32,28,28]
原因
一次性输入过度数据, 显存无法容纳
解决
分批次输入数据, 统计正确分类的个数
背景: 基于GPU, 用TensorFlow评估模型性能, 直接输出了59500个样本
TensorFlow 提示:
Resource exhausted: OOM when allocating tensor with shape[10000,32,28,28]
一次性输入过度数据, 显存无法容纳
分批次输入数据, 统计正确分类的个数