2018-09-20 Caffe Int8量化推理 Caffe Int8量化推理 前言8位(INT8)推理也称为低精度推理,它可以以较低的精度损失加速推理。与FP32相比,它具有更高的吞吐量和更低的存储器需求。Intel发布了一个精确工具(Calibrator)。该工具将首先生成初始量化参数,并尝试调整它们以满足以后的精度要求。它最终会产生一个量化的原型TXTXT。 那棵树看起来生气了 2018-09-20 Caffe,深度学习 560 阅读 0 评论 2018年09月20日 560 阅读 0 评论
2018-09-17 TensorFlow模型加载,用于恢复保存的模型 TensorFlow模型加载,用于恢复保存的模型 前言在Tensorflow的使用中,常常需要保存训练好的模型或者中间模型,下次使用的时候直接加载恢复就可以从上次训练的状态恢复。TensorFlow 保存的模型有很多种,下面就来介绍生产过程中常用的几种模型加载方法。 那棵树看起来生气了 2018-09-17 TensorFlow,深度学习 597 阅读 0 评论 2018年09月17日 597 阅读 0 评论
2018-08-28 MKLDNN参数优化 MKLDNN参数优化 MKL使用以下环境变量来调整性能:KMP_BLOCKTIME - 设置线程在睡眠之前完成并行区域执行后应该等待的时间(以毫秒为单位)。 KMP_AFFINITY - 启用运行时库将线程绑定到物理处理单元。 KMP_SETTINGS - 在程序执行期间启用(true)或禁用(false)打印OpenMP *运行时库环境变量。 OMP_NUM_THREADS - 指定要使用的线程数。 那棵树看起来生气了 2018-08-28 机器学习 872 阅读 0 评论 2018年08月28日 872 阅读 0 评论
2018-08-27 基于Tensor2Tensor的自然语言翻译 基于Tensor2Tensor的自然语言翻译 Tensor2Tensor前言谷歌研究人员发布了 Tensor2Tensor(T2T),一个用于在 TensorFlow 中训练深度学习模型的开源系统。T2T 能够帮助人们为各种机器学习程序创建最先进的模型,可应用于多个领域,如翻译、语法分析、图像信息描述等,大大提高了研究和开发的速度。T2T 中也包含一个数据集和模型库,其中包括模型(Attention Is All You Need、Depthwise Separable Convolutions for Neural Machine Translation 和 One Model to Learn Them All)。 那棵树看起来生气了 2018-08-27 TensorFlow,机器学习 1,234 阅读 0 评论 2018年08月27日 1,234 阅读 0 评论
2018-05-20 安装Intel Openvino 安装Intel Openvino Install OpenvinoOperating Systems:Ubuntu* 16.04.3 long-term support (LTS), 64-bitCentOS* 7.4, 64-bitYocto Project Poky Jethro v2.0.3, 64-bit (for target only) 那棵树看起来生气了 2018-05-20 机器学习 715 阅读 0 评论 2018年05月20日 715 阅读 0 评论