尊龙凯时 (中国)人生就是搏!从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。Inference环节指利用训练好的模型,使用新的数据去推理出各种结论,如视频监控设备通过后台的深度神经网络模型尊龙凯时 (中国)人生就是搏!,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。
从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。
Training环节通常需要通过大量的数据输入尊龙凯时 (中国)人生就是搏!,或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型尊龙凯时 (中国)人生就是搏!。训练过程由于涉及海量的训练数据和复杂的深度神经网络结构,运算量巨大,需要庞大的计算规模,对于处理器的计算能力、精度、可扩展性等性能要求很高。目前在训练环节主要使用NVIDIA的GPU集群来完成,Google自主研发的ASIC芯片TPU2.0也支持训练环节的深度网络加速。
Inference环节指利用训练好的模型,使用新的数据去推理出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。