操作方法
根據老黃的介紹,TensorRT 4是一款應用平台,並且TensorRT 4應用平台是能夠進行可程式的,大大給開發者帶來了便利。
據悉,利用TensorRT 4可程式平台來進行編程操作,就能夠快捷地將已經訓練好的神經網絡快速部署到NVIDIA的GPU上,方便快捷。
新版的TensorRT 4應用平台也同時能夠支持INT8以及FP16精度運算,並且對於數據中心的功耗可以降低到70%。
此外,NVIDIA還會和谷歌進行相關的深度合作,旨在要想TensorRT 4整合到現在AI開源框架中去,並且加速AI應用的推廣實行。