TFRTTensorFlow 的高性能模块化运行时

联合创作 · 2023-09-26 05:35

TFRT 是新的 TensorFlow 运行时。它旨在为各种特定领域的硬件提供具有高性能的统一、可扩展的基础架构层。它提供了对多线程主机 CPU 的有效利用,且支持完全异步的编程模型。

TFRT 能够满足以下需求:

  • 试验复杂的新模型,并向 TensorFlow 添加自定义操作
  • 在训练和服务生产模型时改进性能
  • 以模块化方式将边缘和数据中心设备集成到 TensorFlow 中
浏览 3
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报