继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

TF模型部署的特点

小M同学
关注TA
已关注
手记 4
粉丝 0
获赞 0

TF模型部署的特点

  • 可扩展性、稳定性、可靠性(能经历大规模多应用部署的考验)好
  • 可扩展性、稳定性、可靠性(能经历大规模多应用部署的考验)好
  • TF serving高性能,开源的机器学习服务系统,专为部署设计的
    1. TF serving可以结合docker一起使用,部署方便
    2. 提供了REST和GRPC的接口
    3. 支持regression,classify,predict 的api
    4. serving的轻量化可以很好的解决服务问题
  • TF采用分布式的架构,对云的处理适应能力好,适合大规模项目的部署
  • TF有Js的版本,支持的浏览器端训练推理
  • Tensorboard的可视化工具便于查看数据
  • 各个平台上都能跑,win、Linux、MacOS、Android、iOS都能方便的使用
  • 可以用python接口,也有高性能的C++接口
  • 支持离线多机多cpu、gpu的分布式训练,还有在线提供serving的一整套解决方案,快速落地项目,极大减少工程成本

file

打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP