端到端部署与ONNX深度学习管道

下载幻灯片

深入学习模型通常被视为完全独立,解放从业者的负担工程数据处理和特征。然而,在大多数真实的人工智能应用程序,这些模型也同样复杂的要求,数据预处理、特征提取和转换为传统ML模式。任何有价值的用例需要护理,以确保没有模型斜之间存在训练时间数据管道和inference-time数据管道。

这不仅仅是理论——小差异或错误很难发现但能产生戏剧性的影响已部署的解决方案的性能和功效。尽管如此,目前有几个被广泛接受,标准的解决方案,使简单的端到端深度学习管道生产部署。最近,打开神经网络交易所(ONNX)表示深度学习模型的标准出现了一种标准化的格式。

虽然这是有用的为代表的核心模型推理阶段,我们需要进一步包含部署的端到端管道。在这个演讲我将介绍ONNX出口深度学习计算图表,以及ONNX-ML组件规范的出口“传统”毫升模型以及常见的特征提取、数据转换和后处理步骤。

我将介绍如何使用ONNX和出口国库为通用框架日益增长的生态系统(包括TensorFlow、PyTorch Keras, scikit-learn现在Apache SparkML)部署完整的深度学习管道。

最后,我将探讨这些不同的处理,结合最佳实践出口国工具包,以及突出的差距,问题和缺失的片段被考虑,仍然需要解决。



«回来
关于尼克彭特里斯

IBM

尼克·彭特里斯首席工程师在IBM开源数据中心与人工智能技术(CODAIT),他工作在机器学习。以前,他创办了Graphflow,机器学习创业重点建议。他也曾在高盛(Goldman Sachs)、认知匹配,和Mxit公司——。他是一个Apache火花项目的提交者和PMC成员的作者与火花“机器学习”。尼克是热衷于商业重点结合机器学习和尖端技术构建智能系统,从数据中学习增加业务价值。
尼克已经在30多个会议、在线研讨会、聚会和世界各地的其他活动包括许多以前的火花峰会。