KuiperInfer深度学习推理框架-源码阅读和二次开发(1):算子开发流程之算子注册机制详解 - 大白社区

发帖时间:
2023-04-15 22:34:40
模型部署 深度学习 人工智能 模型部署 算子开发 模型量化 213

摘要:KuiperInfer是一个从零实现一个高性能的深度学习推理库,中文教程已经非常完善了。本系列博客主要是自己学习的一点笔记和二次开发的教程,欢迎更多的AI推理爱好者一起来玩。这篇写一下算子开发流程,重点是算子注册机制和背后的知识点,并和其他的深度学习框架(如AI编译器CINN、paddle推理inference等)对比,总结其中的异同点。

前言:KuiperInfer是一个从零实现一个高性能的深度学习推理库,中文教程已经非常完善了。本系列博客主要是自己学习的一点笔记和二次开发的教程,欢迎更多的AI推理爱好者一起来玩。这篇写一下算子开发流程,重点是算子注册机制和背后的知识点,并和其他的深度学习框架(如AI编译器CINN、paddle推理inference等)对比,总结其中的异同点。

目录

算子注册

设计模式

算子注册表

算子开发模板

模型部署 深度学习 人工智能 模型部署 算子开发 模型量化

本文在知识共享 署名-相同方式共享协议之条款下提供。

阿不推荐

热门话题