作者:一皓,蒙武,君合,心彦,飞木,羽砺等

 

前言

本章节主要是基于框架的量化,编译,推理的相关的开发模式。把它作为“含光十八式”的第一式,是因为这是比较基础同时也是高层的使用方法。借助于框架的功能,用户即使不了解含光NPU和底层编程接口的一些细节,也能比较方便地使用NPU,做基于NPU的开发。通过NPU软件栈配合框架,去充分发挥NPU硬件的性能。

当你准备阅读此文时,如果你没有阅读过《含光800NPU编程模型》,请你一定要先仔细地读一读编程模型。它能帮助你更好地理解下面的开发指南和例程。同时,本文将是一个指引,更具体的文档在《HanGuangAI SDK》。如想了解更细节的信息,请阅读开发文档。

框架和模型

HanGuangAI软件栈对框架和模型的支持选择,都是根据框架模型在集团的业务使用情况为优先级。根据我们当前的业务统计情况,我们的安

收藏 打印