harmony 鸿蒙ModelTypes.idl
ModelTypes.idl
概述
该文件定义AI模型相关的结构体。
在PrepareModel阶段,需要解析Model并将其转换为用于推理的模型结构,在Run阶段则会执行模型推理。大致流程如下:
编写NodeAttrTypes.idl文件中每一个算子的函数,并将函数与NodeType进行关联。
遍历Model的subGraph参数,然后从子图的nodeIndecies中获得该子图包含的算子节点以及算子的输入输出张量和整个Model的输入输出张量。
通过Node的nodeType参数找到算子函数,并构建用于运行时的模型结构。
执行模型推理时,通过用户输入张量传递给模型并执行模型推理,最终输出模型推理的结果。
模块包路径:ohos.hdi.nnrt.v1_0
引用:ohos.hdi.nnrt.v1_0.NnrtTypes
起始版本: 3.2
相关模块:NNRt
汇总
类
名称 | 描述 |
---|---|
struct Tensor | 张量结构体。 |
struct Node | 算子节点结构体。 |
struct SubGraph | 子图结构体。 |
struct Model | 模型结构体。 |
你可能感兴趣的鸿蒙文章
0
赞
热门推荐
-
2、 - 优质文章
-
3、 gate.io
-
8、 golang
-
9、 openharmony
-
10、 Vue中input框自动聚焦