ncnn源码阅读(一)----阅读方法和参考教程

〇、ncnn源码阅读的方法和参考教程

目前我的工作涉及推理框架较多，所以就想阅读一些他人的开源框架，来提升自己在语言层面和框架层面的认知。这个过程中发现了一些比较好的教程，我的阅读ncnn源码之旅将参考 嘻嘻嘻大佬。

一、从下载代码开始

根据大佬的建议，阅读较早的版本有利于对框架整体流程的把握和认识，之前也看侯捷讲STL，使用较老的版本，可以避免很多新特性的迷惑。基于此，我还是很认可这个观点的。
代码下载

二、从demo顺藤摸瓜

在下载好的代码中，可以看到一个examples的文件夹，在文件夹下实现了一个使用squeezenet的范例，通过这个范例，可以一点点的顺藤摸瓜，理清ncnn的内部实现方法。

1、主函数

程序的入口在main,所以从main函数开始

int main(int argc, char** argv)
{
    const char* imagepath = argv[1];

    cv::Mat m = cv::imread(imagepath, CV_LOAD_IMAGE_COLOR);
    if (m.empty())
    {
        fprintf(stderr, "cv::imread %s failed\n", imagepath);
        return -1;
    }

    std::vector<float> cls_scores;
    detect_squeezenet(m, cls_scores);

    print_topk(cls_scores, 3);

    return 0;
}

上述main中的代码，除去数据读取和结果打印，最核心的是detect_squeezenet函数。

2、核心功能函数

static int detect_squeezenet(const cv::Mat& bgr, std::vector<float>& cls_scores)
{
    ncnn::Net squeezenet;
    squeezenet.load_param("squeezenet_v1.1.param");
    squeezenet.load_model("squeezenet_v1.1.bin");

    ncnn::Mat in = ncnn::Mat::from_pixels_resize(bgr.data, ncnn::Mat::PIXEL_BGR, bgr.cols, bgr.rows, 227, 227);

    const float mean_vals[3] = {104.f, 117.f, 123.f};
    in.substract_mean_normalize(mean_vals, 0);

    ncnn::Extractor ex = squeezenet.create_extractor();
    ex.set_light_mode(true);

    ex.input("data", in);

    ncnn::Mat out;
    ex.extract("prob", out);

    cls_scores.resize(out.c);
    for (int j=0; j<out.c; j++)
    {
        const float* prob = out.data + out.cstep * j;
        cls_scores[j] = prob[0];
    }

    return 0;
}

详细功能目前不清楚，但可以大致分为以下几块：
前三行主要完成对模型和权重的加载；
紧接着三行完成对输入数据的前处理；
后面是执行推理，拿到模型输出；
最后对模型输出进行解析；