• 请不要在回答技术问题时复制粘贴 AI 生成的内容
hellozgfss
V2EX  ›  程序员

推荐一门开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目。对于以后的面试和求职都是一个不错的项目哦!

  •  
  •   hellozgfss · Jan 10, 2023 · 3057 views
    This topic created in 1258 days ago, the information mentioned may be changed or developed.

    大家好

    我在 b 站上开源了一门公开课,《从零编写深度学习推理框架》 b 站链接: https://space.bilibili.com/1822828582

    github 链接: https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR (已经发布 Docker )

    课程可以分为三个季度,现在是第一季共八次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!

    使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 0.9s(640*640*3)

    课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成

    第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成

    第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成

    第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成

    第五次课 Im2col 的原理和卷积算子的实现 未完成

    第六次课 照猫画虎,完成 MaxPooling 算子 完成

    第七次课 图结构(PNNX)讲解和计算图初步 未完成

    第八次课 读取 PNNX 并构建自己的计算图 未完成

    Supplement 1  ·  Jan 10, 2023
    再发一个效果图
    Supplement 2  ·  Jan 10, 2023
    Supplement 3  ·  Jan 10, 2023
    运行 demo 的截图,最后耗时 7.16s, batch 等于 8, 大小为 640 * 640.






    现代 C++风格的代码
    6 replies    2023-01-10 22:10:40 +08:00
    Approximate
        1
    Approximate  
       Jan 10, 2023
    支持楼主,关注一下
    hellozgfss
        2
    hellozgfss  
    OP
       Jan 10, 2023
    [![pSmickj.jpg]( https://s1.ax1x.com/2023/01/10/pSmickj.jpg)]( https://imgse.com/i/pSmickj)

    Yolov5 模型预测目标的效果图如上
    hellofss
        3
    hellofss  
       Jan 10, 2023
    ![image]( )
    Yolov5 模型预测目标的效果图如上,可以看出是比较准确的。
    closedevice
        4
    closedevice  
       Jan 10, 2023
    不错不错,包括训练框架和推理引擎两部分?
    hellozgfss
        5
    hellozgfss  
    OP
       Jan 10, 2023
    @closedevice 目前只有推理框架的,第一季课程围绕推理展开的,目前反响还不错。
    closedevice
        6
    closedevice  
       Jan 10, 2023
    @hellozgfss 有考虑啥时候加推理引擎部分?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3783 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 57ms · UTC 05:05 · PVG 13:05 · LAX 22:05 · JFK 01:05
    ♥ Do have faith in what you're doing.