全局图优化：提升 MegEngine 模型推理性能的又一神器 - 代码天地

全局图优化：提升 MegEngine 模型推理性能的又一神器

企业开发 2022-04-13 00:59:00 阅读次数: 0

NoSuchKey

猜你喜欢

转载自juejin.im/post/7085653261679591437

全局图优化：提升 MegEngine 模型推理性能的又一神器

深度学习推理性能优化

如何利用低比特量化技术进一步提升大模型推理性能

开发者实战 | 如何利用低比特量化技术进一步提升大模型推理性能

实录 | MegEngine 大 Kernel 卷积工程优化实践

MLPerf世界纪录技术分享：优化卷积合并算法提升Resnet50推理性能

Web 上运行深度学习框架模型 - MegEngine.js

MegEngine 工具链大盘点，让模型落地超 Easy！

【人工智能】结合代码通俗讲解 Transformer 推理性能优化技术：KV Cache

爱奇艺 CTR 场景下的 GPU 推理性能优化

PyTorch终于能用上谷歌云TPU，推理性能提升4倍，该如何薅羊毛？

MegEngine 使用小技巧：如何做 MegCC 的模型性能评测

MegEngine Inference 卷积优化之 Im2col 和 winograd 优化

语言大模型推理性能工程：最佳实践

MegEngine 使用小技巧：如何解读 MegCC 编译模型几个阶段 Pass 的作用

MegEngine 使用小技巧：使用 Netron 实现模型可视化

百度商业AI 技术创新大赛赛道二：AIGC推理性能优化TOP10之经验分享

MegEngine 使用小技巧：量化

MegEngine 正式支持 XLA 啦！

CPU深度学习模型推理性能抖动问题

可复现的语言大模型推理性能指标

如何设计一个高内聚低耦合的模块——MegEngine 中自定义 Op 系统的实践经验

旷视天元MegEngine环境搭建及unet

MegEngine Windows Python wheel 包减肥之路

MegEngine Python 层模块串讲（下）

MegEngine 动态执行引擎-Imperative Runtime 概述

【AIGC】ChatGLM2-6B大模型据称推理性能超越Chat4.0

MegEngine 端上训练：让 AI 懂你，更能保护你

MegEngine使用小技巧：借助DataLoader获取分批数据

MegEngine 动态执行引擎 Imperative Runtime 架构解析

今日推荐

周排行

Android图片与下拉框

java常用的设计模式之单例模式

zabbix自动化监控之自动注册

杨老师课堂之Excel VBA 程序开发第八讲使用工作表函数

Android 去掉底部虚拟导航栏

Android Studio 3.2 Beta 4 发布，功能改进和修复

Linux-3.5_总线驱动设备

Qt QTableView QStandardItemModel用法

session处理

分享几个实用的方法

每日归档

更多

2025-02-06(0)

2025-02-05(0)

2025-02-04(0)

2025-02-03(0)

2025-02-02(0)

2025-02-01(0)

2025-01-31(0)

2025-01-30(0)

2025-01-29(0)

2025-01-28(0)