字节-算法与风控一面-20230504
七层网络模型
知乎: 一文看懂网络七层协议/OSI七层模型
CSDN: 七层网络模型
CSDN: 网络协议——七层、五层、四层协议概念及功能分析
Baidu: 简单图解OSI七层网络模型
三次握手定理
知乎: 深入浅出TCP三次握手 (多图详解)
CSDN: 一文搞懂TCP的三次握手和四次挥手
CSDN: TCP三次握手(详解)
Baidu: 简单图解OSI七层网络模型
实例分割难点
知乎: 图像目标实例分割任务的技术面临问题
知乎: 如何评价实例分割任务的意义、难度和目前的发展?
微信: 综述 | 实例分割研究
小物体检测
知乎: 目标检测难点-小物体检测
CSDN: 目标检测算法——小目标检测
长尾分布问题
知乎: 长尾分布整理与总结
知乎: CVPR 2021论文解读 | 长尾分布问题解决新思路
CSDN: ECCV 2022|计算机视觉中的长尾分布问题还值得做吗?
过拟合问题
GBDT
异常样本检测
L1/L2正则项
BETR与Transformer的区别
Transformer的具体架构
层数
自监督
multi-head
位置编码
layernorm
算法题:最长回文字串
美团-自动驾驶二面-20230506
分割发展历程(从FCN开始)
知乎:语义分割大盘点
分割所面临的问题
CSDN:图像分割(语义分割)的局限以及解决方法
CSDN:关于语义分割的亿点思考
CVHub:关于语义分割的亿点思考
分割loss的发展以及问题
pixel loss: cross entropy (CE), weighted CE, focal loss, MES loss
region loss: Dice loss
boundary loss: Hausdorff (豪斯多夫) distance loss
aggregation loss: Triple loss, discriminative loss, contrastive loss
compounded loss: CE + Dice
CSDN:2021-01-05 图像分割常用Loss_pytorch
知乎:一文看尽深度学习中的各种损失函数
知乎:一文看尽深度学习中的各种损失函数
Focal loss
CSDN:Focal Loss的理解以及在多分类任务上的使用(Pytorch)
CSDN:Focal loss的Pytorch实现
知乎:Focal Loss 的Pytorch 实现以及实验)
Dice loss
CSDN:损失函数 DiceLoss 的 Pytorch 实现
知乎:语义分割之dice loss深度分析(梯度可视化)
知乎:Dice损失函数pytorch实现
其他:医学图像分割之 Dice Loss
dice loss为何能够解决正负样本不平衡问题?
因为dice loss是一个区域相关的loss。区域相关的意思就是,当前像素的loss不光和当前像素的预测值相关,和其他点的值也相关。dice loss的求交的形式可以理解为mask掩码操作,因此不管图片有多大,固定大小的正样本的区域计算的loss是一样的,对网络起到的监督贡献不会随着图片的大小而变化。从上图可视化也发现,训练更倾向于挖掘前景区域,正负样本不平衡的情况就是前景占比较小。而ce loss 会公平处理正负样本,当出现正样本占比较小时,就会被更多的负样本淹没。
import torch.nn as nn
import torch.nn.functional as F
class SoftDiceLoss(nn.Module):
def __init__(self, weight=None, size_average=True):
super(SoftDiceLoss, self).__init__()
self.smooth = 1
def forward(self, logits, targets):
num = targets.shape[0] # batch size
probs = F.sigmoid(logits)
m1 = probs.view(num, -1)
m2 = targets.view(num, -1)
intersection = (m1 * m2)
score = 2. * (intersection.sum(1) + self.smooth) / (m1.sum(1) + m2.sum(1) + self.smooth)
loss = 1 - torch.mean(score, dim=0)
return loss
Hausdorff distance loss
CSDN:用于语义分割的Hausdorff损失函数
Contrastive loss
知乎:【自监督】MoCo论文笔记
其他:contrastive loss 的高级代码实现 (pytorch)
conv操作工程实现上的细节
NMS原理以及实现
CSDN:NMS原理大总结
知乎:目标检测基础-NMS原理和代码
知乎:IOU, NMS原理与代码实现
其他:目标检测之—非极大抑制(NMS)综述