BiSeNet是实时语义分割网络，针对常见加速方法损失空间信息等问题，提出双路径结构：Spatial Path保留高分辨率特征图，Context Path通过下采样增感受野，结合特征融合模块融合特征。在Cityscapes数据集复现中，以特定配置达75.19% mIoU，兼顾速度与性能。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
【第五期论文复现赛-语义分割】BiSeNet-实时语义分割网络
语义分割任务需要丰富的空间信息和大的感受野，大部分模型都通过降低特征图的分辨率来加快推理速度，特征图分辨率的降低会导致模型性能的下降。为了兼顾推理速度的同时保留大的特征图分辨率，作者提出了BiSeNet，引入Spatial Path和Context Path，Spatial Path中步长较小来得到高分辨率的特征图，Context Path引入快速的下采样机制来增加感受野，最后使用特征融合模块将Spatial Path和Context Path的特征图进行有效融合。
论文：BiSeNet: Bilateral Segmentation Network for Real-time Semantic Segmentation
官方repo：https://github.com/CoinCheung/BiSeNet
复现repo：https://github.com/justld/BisNetV1_paddle
一、引言
为了使模型达到实时分割的效果，常常用3种方法对模型进行加速：
1、限制输入尺寸。通过resize或者crop来限制模型输入的大小，从而减少计算量；
2、裁剪网络的通道数。降低模型的通道（尤其是靠输入的层）能够减小计算量，但是弱化模型的空间表达能力；
3、ENet减少了下采样比率（抛弃了Encoder的低分辨率的层），从而导致模型的感受野降低，对大物体的分割效果不好。
为了弥补上述方法中的空间信息损失，研究者们使用U型的结构利用高分辨率的特征图来补充下采样时丢失的细节。但是这样的方法也有缺点：
1、高分辨率特征图的引入导致计算量增加，从而降低了模型运行速度；
2、网络浅层通道裁剪导致丢失的空间信息损失不容易被修复。
基于以上，作者提出了BiSeNet，Spatial Path的输出是1/8特征图，保留了丰富的空间信息；在Context Path最后添加了全局平均池化层，使得Context Path特征图的感受野为全局。
二、网络结构
Spatial Path的输出是1/8特征图，保留了丰富的空间信息；在Context Path最后添加了全局平均池化层，使得Context Path特征图的感受野为全局；Attention Refinement Module和Feature Fusion Module模块都引入了注意力机制。需要注意图(a)中右下角的白色方框表示global average pooling层。
三、实验结果
BiSeNet在Cityscapes数据集上的实验结果如图所示，fps在显卡NVIDIA Titan XP上计算。
四、复现环境
paddlepaddle=2.2.2
tesla V100 * 4
五、复现结果
| NetWork | steps | opt | image_size | batch_size | dataset | memory | card | mIou | config | weight | log |
|---|---|---|---|---|---|---|---|---|---|---|---|
| BiSeNet | 160K | SGD | 1024x512 | 4 | CityScapes | 32G | 4 | 75.19 | bisenetv1_cityscapes_1024x512_160k.yml | link | log |
六、快速体验
按照以下步骤即可快速体验BiSeNet训练验证过程。（想要复现完整的训练过程请使用脚本任务）
# step 1: git clone-已包含文件，无需clone# !git clone https://github.com/justld/BisNetV1_paddle.git
# step 2: unzip data%cd ~/data/data64550 !tar -xf cityscapes.tar %cd ~/
# step 3: training%cd ~/BisNetV1_paddle/ !python train.py --config configs/bisenetv1/bisenetv1_cityscapes_1024x512_160k.yml --num_workers 4 --do_eval --use_vdl --log_iter 20 --save_interval 2000
# step 4: val%cd ~/BisNetV1_paddle/ !python val.py --config configs/bisenetv1/bisenetv1_cityscapes_1024x512_160k.yml --model_path output/best_model/model.pdparams
/home/aistudio/BisNetV1_paddle
2022-03-11 16:09:12 [INFO]
---------------Config Information---------------
batch_size: 4
iters: 160000
loss:
coef:
- 1
- 1
- 1
types:
- type: OhemCrossEntropyLoss
- type: OhemCrossEntropyLoss
- type: OhemCrossEntropyLoss
lr_scheduler:
end_lr: 0.0
learning_rate: 0.01
power: 0.9
type: PolynomialDecay
model:
backbone:
output_stride: 8
type: ResNet18_vd
type: BiseNetV1
optimizer:
momentum: 0.9
type: sgd
weight_decay: 0.0005
train_dataset:
dataset_root: /home/aistudio/data/data64550/cityscapes
mode: train
transforms:
- max_scale_factor: 2.0
min_scale_factor: 0.5
scale_step_size: 0.25
type: ResizeStepScaling
- crop_size:
- 1024
- 512
type: RandomPaddingCrop
- type: RandomHorizontalFlip
- brightness_range: 0.4
contrast_range: 0.4
saturation_range: 0.4
type: RandomDistort
- type: Normalize
type: Cityscapes
val_dataset:
dataset_root: /home/aistudio/data/data64550/cityscapes
mode: val
transforms:
- type: Normalize
type: Cityscapes
------------------------------------------------
W0311 16:09:12.629894 2833 device_context.cc:447] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1
W0311 16:09:12.629941 2833 device_context.cc:465] device: 0, cuDNN Version: 7.6.
2022-03-11 16:09:16 [INFO] No pretrained model to load, ResNet_vd will be trained from scratch.
2022-03-11 16:09:16 [INFO] Loading pretrained model from output/best_model/model.pdparams
2022-03-11 16:09:16 [INFO] There are 206/206 variables loaded into BiseNetV1.
2022-03-11 16:09:16 [INFO] Loaded trained params of model successfully
2022-03-11 16:09:16 [INFO] Start evaluating (total_samples: 500, total_iters: 500)...
500/500 [==============================] - 81s 161ms/step - batch_cost: 0.1608 - reader cost: 0.1314
2022-03-11 16:10:37 [INFO] [EVAL] #Images: 500 mIoU: 0.7519 Acc: 0.9572 Kappa: 0.9445
2022-03-11 16:10:37 [INFO] [EVAL] Class IoU:
[0.9796 0.8391 0.9183 0.4422 0.5683 0.6251 0.703 0.7758 0.92 0.6217
0.9425 0.8053 0.5925 0.9467 0.7111 0.8287 0.7332 0.5678 0.7654]
2022-03-11 16:10:37 [INFO] [EVAL] Class Acc:
[0.9883 0.9169 0.9508 0.8329 0.8072 0.7926 0.8402 0.8981 0.9518 0.8052
0.9601 0.8769 0.7613 0.9691 0.9346 0.9342 0.9139 0.7919 0.8579]
七、复现经验
1、如果复现的精度未达到要求，且与目标精度差距不大，可以尝试增加训练次数，若与目标精度相差较大，需要检查网络、预处理过程等是否有误；
2、优先使用PaddleSeg框架复现论文，可以节省大量的时间，同时能够在PR时提高效率。
