基于Paddle2.0的注意力卷积网络SGE

---

本项目首次用Paddle2.0复现SGE-NET，在10分类动物数据集（按8:2划分训练与验证集）上实验，对比SGE-NET50与ResNet50的分类效果。结果显示，SGE-NET50验证准确率达0.8056，显著高于ResNet50的0.5888，证明SGE模块能有效提升卷积网络的语义特征学习能力。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

项目背景

SGE是2019年arxiv上的一篇论文Spatial Group-wise Enhance: Improving Semantic Feature Learning in Convolutional Networks中提出的基于注意力机制的卷积网络模型。本项目即对其进行复现。

计算机视觉领域的注意力机制主要涵盖空间注意力和通道注意力两个方面。其中空间注意力用来捕获像素间的关系，而通道注意力用来捕获通道间的关系。SGE提出了一个获取空间注意力的模块Spatial Group-wise Enhance(SGE)。本项目复现SGE-NET并用其来完成动物图像分类的实验。

项目简介

本项目首次使用paddle2.0复现了含有注意力机制的网络SGE-NET，并在动物数据集上进行了训练和验证。

动物数据集的划分是按8:2的的划分方法进行训练集与验证集划分的。

模型简介

SGE-NET网络的核心思想是提出了SGE模块。该模块对分组卷积的每个组采用全局平均池化产生相关的统计信息，然后和输入特征做点积，得到注意力特征图。然后使用注意力特征图来调节输入的特征。该模块基本不增加额外的参数。如图1所示。

图1 SGE模块细节示意图

具体实现可以fork后见代码细节。

论文原文：Spatial Group-wise Enhance: Improving Semantic Feature Learning in Convolutional Networks

Openflow

一键极速绘图，赋能行业工作流

88 查看详情

数据集介绍

本项目使用10分类的动物数据集进行训练和测试.

该十分类动物数据集，包含dog,horse,elephant,butterfly,chicken,cat,cow,sheep,spider和squirrel。每一分类的图片数量为2k-5k。

文件结构

文件名或文件夹名	功能
sge_resnet.py	SGE网络定义文件
animal_dataset.py	数据集定义文件
config.py	配置文件
train_val_split.py	训练验证划分文件
train.py	模型训练
eval.py	模型验证

解压数据集

In [ ]

!unzip -q data/data70196/animals.zip -d work/dataset

查看图片

In [ ]

import osimport randomfrom matplotlib import pyplot as pltfrom PIL import Image

imgs = []
paths = os.listdir('work/dataset')for path in paths:   
    img_path = os.path.join('work/dataset', path)    if os.path.isdir(img_path):
        img_paths = os.listdir(img_path)
        img = Image.open(os.path.join(img_path, random.choice(img_paths)))
        imgs.append((img, path))

f, ax = plt.subplots(3, 3, figsize=(12,12))for i, img in enumerate(imgs[:9]):
    ax[i//3, i%3].imshow(img[0])
    ax[i//3, i%3].axis('off')
    ax[i//3, i%3].set_title('label: %s' % img[1])
plt.show()

<Figure size 864x864 with 9 Axes>

划分训练集和验证集

In [ ]

!python code/train_val_split.py

finished train val split!

使用SGE-NET50网络进行动物分类的训练并验证

In [1]

!python code/train.py --net 'sge_resnet'

验证

In [4]

!python code/eval.py --net 'sge_resnet'

W0219 19:49:07.862567 32045 device_context.cc:362] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1
W0219 19:49:07.866497 32045 device_context.cc:372] device: 0, cuDNN Version: 7.6.
Eval begin...
The loss value printed in the log is the current batch, and the metric is the *erage value of previous step.
step 103/103 [==============================] - loss: 0.5671 - acc: 0.8056 - 239ms/step         
Eval samples: 3276
{'loss': [0.567119], 'acc': 0.8055555555555556}

图示训练验证过程

图2. 使用SGE-NET50的训练验证图示

使用resnet50网络进行动物分类的训练并验证

训练

In [2]

!python code/train.py --net 'resnet'

验证

In [ ]

!python code/eval.py --net 'resnet'

W0213 21:34:50.038996 12684 device_context.cc:362] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1
W0213 21:34:50.043457 12684 device_context.cc:372] device: 0, cuDNN Version: 7.6.
Eval begin...
The loss value printed in the log is the current batch, and the metric is the *erage value of previous step.
step 103/103 [==============================] - loss: 1.4232 - acc: 0.5888 - 191ms/step        
Eval samples: 3276
{'loss': [1.4232028], 'acc': 0.5888278388278388}

图示训练验证过程

图3. 使用ResNet的训练验证图示

比较

图4. 使用SGE-NET和ResNet的训练验证比较图示

以上就是基于Paddle2.0的注意力卷积网络SGE的详细内容，更多请关注其它相关文章！

# 对其  # 好的品牌seo优化  # 藁城区普通网站建设招标  # 常德论坛推广营销  # 网站规划与建设前景分析  # 买老域名seo  # 甘肃正规的网站优化公司  # 中山seo推广营销  # 宁波网站推广专业服务  # 四川网站优化优势排名  # 枣庄网络营销平台推广  # 解决问题  # python  # 相关文章  # 并在  # 工作流  # 官网  # 提出了  # 首次  # 一言  # 中文网  # fig  # igs  # ai 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 中国AI公有云市场2025年逆势蓬勃增长，增速高达80.6%  技术如何使人变得懒惰？  中国最强AI研究院的大模型为何迟到了  7大探索区域打造沉浸式玩乐“元宇宙” 昆明京东MALL未来科技探索官全城招募中  甲骨文与Cohere合作为企业提供生成式人工智能服务  ChatGPT大更新！OpenAI奉上程序员大礼包：API新增杀手级能力还降价，新模型、四倍上下文都来了  速途网络成立“人工智能专家委员会”5位中美博士加盟  猿力科技入选北京市通用人工智能产业创新伙伴计划  浪潮KaiwuDB：“快人一步” - 打造更懂物联网的数据库  热点资讯：家乐福推出聊天机器人；米哈游2025年营收273.4亿元…  苹果AR头显商标与华为撞车，在中国或改名  利用AI探索抗体“钥匙”、加速药物研发——访百图生科团队  吴恩达、Hinton最新对话！AI不是随机鹦鹉，共识胜过一切，LeCun双手赞成  AI行业盛会大咖云集！Sam Altam、“AI教父”......一文看懂最新观点  AI浪潮席卷，时空壶为何能成为AI翻译时代的破局者  70年前他本想逃避考试，却影响了整个互联网  Valve 将拒绝采用 AI 生成未知版权内容的游戏上架 Steam  万兴播爆桌面端上线，支持AI数字人搜索、视频编辑等功能  V社回应拒绝上架含 AI 生成内容的游戏：审核政策正在调整中  AI 大模型重塑软件开发，有哪些落地前景和痛点？| ArchSummit  科技有狠活｜时光修复师 ：用AI让昨日重现  中兴通讯无人机高空基站助力北京门头沟受灾乡镇保障应急通信  LinkedIn 推出生成式 AI 辅助撰写帖文功能，将向所有用户开放  BLIP-2、InstructBLIP稳居前三！十二大模型，十六份榜单，全面测评「多模态大语言模型」  磐镭发布全新 GeForce RTX 4080 ARMOUR 显卡，售价为 9499 元  Xreal AR 眼镜用投屏盒子 Beam 发布：分体式设计，到手 699 元  清华&中国气象局大模型登Nature：解决世界级难题，「鬼天气」预报时效首次达3小时  微软 GitHub Copilot 编程助手被投诉：换口吻改写公共代码来躲版权  脑虎科技：奔跑在“脑机接口”最前沿 跨界融合取得阶段性成果  AI大举入侵内容行业，哪些上市*及动漫公司进行了布局？  IBM 与 NASA 携手开源地理空间 AI 模型，促进气候科学研究进步  QQ音乐业内率先推出「AI一起听」功能，领取你的AI听歌助手  智能化解决方案：保障数据安全阻击泄露和丢失  导演郭帆：人工智能应用可能会影响《流浪地球 3》的创作开发  再也不怕「视频会议」尬住了！谷歌CHI顶会发布新神器Visual Captions：让图片做你的字幕助手  调研海尔智家：AI名，家电命？  人工智能加速走进百姓生活：从2025全球人工智能技术大会看行业新趋势  OpenAI限制网络爬虫访问以保护数据免被用于AI模型训练  1.6亿美元收购Singularity AI，昆仑万维布局通用人工智能  联合国秘书长称支持建立全球人工智能监管机构  奥比中光子公司和斯坦德机器人深度合作，共同推进新一代激光雷达的研发  新华全媒+｜AI：当心，我可能欺骗了你！  借助ChatGPT快速上手ElasticSearch dsl  苹果AIGC专利：可通过语音指令生成AR/VR虚拟场景  飒智智能机器人核心技术与应用论坛暨一体化控制器发布会成功举办  这效果能打几分？AI真人化《名侦探柯南》  网易云音乐和小冰推出AI歌手音乐创作软件，首发内置12名AI歌手  跑不动的元宇宙，虚拟世界比现实更冷酷  陈根：ChatGPT和人类合作开发机器人  联想戴炜：以全栈AI加速CT与IT融合，共建高质量算力网络 

 2025-07-30