赛博树突觉醒！AI 仿生革命：更少参数，更强性能，过拟合？不存在的！

---

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

编辑丨&

人工神经网络（ANN）是大多数深度学习（DL）算法的核心，这些算法可以成功解决图像识别、自动驾驶和自然语言处理等复杂问题。然而，与能够高效解决类似问题的生物大脑不同，DL 算法需要大量可训练参数，这使得它们能耗高且容易过拟合。

来自希腊研究与技术基金会两位研究员示了一种新的 ANN 架构，它结合了生物树突的结构化连接和受限采样特性，抵消了这些限制。

树突状人工神经网络在多项图像分类任务中表现优于传统人工神经网络，同时使用的可训练参数明显较少。树突特性的结合可以使 ANN 中的学习更加精确、有弹性和参数高效，并为生物学特征如何影响 ANN 的学习策略提供了新的思路。

他们的研究以「Dendrites endow artificial neural networks with accurate, robust and parameter-efficient learning」为题，于 2025 年 1 月 22 日刊登于《Nature Communications》。

研究结果表明，树突特性的结合可以使 ANN 中的学习更加精确、有弹性和参数高效，并为生物学特征如何影响 ANN 的学习策略提供了新的思路。

生物树突与 DL

DL 架构在很大程度上依赖于受其生物对应物启发的多层人工神经网络（ANN）。在这些网络中，人工节点的构造通常是输入的线性加权和加上非线性激活函数，大致模仿生物神经元的胞体或轴突如何整合输入，并且通过更改这些节点之间的连接强度进行学习。

比之下，生物神经元要复杂得多，由一个体细胞、一个轴突和许多树突组成，使它们能够并行处理数千个突触输入，其方式在细胞类型之间差异很大。尽管生物神经元的体细胞和轴突功能在人工神经元中得到了突破，但目前缺少树突计算。

生物树突，因为它们能够产生局部再生事件（树突尖峰），与神经元胞体具有相似的尖峰特征。因此，生物神经元可以充当多层人工神经网络，能够执行复杂的计算。

鉴于树突的高计算能力和生物网络中的相关优势，目前人工神经元的设计似乎已经过时了。树突特性的掺入可能会增强人工神经网络的能力，培养更有效、更高效和更有弹性的学习行为，就像在生物网络中看到的那样。

上述主张得到了最近的研究的支持，这些研究将树突结构及其特性整合到传统人工神经网络中，在机器学习 （ML） 任务上显示出有希望的结果。

在这里，他们提出了一种生物逼真的树突状架构，旨在改善使用反向传播算法训练的人工神经网络的学习。在所提出的架构中，输入被部分采样并馈送到树突层，而树突层又以稀疏和高度结构化的方式连接到体细胞层。

图 1：树突状 ANN （dANN） 与经典香草 ANN （vANN） 的示意图。

通过结合树突结构和采样特征，所提出的树突状 ANN 模型在多个图像分类任务上匹配或优于传统 ANN，并抵消过拟合，同时使用的可训练参数减少了几个数量级。

这些改进可能是由于更广泛地使用了可训练权重，并且树突状 ANN 与传统 ANN 使用的学习策略不同。

总的来说，研究结果表明，树突可以在不牺牲其性能准确性的情况下提高人工神经网络的计算效率，为开发继承生物大脑一些主要优势的仿生 ML 系统开辟了新的途径。

树突 ANN 模型

在树突 ANN 模型中，每个树突都充当一个典型的点神经元：它线性地对其加权输入（突触）求和，并通过非线性传递总和。树突激活随后乘以电缆权重，并在胞体处求和，然后进行第二次非线性传递。

Health AI健康云开放平台

专注于健康医疗垂直领域的AI技术开放平台

113 查看详情

为了训练模型，他们将其实现为传统的 ANN，具有两个稀疏连接的隐藏层，分别代表树突和体细胞单元，以及一个完全连接的输出层。除此之外，他们还实现了一个具有相同层数的完全普通的 ANN 来进行对比。

除了结构化的连接性外，生物神经元的树突仅接收来自视觉场景的部分信息。为了研究这一特性的贡献，树突状 ANN 模型实施了三种类型的输入采样：a 输入特征（R）的随机采样，b 局部感受（LRF），其中每个树突都从图像的空间限制部分采样，以及 c 全局感受（GRF），其中所有树突都属于来自图像同一空间限制部分的 soma 样本。

对于大小匹配和更大的 vANN 架构（就可训练参数而言），这三个树突状 ANN 比 vANN 模型更有效地实现了更好的学习和对抗过拟合。

这些过拟合减少并不像在 dANN 中看到的那么大，这表明这里测试的生物启发树突结构可能是更有效的正则化器。虽然这些发现并不构成与所有传统正则化方法的比较，但它们表明观察到的正则化是仿生结构的一个新兴特性。

图 2：树突特征改善了对时尚 MNIST 分类的学习。

除了过拟合的好处外，dANN 还通过使用更少的可训练参数来匹配 vANN 的最佳性能。

在测试的三种 dANN 配置中，具有局部感受的 dANN 是最有效的。它达到了最高的精度和最小的损耗，而可训练参数比 vANN 少了一个数量级以上。

最后，正如预期的那样，dANN 和 pdANN 模型中的学习随着网络大小的增加而提高。更重要的是，与其他仿生架构不同、dANN和 pdANN 模型随着层数的增加而表现出更好的性能或稳定性，揭示了它们在更深层次架构中使用的潜力。

图 3：树突提高了各种基准数据集的效率。

在所有测试的数据集中，dANN 模型表现出比 vANN 和 pdANN 更高的效率。然而，它比 vANN 更不容易受到过拟合的影响，从而在大多数测试的数据集中它实现相似准确性的较小损失。

图像辨别结果表明，对于更困难的任务，dANN 和 vANN 模型之间的差异可能更大。当任务难度增加时，在 ANN 中加入树突特征可能会带来更大的稳健性、准确性和效率增益。

研究讨论的小结

仿生机器学习是 AI 领域最前沿的方向之一，而生物树突及其学习机制正成为研究的热点。这些仿生设计已经在人工神经网络中展现出巨大的潜力，为相关领域的发展打开了新的可能性。

然而，主要依赖树突处理的生物网络的能力和效率仍远无法与相应的人工神经网络相匹配。为了解决这一困境，研究者们构建了一组树突状 ANN，利用生物树突的结构化连接和受限采样特征来增强学习。

全新的模型为在经典人工神经网络中采用树突特征可以获得的好处提供了新的见解，这些发现具有远大的前景，它们表明整合生物特征对于优化 ML 算法的可持续性和有效性至关重要。

相信这些优势与它们相对较好地扩展深度的能力相结合，能使所提出的 dANN 网络整合到 DL 架构中，成为经典 ANN 的潜在强大替代品。

论文链接：https://www.nature.com/articles/s41467-025-56297-9

代码链接：https://github.com/Poirazi-Lab/dendritic_anns

以上就是赛博树突觉醒！AI 仿生革命：更少参数，更强性能，过拟合？不存在的！的详细内容，更多请关注其它相关文章！

# 表现出  # 建设监理协会网站官网  # 快速网站优化技巧与方法  # 上海抖音seo教程公司  # 长乐区公司seo报价  # 杂志网站建设推广方案  # 广西大洋集团网站建设  # 唐山网站综合优化  # 佛山网站优化厂家有哪些  # 用户体验感seo  # 阳泉哪个网站建设值得推荐  # 三种  # 不存在  # 理论  # 腾讯  # 还能  # 更少  # 这一  # 进阶  # 结构化  # 更大  # Type  # 2025  # 热点  # ai  # git 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 探索人工智能和物联网的动态融合  AIGC 风潮刮到游戏产业，巨人网络与阿里云达成“游戏 +AI ”合作  国网辉南供电：无人机空中巡检 全力护航端午佳节  随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了  数据显示：人工智能相关专业热度上升最快 考古、美术、生物医学工程等小众专业火了  上新7款产品，美图继续“蹭”AI  ChatGPT设计出的第一个机器人来了！【附人工智能行业预测】  技术如何使人变得懒惰？  AI立法迫在眉睫，如何看对行业影响？  生成式AI爆发，亚马逊云科技持续专注创新，助力企业数字化转型  明略科技发布免费开源TensorBoard.cpp，促进大型模型的预训练工作  Valve Index VR 头显销量下滑，上市四年的长青树渐失光彩  人工智能“Aria”现身 Opera浏览器100版本更新：新功能“标签岛”  京东 AI 大模型官宣 7 月 13 日发布，还有重磅合作  讯飞听见会写“会议摘要”功能全面升级，AI更懂你的关注点  Adobe旗下Illustrator引入生成式AI工具Firefly  消息称 ChatGPT 未来有望增加更多功能：上传文件分析信息，还能记住用户画像  AI与5G的强强联合：唤醒数字时代的无尽潜能  央视报道车载人机交互技术！MWC上海魅族表现亮眼，现场热火朝天  数据科学，解码智能未来——Altair首次提出“Frictionless AI”概念  阿里云全面支持Llama2训练部署，助力企业快速构建自有大型模型  美图发布国内首个“懂美学的”AI视觉大模型MiracleVision  稿见AI助手：提升写作效率与质量的必备工具  禁止艺术家使用 AI 创作《龙与地下城》游戏插图的决定已在 D&D Beyond 生效  构建数字文旅新高地！洛阳涧西区开启元宇宙时代  央视报道！星纪魅族集团车载人机交互技术成世界移动通信大会焦点  参议院司法听证会：AI 不易管控，有可能被恶意分子利用来研发生化武器  如何提高集群协作效率？中外团队合作研发基于均值偏移的机器人队形控制策略  传字节内测对话式 AI 产品，代号「Grace」；马斯克嘲讽苹果 头显；比亚迪 F 品牌定名「方程豹」  苹果推出全新沉浸式 AR 体验应用“Deep Field”  家电行业观察：AI加持下，全屋智能将成为智能家电未来？  自研4D激光雷达L1 + GPT大语言模型 宇树Unitree Go2四足机器人有啥黑科技？  人工智能领域，突破难题：国产大模型“无源之水”问题得到解决。  商业智能决策技术助力降本增效，世界人工智能大会举办商业AI高峰论坛  两小时就能超过人类！DeepMind最新AI速通26款雅达利游戏  AI 冥想应用 Ogimi.ai 推出，可为用户提供教练级个性化指导  懒人必备的家居清洁好物，石头自清洁扫拖机器人G20  微软推出人工智能模型 CoDi，可互动和生成多模态内容  腾讯自主研发机器狗 Max 升级，可“奔跑跳跃”完成避障动作  Vision Pro 太贵，苹果基于 iPhone 的 VR 头显专利曝光  加强高质量数据供应能力，促进通用人工智能大模型领域的创新  1000万张照片训练AI模型 科学家找到水下定位新方法  2025世界人工智能大会（上海）开幕式纪要  企业软件行业更将被AI全面重构！Moka李国兴：未来优秀组织和个人将一定是善于使用AI生产力的  无需照相馆，AI证件照生成软件即将推出  日本学校探索引入 AI 和无人机：提高安保效率，节省劳动力  世界人工智能大会|“AI领航，共筑未来”高端保险论坛成功举办  跟着AI大热的“光模块”到底是什么？  山东机器人编程：Scratch编程基础，认识舞台！~济南机器人编程  三星加速AR眼镜进程，预计明年上半年亮相 

 2025-02-01