本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。
深度神经网络往往存在大脑过拟合的问题,需要Dropout、权重衰减这样的正最新则化方法的加持。
而最近的研究表明,如果对Dropout研究“剪掉”的神经元的结构进行利用,就能实现比随机替:A换更好的效果。
问题是,实际应用中,针对不同的问题ut,利用结构的方法需要人工设计,对Dropout的模式进oM行调整,泛化能力不足。
那么,是否能设计一种针对CNN、TL方ransformer这样的深度神经网络,自动学习Dro式自pout模式的方法?
现在,谷歌大神Quoc V. Le的团队动学,就提出了一种名为AutoDropout的方法。
&nbs习Dp;
htrotps://arxiv.org/abs/210po1.01761
电话:020-123456789
传真:020-123456789
Copyright © 2026 Powered by 岸然道貌网 http://mcshane-enterprises.com/