pytorch 模型的train模式与eval模式实例
原因
对于一些含有batchnormalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。
源代码
[docs]deftrain(self,mode=True): r"""Setsthemoduleintrainingmode. Thishasanyeffectonlyoncertainmodules.Seedocumentationsof particularmodulesfordetailsoftheirbehaviorsintraining/evaluation mode,iftheyareaffected,e.g.:class:`Dropout`,:class:`BatchNorm`, etc. Returns: Module:self """ self.training=mode formoduleinself.children(): module.train(mode) returnself [docs]defeval(self): r"""Setsthemoduleinevaluationmode. Thishasanyeffectonlyoncertainmodules.Seedocumentationsof particularmodulesfordetailsoftheirbehaviorsintraining/evaluation mode,iftheyareaffected,e.g.:class:`Dropout`,:class:`BatchNorm`, etc. """ #该方法调用了nn.train()方法,把参数默认值改为false.增加聚合性 returnself.train(False)
在使用含有BN层,dropout层的神经网路来说,必须要区分训练和验证
以上这篇pytorch模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。