Exponential Moving Average
目的:使得参数变化更加顺滑
设原参数为
param_updates = [0.1, 0.2, -0.1, 0.3, -0.2]
使用ema进行变换
param_ema = 0
alpha = 0.9
for param in params:param_ema = alpha * param_ema + (1 - alpha) * paramprint(param_ema)
结果为
[0.009999999999999998, 0.028999999999999998, 0.0161, 0.04448999999999999, 0.020040999999999996]
本文发布于:2024-01-30 22:46:24,感谢您对本站的认可!
本文链接:https://www.4u4v.net/it/170662598623373.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |