神经网络为何越大越好?NeurIPS论文证明:鲁棒性是泛化的基础

神经网络为何越大越好?NeurIPS论文证明:鲁棒性是泛化的基础
当神经网络的研究方向逐渐转为超大规模预训练模型,研究人员的目标似乎变成了让网络拥有更大的参数量,更多的训练数据,更多样化的训练任务。当然,这个措施确实很有效,随着神经网络越来越大,模型了解和掌握的数据也更多,在部分特定任务上已经超越人类。但在数学上,

阅读全文>>

阅读全文...