用于深度学习的进化神经自动机
资料介绍:
用于深度学习的进化神经自动机(中文9700字,英文PDF)
摘要
深度神经网络(DNN)在许多基准和问题领域产生了最先进的结果。但是,DNN的成功取决于其架构和超参数的正确配置。这种配置很困难,因此,DNN通常不会充分发挥其潜力。此外,商业应用中的DNN通常需要满足现实世界的设计约束,例如参数的大小或数量。为了简化配置,我们开发了用于深度学习的自动机器学习(AutoML)系统,主要侧重于超参数的优化。
本文将AutoML向前推进了一步。它引入了一个名为LEAF的进化AutoML框架,它不仅可以优化超参数,还可以优化网络架构和网络规模。LEAF使用最先进的进化算法(EA)和分布式计算框架。医学图像分类和自然语言分析的实验结果表明,该框架可用于实现最先进的性能。特别是,LEAF表明架构优化提供了超级参数优化的显着提升,并且可以同时最小化网络,同时性能几乎没有下降。因此,LEAF为民主化和改进人工智能奠定了基础,并使AI在未来的应用中具有实用性。
CCS概念:
关键词:神经网络/深度学习,人工智能,AutoML
[资料来源:Doc163.com]
[资料来源:Doc163.com]