- 深度神经网络架构和超参数优化的算法框架(arXiv)
作者 ：Julie Keisler,El-Ghazali Talbi,Sandra Claudel,Gilles Cabriel
摘要 : 在本文中，我们提出了一个算法框架，以自动生成高效的深度神经网络并优化其相关的超参数。该框架基于进化的有向无环图（DAGs），定义了一个比文献中现有的更灵活的搜索空间。它允许不同的经典操作的混合：卷积、递归和密集层，但也有更多新的操作，如自我关注。在这个搜索空间的基础上，我们提出了邻域和进化搜索操作，以优化我们网络的结构和超参数。这些搜索算子可以与任何能够处理混合搜索空间的元启发式算法一起使用。我们在一个时间序列预测的基准上用进化算法测试了我们的算法框架。结果表明，我们的框架能够在许多数据集上找到性能优于既定基线的模型。
2.基于核的线性系统识别的误差界限与未知超参数(arXiv)
作者：尹明洲，Roy S. Smith
摘要 : 基于核的方法已成功应用于使用稳定核设计的线性系统识别。从高斯过程的角度来看，它自动提供了来自后验协方差的识别模型的概率误差界限，这在稳健和随机控制中是非常有用的。然而，该误差界线需要知道核设计中的真实超参数，并被证明在轻度阻尼系统或存在高噪声的情况下，估计的超参数是不准确的。在这项工作中，我们对超参数未知时的估计误差进行了可靠的量化。界限是通过首先从边际似然函数中为真实的超参数构建一个高概率集，然后在该集中找到最坏情况下的后验协方差而得到的。所提出的边界被证明包含了高概率的真实模型，其有效性在数值模拟中得到了验证。
