首页 > 其他分享 >网格搜索(GridSearchCV)--用于深度学习超参数搜索

网格搜索(GridSearchCV)--用于深度学习超参数搜索

时间:2022-10-13 15:02:32浏览次数:82  
标签:遍历 GridSearchCV -- 网格 搜索算法 参数 搜索

GridSearch和CV,即网格搜索和交叉验证

网格搜索算法是一种通过遍历给定的参数组合来优化模型表现的方法

为何使用:超参数选择不恰当,就会出现欠拟合或者过拟合的问题

内容: 网格搜索,搜索的是参数,即在指定的参数范围内,按步长依次调整参数,利用调整的参数训练学习器,从所有的参数中找到在验证集上精度最高的参数,这其实是一个训练和比较的过程。

Grid Search:一种调参手段;穷举搜索:在所有候选的参数选择中,通过循环遍历,尝试每一种可能性,表现最好的参数就是最终的结果

用法:网格搜索适用于三四个(或者更少)的超参数(当超参数的数量增长时,网格搜索的计算复杂度会呈现指数增长,这时候则使用随机搜索),用户列出一个较小的超参数值域,这些超参数至于的笛卡尔积(排列组合)为一组组超参数。网格搜索算法使用每组超参数训练模型并挑选验证集误差最小的超参数组合

缺点:遍历所有组合,比较耗时

可以参考文章https://www.cnblogs.com/wj-1314/p/10422159.html

标签:遍历,GridSearchCV,--,网格,搜索算法,参数,搜索
From: https://www.cnblogs.com/chentiao/p/16788156.html

相关文章