神经网络中的参数（笔记）(吴恩达深度学习)
本文概述了深度学习中参数与超参数的区别，列举了常见的超参数类型，包括学习率、网络结构、优化算法等配置参数。指出深度学习是一个高度实验驱动的迭代过程，需要不断调整参数优化模型性能。由于不同领域问题特性差异以及硬件技术持续进步，最优参数配置会随时间和应用场景而变化，无法一劳永逸地确定。这种实验性特征要求开发者保持持续的调参和优化工作。
·
目录
1.参数与超参数
- 普通参数：W, b
- 超参数(Hyperparameter)：
已学：学习率α，迭代次数，隐藏层层数L，每层神经元数，激活函数选择。
其他超参数：动量，最小批大小，正则化参数。
2.深度学习是一个基于实验的高度迭代过程
- 图示
- 基于实验：指的是不断尝试找到最优参数
- 不同领域问题的参数通常不同
- 由于硬件不断发展，现在最优的参数，以后可能就不是最优了
腾讯云面向开发者汇聚海量精品云计算使用和开发经验，营造开放的云计算技术生态圈。
更多推荐
1
0- 0
已为社区贡献12条内容
所有评论(0)