为什么神经网络具有泛化能力？
泛化能力——预测新的input的类别的能力 多轮迭代之后，一个神经网络记住了已经训练的input和target，为什么确保新的input来了也有用？ 因为，特征提取，吗？
答：
神经网络具有泛化能力的原因主要有以下三个方面：
1. 参数共享：神经网络中的参数是共享的，即同一个参数会被多个神经元使用。这种共享参数的方式可以让神经网络对输入数据进行更好的泛化，因为它可以通过共享参数来学习到一些通用的特征，而不是只针对训练集中的数据进行过度拟合。
2. 正则化：在神经网络中，常常使用正则化技术来避免过拟合。正则化可以限制参数的大小，减少模型的复杂度，从而提高泛化能力。
3. 多层结构：神经网络通常由多层结构组成，每一层都可以学习到数据的不同特征。这种分层的结构可以让神经网络学习到更加抽象和复杂的特征，从而提高泛化能力。
4. 数据增强：通过对训练数据进行一定的变换和扩充，可以增加训练集的规模，从而提高模型的泛化能力。
5. Dropout：Dropout是一种正则化技术，它可以随机地将一些神经元的输出置为0，从而减少模型的复杂度，避免过拟合，提高泛化能力。
6. Early stopping：Early stopping是一种常用的防止过拟合的技术，它可以在训练过程中监测验证集上的误差，当验证集上的误差不再下降时，就停止训练。这种方法可以有效避免过拟合，提高泛化能力。
7. 梯度下降：神经网络的训练通常采用梯度下降算法，通过最小化损失函数来更新模型参数。梯度下降可以使模型学习到数据的一般规律，从而提高泛化能力。
8. 大量数据：神经网络需要大量的数据进行训练，这样才能学习到数据的一般规律，从而提高泛化能力。当训练集足够大时，神经网络可以更好地学习到数据的分布，从而对新数据进行更好的泛化。
综上所述，神经网络具有泛化能力的原因是多方面的，包括参数共享、正则化、多层结构、数据增强、Dropout、Early stopping、梯度下降和大量数据等因素。这些因素都可以使神经网络对输入数据进行更好的泛化，从而提高模型的预测能力。
