Як зменшити переобладнання за допомогою обмежень ваги в Керасі
Останнє оновлення 25 серпня 2020 року
Обмеження ваги забезпечують підхід до зменшення переобладнання моделі нейронних мереж глибокого навчання на навчальних даних та покращення продуктивності моделі на нових даних, таких як набір випробувальних тестів.
Існує декілька типів обмежень ваги, таких як норми максимального та одиничного векторів, а деякі вимагають гіперпараметра, який потрібно налаштувати.
У цьому посібнику ви знайдете API Keras для додавання обмежень ваги до моделей нейронних мереж глибокого навчання, щоб зменшити перенапруження.
Після завершення цього підручника ви дізнаєтесь:
- Як створити обмеження векторної норми за допомогою API Keras.
- Як додати обмеження ваги до шарів MLP, CNN та RNN за допомогою API Keras.
- Як зменшити переобладнання, додавши обмеження ваги до існуючої моделі.
Почніть свій проект з моєю новою книгою «Краще глибоке навчання», включаючи покрокові підручники та файли вихідного коду Python для всіх прикладів.
Давайте розпочнемо.
- Оновлено березень/2019: виправлена помилка при використанні рівності замість призначення в деяких прикладах використання.
- Оновлено жовтень/2019: Оновлено для Keras 2.3 та TensorFlow 2.0.
