MLdoesML/Searching-for-activation-functions
📦 Open Source ProjectMLdoesML
Реализация на TensorFlow исследования Google Brain по автоматическому поиску оптимальных функций активации нейронных сетей.
Проект представляет собой практическую реализацию фундаментального исследования Google Brain, направленного на автоматизацию проектирования компонентов нейронных сетей. Рассматривая поиск функций активации как задачу обучения с подкреплением, фреймворк демонстрирует, как агенты могут исследовать пространство математических операций для создания эффективных нелинейностей. Кодовая база использует TensorFlow для определения пространства поиска и оценки функций-кандидатов на стандартных бенчмарках. Она предоставляет исследователям возможность изучить ранние методы автоматизированного машинного обучения (AutoML), фокусируясь на поиске архитектуры, а не только на настройке гиперпараметров. Эта реализация является ценным ресурсом для тех, кто изучает эволюцию дизайна нейронных сетей и историю методов автоматизированного поиска архитектур.
💡Основное
- ├─Реализация на TensorFlow
- ├─Автоматический поиск активаций
- └─Проект конкурса NIPS 2017
🎯Для
- ├─Исследователи ИИ
- └─Инженеры по глубокому обучению