Эрик Хоэль из Университета Тафтса (США) предложил так называемую «гипотезу переобученного мозга» (The overfitted brain hypothesis). Ученый считает, что центральный орган человеческой нервной системы использует сновидения в качестве инструмента, позволяющего обобщать полученный опыт, а не замыкаться на конкретных типовых ситуациях. Происходит это путем создания как можно более странных образов, вносящих серьезные изменения в знакомую картину. Таким образом мозг отвлекается от однообразных повторяющихся событий или явлений и поддерживает себя в тонусе — готовым к реакции на изменяющуюся обстановку.
Аналогичный эффект переобучения (overfitting) возникает при тренировке нейросетей. Дело в следующем: обученный на определенной выборке алгоритм может настолько сильно «привыкнуть» к ней, что станет хуже работать на реальных примерах, чем должен. То есть модель будет почти идеально объяснять примеры из обучения, но экстраполировать ее «навык» эффективно не получится. А это вообще-то основная цель при создании нейросетей. Чтобы избежать переобучения, применяют так называемое исключение (dropout) — внедрение некоторого количества хаоса в обучающую выборку.
Например, в набор реальных фотографий, по которым тренируют алгоритм автомобильного автопилота, вносят изображения с намеренными искажениями. Это могут быть черные прямоугольники, закрывающие какие-то элементы картинки, или вовсе вырванные из контекста образы. В результате нейросеть создает такие связи, которые обходят незначительные препятствия к восприятию реальной картины. То есть становится ближе к человеческому мозгу. Хоэль предположил, что подобный механизм может быть не только рукотворным, как в обучении ИИ специалистами, но и природным.
Мозг человека в нормальных условиях не способен полностью отключиться от реальности и перестать ее воспринимать. То есть обучаться. Поэтому в сновидениях, которые появляются в фазе быстрого сна, он специально создает вроде бы знакомые ситуации, но в них присутствуют искажения. Если мы запоминаем такие сны, для нас они выглядят странным бредом. А на уровне нейронных связей — это необходимое расслабление, направляющее непрерывное обучение по более общему пути. В результате мозг меньше зацикливается на однообразных ситуациях и получает возможность анализировать общую картину.
По материалам Naked-science
Фото: Depositphotos
Читайте также:
У людей в браке быстрый сон длится дольше
Сон длительностью менее шести часов чреват развитием деменции
Короткий дневной сон повышает продуктивность сотрудника
Стать полноценным разработчиком приложений и ПО можно за счет обучения и постоянной практики. Однако пройдя…
Эстетическая хирургия – одно из наиболее развивающихся направлений современной медицины. Актуальные методики и технологии дают…
Украина уверенно движется к развитию легального игорного бизнеса, привлекая внимание как местных предпринимателей, так и…
За последние 10 лет число людей, столкнувшихся с лудоманией, выросло на порядка 500% и, по…
Туристическое страхование часто воспринимается как дополнительная трата средств, которой можно избежать. Однако, это ошибочное представление,…
Открытие учетной записи на игровой площадке обычно вознаграждается подарком. Иногда клиенту для этого достаточно завести…