Ученые разработали устройство для стирания памяти

Американские ученые нашли способ помешать роботам-андроидам выйти из-под контроля человека. Искусственный интеллект способен к самообучению, и, весьма вероятно, наступит тот день, когда человек не сможет его остановить. Команда разработчиков, занятых созданием искусственного интеллекта, изобрела систему частичного стирания памяти, не нарушающую способность андроида к обучению. Что-то вроде «нейтрализатора» из фильма «Люди в черном».

«Искусственный интеллект непременно будет стремиться избежать человеческого вмешательства и пытаться создать ситуации, где остановлен быть не может, — говорит Рашид Гуэрроу, преподаватель лаборатории EPFL в Луизиане. — Проблема не в том, чтобы остановить робота, а в том, чтобы изменить его поведение, не останавливая».

С беспилотными авто, самолетами и  воздушными такси ситуация гораздо сложнее. Человек может взять управление в свои руки, но если, к примеру, он станет часто и без нужды тормозить, стиль движения машины навсегда останется рваным и путанным. При этом, машины способны учиться не только у человека, но и друг у друга.

Разработчики опробовали свою систему «безопасного прерывания» на уже существующих рабочих алгоритмах и утверждают, что их изобретение выдает минимум ошибок независимо от количества подключенных машин,  сложности устройства и масштабности поставленных задач. 

«Мы бы остановили Терминатора», — смеется Александр Маурер, один из авторов устройства.

Команда считает, что их изобретение было бы полезно для контроля над работой беспилотных транспортных средств. Пассажирские автобусы без водителей уже курсируют во Франции, Лас-Вегасе и Таллине.

По материалам Daily Mail

Читайте также:

Беспилотные автомобили: неожиданный побочный эффект

ООН установит правила для роботов-убийц

Илон Маск займется улучшением человеческого мозга