Американские ученые нашли способ помешать роботам-андроидам выйти из-под контроля человека. Искусственный интеллект способен к самообучению, и, весьма вероятно, наступит тот день, когда человек не сможет его остановить. Команда разработчиков, занятых созданием искусственного интеллекта, изобрела систему частичного стирания памяти, не нарушающую способность андроида к обучению. Что-то вроде «нейтрализатора» из фильма «Люди в черном».
«Искусственный интеллект непременно будет стремиться избежать человеческого вмешательства и пытаться создать ситуации, где остановлен быть не может, — говорит Рашид Гуэрроу, преподаватель лаборатории EPFL в Луизиане. — Проблема не в том, чтобы остановить робота, а в том, чтобы изменить его поведение, не останавливая».
С беспилотными авто, самолетами и воздушными такси ситуация гораздо сложнее. Человек может взять управление в свои руки, но если, к примеру, он станет часто и без нужды тормозить, стиль движения машины навсегда останется рваным и путанным. При этом, машины способны учиться не только у человека, но и друг у друга.
Автобус-беспилотник во Франции
Фото: Shutterstock
Разработчики опробовали свою систему «безопасного прерывания» на уже существующих рабочих алгоритмах и утверждают, что их изобретение выдает минимум ошибок независимо от количества подключенных машин, сложности устройства и масштабности поставленных задач.
«Мы бы остановили Терминатора», — смеется Александр Маурер, один из авторов устройства.
Фото: epfl
Команда считает, что их изобретение было бы полезно для контроля над работой беспилотных транспортных средств. Пассажирские автобусы без водителей уже курсируют во Франции, Лас-Вегасе и Таллине.
По материалам Daily Mail
Читайте также:
Беспилотные автомобили: неожиданный побочный эффект
ООН установит правила для роботов-убийц
Илон Маск займется улучшением человеческого мозга
