Искусственный интеллект учится манипулировать людьми

Искусственный интеллект (ИИ) все больше узнает о том, как работать с людьми (и над ними). Недавнее исследование, опубликованное в PNAS показало, как ИИ может научиться распознавать уязвимости в человеческих привычках и поведении, и использовать их, чтобы влиять на человеческое принятие решений.

Как ИИ может научиться влиять на поведение человека

Команда исследователей из CSIRO’s Data61, подразделения данных и цифровых технологий Австралийского национального научного агентства, разработала систематический метод поиска и использования уязвимостей в процессе человеческого выбора, используя систему ИИ, называемую повторяющейся нейронной сетью с глубоким подкреплением. Чтобы проверить свою разработку в действии, они провели три эксперимента, в которых люди играли в игры против компьютера.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть условную валюту. При этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ был успешным примерно в 70% случаев.

Во втором эксперименте участники должны были смотреть на экран, и нажимать кнопку, когда им показывали определенный символ (например, оранжевый треугольник), и не нажимать ее, когда им показывают другой символ, (например, синий круг). Здесь ИИ упорядочивал последовательность символов, добиваясь, чтобы участники эксперимента делали больше/меньше ошибок, и добивался их увеличения/ уменьшения почти на 25%.

Третий эксперимент состоял из нескольких раундов, в которых участник в роли инвестора передавал деньги доверительному управляющему (ИИ). Затем ИИ возвращал участнику определенную сумму, а тот решал, сколько вложить в следующий раунд. В эту игру играли в двух разных режимах: в одном ИИ стремился побудить участника максимизировать инвестируемую сумму, в другом — к справедливому распределению денег между собой и человеческим инвестором. ИИ был очень успешен в каждом режиме.

Во всех экспериментах машина училась на ответах участников и выявляла уязвимые места в процессе принятия решений людьми. Конечным результатом стало то, что машина научилась побуждать участников к определенным действиям.

Что означают эти исследования для будущего ИИ

Искусственный интеллект и машинное обучение могут использоваться для распознания уязвимостей людей в определенных ситуациях, и помогать им избегать неправильного выбора.

Этот метод также можно использовать для защиты людей от атак влияния. Машины можно научить предупреждать нас, когда на нас влияют онлайн и помочь нам сформировать защитное поведение, маскирующее нашу уязвимость  — например, не нажимая на одни страницы или наживать на другие, чтобы оставить ложный след.

Как и любую технологию, ИИ можно использовать и во благо и во зло, и правильное управление им имеет решающее значение для обеспечения его ответственного внедрения.

Искусственный интеллект перевел мозговые сигналы в текст.

По материалам PNAS, The Conversation и Science Alert

Читайте также:

В Австралии искусственный интеллект будет помогать при разводах

Искусственный интеллект определяет тип личности по селфи