Наука

Искусственный интеллект подвержен предрассудкам

Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института показали, что группы автономных машин могут проявлять предубеждения посредством простого определения такого поведения, его копирования и взаимного обучения ему.

Новое исследование основано на компьютерных симуляциях того, как предвзятые виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним. После проведения тысяч симуляций каждый индивид обучается новым стратегиям, копируя других — будь то представители своей группы или всего «населения».

«С проведением этих симуляций тысячи и тысячи раз подряд  мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».

Данные исследования также включают в себя индивидов, повышающих уровни своего предубеждения предпочтительным копированием тех, кто получает лучшие краткосрочные результаты, что, в свою очередь, означает, что такие решения не требуют обязательного наличия особых способностей.

Как сообщал «Вокруг Света. Украина»,  ранее некоторые типы компьютерных алгоритмов уже проявляли такие предубеждения, как расизм и сексизм, основанные на изучении публичных записей и других данных, сгенерированных людьми.

По материалам  Naked-science

Читайте также:

Производителя черной туалетной бумаги обвинили в расизме

В Бельгии впервые выписали штраф за «сексизм в публичном месте»

Вокруг Света

Recent Posts

5 мифов про туристическую страховку в 2024 году

Туристическое страхование часто воспринимается как дополнительная трата средств, которой можно избежать. Однако, это ошибочное представление,…

7 месяцев ago

Каким бывает в казино онлайн бонус за регистрацию

Открытие учетной записи на игровой площадке обычно вознаграждается подарком. Иногда клиенту для этого достаточно завести…

8 месяцев ago

Что делает Фраголино таким особенным и любимым

В мире виноделия существует напиток, который завоевал сердца многих гурманов своим уникальным вкусом и ароматом.…

8 месяцев ago

Как выбрать надежное онлайн-казино – полезные советы

Рынок азартных развлечений в Украине активно развивается, что заметно по регулярному пополнению списка легальных онлайн-казино.…

9 месяцев ago

Туризм ради игры: топ городов для игры в казино

Туризм ради игры становится всё более популярным среди путешественников по всему миру. Казино уже давно…

9 месяцев ago

Фриспины казино Vbet

Рассказываем о бонусах Vbet. Мы расскажем о разных видах поощрений - как стандартных для всех…

9 месяцев ago