Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института показали, что группы автономных машин могут проявлять предубеждения посредством простого определения такого поведения, его копирования и взаимного обучения ему.
Новое исследование основано на компьютерных симуляциях того, как предвзятые виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним. После проведения тысяч симуляций каждый индивид обучается новым стратегиям, копируя других — будь то представители своей группы или всего «населения».
«С проведением этих симуляций тысячи и тысячи раз подряд мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».
Данные исследования также включают в себя индивидов, повышающих уровни своего предубеждения предпочтительным копированием тех, кто получает лучшие краткосрочные результаты, что, в свою очередь, означает, что такие решения не требуют обязательного наличия особых способностей.
Как сообщал «Вокруг Света. Украина», ранее некоторые типы компьютерных алгоритмов уже проявляли такие предубеждения, как расизм и сексизм, основанные на изучении публичных записей и других данных, сгенерированных людьми.
По материалам Naked-science
Читайте также:
Производителя черной туалетной бумаги обвинили в расизме
В Бельгии впервые выписали штраф за «сексизм в публичном месте»