Систематическая ошибка в данных или алгоритме, которая приводит к несправедливым, неточным или дискриминационным результатам работы AI-модели. Может возникать из-за нерепрезентативных данных для обучения или заложенных в алгоритм предубеждений.
Пример: Модель для сегментации аудитории, обученная на данных преимущественно молодой аудитории, неверно классифицирует и исключает из рекламных кампаний пользователей старшего возраста, снижая охват.
Смещение (Bias) в контексте искусственного интеллекта — это систематическая ошибка или предвзятость в системе AI, которая приводит к несправедливым или дискриминационным результатам. Эти ошибки могут возникать на различных этапах жизненного цикла AI: от сбора и подготовки данных до обучения модели и её развертывания.
Основная причина смещения часто кроется в обучающих данных, которые могут отражать существующие социальные, культурные или исторические предрассудки. Если данные, на которых обучается модель, содержат диспропорциональное представительство определённых групп, неполную информацию или стереотипы, то модель будет их воспроизводить и усиливать. Смещение может проявляться в гендерной, расовой, возрастной или иной дискриминации, влияя на точность распознавания лиц, принятие решений о выдаче кредитов, рекомендации по приёму на работу или даже медицинские диагнозы.
Последствия смещения критически важны для этики AI и имеют серьёзные социальные и экономические последствия, подрывая доверие к технологиям и создавая несправедливые условия для определённых групп людей. Для минимизации смещения требуются тщательный анализ данных, использование разнообразных и сбалансированных наборов данных, а также применение специализированных алгоритмов для выявления и снижения предвзятости.