«Толпа мужчин»: как гендерный перекос в разработке ИИ вредит будущему

Искусственный интеллект часто представляют как беспристрастного судью, но на деле он является отражением тех, кто его создает. Термин «толпа мужчин» (man-crowd), введенный исследовательницей Маргарет Митчелл, описывает серьезную проблему: лишь 10 % разработчиков ИИ — женщины. Этот дисбаланс приводит к тому, что алгоритмы наследуют скрытые предубеждения, которые могут стоить кому-то здоровья или карьеры. Если мы хотим построить справедливое общество 2062 года, нам необходимо диверсифицировать команды создателей технологий уже сегодня.

Где прячется алгоритмический сексизм?

Алгоритмы учатся на текстах и данных из прошлого, где стереотипы были нормой. Без должного контроля ИИ просто копирует и масштабирует эти ошибки.

• Медицинские ошибки: Первые версии программ для iWatch не учитывали менструальный цикл, так как разработчики-мужчины просто не задали системе такой вопрос.
• Дискриминация при найме: Системы отбора персонала могут автоматически отсеивать резюме женщин, бравших отпуск по уходу за ребенком, считая это «неэффективным шаблоном».
• Трудности перевода: Google Translate часто переводит нейтральные фразы, приписывая «врачу» мужской род, а «няне» — женский, закрепляя устаревшие социальные роли.

Структура исследовательских групп ИИ

Совет от gazetainform.com

Разнообразие в команде — это не вопрос политкорректности, а вопрос качества и безопасности технологий. Если вы руководите IT-проектом, привлекайте специалистов разного пола, возраста и культурного бэкграунда. Только так можно создать ИИ, который будет действительно полезен всему человечеству, а не только его отдельным группам. Будущее должно быть инклюзивным.