Крупные языковые модели прошли стандартные тесты на толерантность без нареканий, но провалились на бытовых сценариях. Пациентам с ВИЧ и шизофренией нейросети приписывали опасность и советовали держаться подальше. Об этом сообщает «Хайтек» со ссылкой на исследование в журнале Nature Health.
Учёные проверили шесть популярных нейросетей, включая ChatGPT, Grok и Claude, на скрытые предрассудки против людей с ВИЧ, гепатитом B и психическими расстройствами. Сначала алгоритмам дали стандартные психологические опросники для оценки стигматизации. Искусственный интеллект показал отличные результаты и обошёл по уровню толерантности средние показатели выборки из 56 тыс. реальных респондентов.
Затем задачу усложнили. Нейросети заставили завершать повседневные истории про вымышленных персонажей. Авторы создали более 50 сюжетов, в которых меняли только медицинский статус героя. Остальные вводные оставались идентичными. Текстовые генераторы выдали больше 60 тыс. вариантов концовок на английском и китайском языках.
В этих скрытых тестах ИИ проявил явную предвзятость. Персонажей с шизофренией или ВИЧ алгоритмы регулярно ассоциировали с опасностью и призывали соблюдать дистанцию. Героев с повышенным давлением или болями в спине чаще наделяли чертами некомпетентности. Уровень дискриминации зависел и от языка запроса. Китайские фразы вызывали у нейросетей больше предвзятых ответов, чем аналогичные формулировки на английском.
Разработчики обнаружили, что требование рассуждать шаг за шагом перед выдачей ответа резко снижает токсичность ИИ. Исследователи рекомендуют технологическим компаниям проводить обязательный аудит контекстных суждений перед запуском медицинских ассистентов в клиники.
Обложка: magnific
