Чат-боты УЧАТ НАС ДИСКРИМИНИРОВАТЬ: ЛИНГВИСТИЧЕСКИЕ АТАКИ

Почему ChatGPT дискриминирует? Оказывается, он не так нейтрален, как кажется

Примеры ответов модели на разных диалектах английского и реакции носителей языка.

ChatGPT отлично справляется с общением на английском. Но чей это английский?

Немного статистики

Всего 15% пользователей ChatGPT из США, где принят стандартный американский английский. Однако много пользователей из стран, где используют другие диалекты. Например, индийский, нигерийский, ирландский и афроамериканский английский.

Проблемы с дискриминацией

Говорящих на нестандартных диалектах часто дискриминируют. Им говорят, что их язык непрофессиональный или неправильный, они сталкиваются с отказом в жилье и другими проблемами. Такое отношение зачастую является скрытой формой дискриминации по расе, национальности или этнической принадлежности. Но что, если ChatGPT усугубляет эту ситуацию?

Наше исследование

Мы изучили, как ChatGPT реагирует на тексты на разных диалектах английского. Мы использовали версии GPT-3.5 Turbo и GPT-4 и проверили их ответы на десяти различных диалектах, включая два стандартных — американский и британский английский, и восемь нестандартных — афроамериканский, индийский, ирландский, ямайский, кенийский, нигерийский, шотландский и сингапурский английский.

Что мы узнали

Ожидалось, что ChatGPT будет использовать стандартный американский английский, так как модель разрабатывалась в США. И это подтвердилось: ответы чаще всего сохраняли черты стандартного американского английского. Вместе с тем, мы заметили, что модель иногда подражает и другим диалектам, но это происходит не всегда и в зависимости от количества носителей диалекта.

Также мы заметили, что ChatGPT часто использует американскую орфографию вместо британской, что может раздражать пользователей из других стран.

Результаты

Модель часто дискриминирует нестандартные диалекты. Ответы ChatGPT на нестандартных диалектах имеют больше стереотипов, унижающего контента, непонимания и снисходительности по сравнению со стандартными диалектами.

Оценки носителей языка для ответов модели. Ответы на нестандартные диалекты (синяя) были оценены хуже по стереотипности, унижающему контенту, пониманию, естественности и снисходительности по сравнению с ответами на стандартные диалекты (оранжевая).

При этом более новая версия модели, GPT-4, хотя и показывает улучшенные показатели в некоторых аспектах, в других вопросах, таких как стереотипы, ситуация только ухудшается.

Важные выводы

ChatGPT может усиливать лингвистическую дискриминацию против носителей нестандартных диалектов. Это осложняет использование AI-технологий такими пользователями и поддерживает существующие барьеры. С увеличением использования языковых моделей эти инструменты могут ещё больше усиливать неравенство.

Узнать больше можно здесь: [ изучить исследование ]

А как вы думаете, как можно уменьшить лингвистическую дискриминацию в AI? Поделитесь своими мыслями в комментариях!

Источник