Социолингвистический подход: Исследователи из Бирмингемского университета выступают за интеграцию социолингвистики в разработку ИИ для понимания использования языка в различных социальных контекстах. Этот подход направлен на то, чтобы сделать ИИ более инклюзивным, распознавая диалекты и различные варианты использования языка в социальных группах.
Продуктивное развитие генеративных моделей искусственного интеллекта (ИИ) изменило взаимодействие с технологиями, привнеся сложные социальные вызовы наряду с преимуществами. Недавние обсуждения среди исследователей ИИ выявили серьезные недостатки в языковых базах данных, используемых для обучения этих моделей, что привело к растущим опасениям по поводу дезинформации, социальных предвзятостей и усиления вредных стереотипов. Реальность такова, что такие модели, как ChatGPT, могут сохранять укоренившиеся предвзятости, связанные с расой и полом, что может привести к потенциально разрушительным последствиям для исторически маргинализированных групп.
В центре этих опасений находятся качество и состав наборов данных, из которых обучаются языковые модели ИИ. Традиционные подходы к обучению в значительной степени игнорировали богатое разнообразие языков, предпочитая обширные, но часто узкие определения языкового использования. Эта чрезмерная зависимость от ограниченного диапазона языковых данных может привести к тому, что модели будут принимать предвзятые взгляды, что, в свою очередь, приведет к воспроизведению и усилению существующих социальных предвзятостей. В свете этих проблем исследователи из Бирмингемского университета начали исследование, целью которого является интеграция социолингвистических принципов в разработку и оценку крупных языковых моделей.
Социолингвистика, изучающая, как язык варьируется и изменяется в социальных контекстах, предоставляет надежную основу для понимания языковой динамики и ее связи с обществом. Используя социолингвистические идеи, исследователи стремятся откалибровать поведение ИИ таким образом, чтобы оно признавалось и уважало разнообразные способы общения людей. Этот важный сдвиг может улучшить понимание ИИ диалектов, регистров и языкового использования в различных социальных группах, тем самым повышая их актуальность и эффективность.
Исследователи утверждают, что лучшее соотношение языковой репрезентации приведет к более высокой производительности в различных задачах, начиная от понимания языка и заканчивая генерацией контента. Например, ИИ-системы, обученные на наборах данных, которые охватывают более широкий спектр социальных контекстов, менее вероятно, что они попадут в ловушки расовых или гендерных стереотипов. Принятие социолингвистических принципов позволяет этим моделям развиваться таким образом, чтобы они более аутентично резонировали с разнообразными языковыми ландшафтами, с которыми они сталкиваются.
Команда опубликовала свои выводы в журнале Frontiers in AI, изложив эти тезисы, сосредоточенные на систематическом сборе и анализе данных, отражающих языковое разнообразие. Ведущий автор профессор Джек Грив подчеркивает, что простое увеличение объема данных недостаточно; вместо этого качество и репрезентативная целостность данных имеют первостепенное значение. Этот подход признает, что обогащение данных за счет социолингвистических перспектив может решить корни предвзятостей, создавая ИИ, который служит человечеству более справедливо.
Обучение моделей ИИ на сознательно подобранных языковых наборах данных позволяет учитывать социальное разнообразие, тем самым противодействуя предвзятостям, возникающим из недостаточно представленных голосов. Это введение социолингвистического разнообразия способствует разработке систем ИИ, которые эффективно отражают общество, в котором они функционируют. Более того, исследователи утверждают, что тонкие подходы к выбору данных также должны учитывать исторические контексты использования языка, чтобы способствовать более полному пониманию современного дискурса.
Кроме того, по мере усовершенствования этих моделей становится важным учитывать структурную динамику социальных отношений политики и власти. Это исследование призывает - и это широкая тенденция в академическом сообществе - к междисциплинарному сотрудничеству между инженерами ИИ и социолингвистами. Партнерство такого рода может гарантировать, что разрабатываемые технологии будут не только технически компетентными, но и общественно полезными.
Выводы этого исследования выходят за рамки непосредственной области разработки ИИ, побуждая законодателей учитывать, как технологии пересекаются с социальными ценностями и этикой. Поскольку генеративный ИИ продолжает проникать в различные аспекты повседневной жизни, необходимость в строгом контроле и этических рамках становится все более актуальной. Искусство создания алгоритмов, которые уважают социальные нюансы, имеет первостепенное значение для сохранения демократических ценностей в эпоху цифрового распространения.
С учетом такой сложности исследователи выступают за внедрение идей, полученных из гуманитарных и социальных наук, подчеркивая, что технологии и общество неразрывно связаны. Понимая культурные реалии в моделях ИИ, разработчики могут как использовать огромный потенциал этих инструментов, так и стремиться к будущему, основанному на справедливости и эмпатии.