Уникальные Виртуальные Личности для Языковых Моделей через Коллекцию Историй

Виртуальные персоны для языковых моделей с помощью антологии историй

Мы представляем Антологию, метод для создания виртуальных персон в языковых моделях с помощью натуралистичных жизненных историй.

Что такое языковые модели?

Вы когда-нибудь задумывались, какие возможности скрываются в языковых моделях, обученных на огромных текстовых корпусах, созданных миллионами людей?

Что такое виртуальные персоны?

В исследовании «“Языковые модели как модели агентов”» было доказано, что современные языковые модели могут моделировать человеческие ответы. Это открывает интересные возможности для использования таких моделей в социальных науках и исследованиях пользователей.

В нашей работе мы представляем метод под названием Антология, который позволяет языковым моделям создавать виртуальных персон, основываясь на подробных жизненных историях.

Наш подход: Антология

Использование жизненных историй

Ранние методы создания виртуальных персон использовали только демографические данные, такие как возраст и образование. Это приводило к стереотипным и общим ответам. Антология использует подробные жизненные истории, чтобы сделать ответы более реалистичными и уникальными.

Мы генерируем большое количество таких историй с помощью языковых моделей, запрашивая их открытыми вопросами, такими как «Расскажите о себе». Затем мы сопоставляем эти виртуальные персоны с реальными людьми из опросов.

Результаты: более точные ответы

Мы проверили нашу методику на трех опросах Pew Research Center и сравнили ее с другими методами. Антология показала лучшие результаты по всем метрикам, включая:

• Среднее расстояние Вассерштейна (WD) между распределениями ответов
• Норму Фробениуса (Fro.) между матрицами корреляций
• Коэффициент Кронбаха альфа как дополнительную меру внутренней согласованности

Результаты аппроксимации человеческих ответов для опросов Pew Research Center. Жирным шрифтом и подчеркиванием отмечены значения, наиболее близкие к человеческим.

Заключение

Антология открывает новые возможности для создания виртуальных персон в языковых моделях, что может изменить подход к исследованиям пользователей и опросам общественного мнения.

Однако, как и в любом использовании языковых моделей, важно учитывать риски смещения и нарушения конфиденциальности. Результаты нужно интерпретировать с осторожностью.

В будущем наш подход может быть расширен за счет более разнообразных жизненных историй и свободных форм ответов. Также интересно будет моделировать долгосрочные эффекты и изменения во времени.

Хотите узнать больше? Полный текст статьи

Если у вас есть идеи или вопросы, пишите нам! Мы открыты для сотрудничества и обсуждений.

@article{moon2024virtual,
title={Virtual personas for language models via an anthology of backstories},
author={Moon, Suhong and Abdulhai, Marwa and Kang, Minwoo and Suh, Joseph and Soedarmadji, Widyadewi and Behar, Eran Kohen and Chan, David M},
journal={arXiv preprint arXiv:2407.06576},
year={2024}
}

Напишите нам свои мысли и предложения в комментариях!

Источник