Стажировка в Гонконгском университете: как ИИ-агенты учатся моральным суждениям
Студентка 4 курса факультета социальных наук София Буянова этим летом прошла краткосрочную исследовательскую стажировку в Гонконгском университете (Hong Kong University - HKU).
Стажировка прошла на базе Лаборатории машинно-дополненного познания (Machine-Augmented Cognition Lab) при департаменте психологии Гонконгского университета под руководством профессора Цзянь Цяо Чжу, чьи исследования посвящены байесовским моделям человеческого познания и тому, как большие языковые модели соотносятся с когнитивными процессами человека. Приглашение стало продолжением сотрудничества, начатого еще во время работы Софии над исследованием в рамках курсовой работы в НИУ ВШЭ, посвященной анализу того, как в онлайн-дискуссиях формируются и распространяются моральные суждения на материале сообщества социальной сети Reddit, одного из крупнейших форумов для обсуждения бытовых этических конфликтов.
В Гонконге эта тема получила новое развитие и если в курсовой работе анализировались реальные дискуссии пользователей, то в рамках стажировки София совместно с сотрудниками лаборатории занялась вопросом, могут ли эту же логику морального рассуждения воспроизводить не люди, а группы взаимодействующих друг с другом ИИ-агентов на основе больших языковых моделей, и при каких условиях такая имитация становится близка поведению реальных участников дискуссий. Работа велась в два этапа: сначала был собран эталонный массив данных на основе размеченных постов сообщества, а затем на его основе запущена и протестирована пилотная симуляция группового обсуждения с участием ИИ-агентов, часть из которых была настроена на определенный моральный профиль согласно теории моральных оснований Хайдта. Результаты пилота показали, что при достаточной доле таких “настроенных” агентов структура их дискуссии близка структуре реальных обсуждений, хотя ИИ-агенты и склонны выносить более мягкие вердикты, чем живые пользователи. Работа над этим аспектом предполагается в дальнейшем развитии исследования.
Помимо основного проекта, София вместе с профессором Чжу и другими коллегами по лаборатории приступила к работе над новым исследовательским направлением, а именно проверкой при помощи ИИ-агентов теорий социального взаимодействия, в частности теории виртуального торга (virtual bargaining), с использованием того же массива данных в качестве эмпирической базы.
Стажировка также дала возможность познакомиться с научной жизнью университета в более широком контексте. София на регулярной основе посещала научные семинары департаментов психологии и социологии Гонконгского университета, что позволило увидеть, как устроены исследовательские практики и научные дискуссии в другой академической традиции, и завести полезные контакты с исследователями из смежных дисциплин.
По итогам стажировки результаты работы легли в основу исследования, которое в дальнейшем планируется представить на международной научной конференции.
