Способность нейросетей анализировать личность человека остается одной из самых дискуссионных тем в современной науке. Недавний эксперимент, проведенный совместными усилиями (СПбГУ, AIRI и Институтом психологии РАН), показал, что возможности ИИ в этой сфере имеют как впечатляющие успехи, так и серьезные ограничения.
В ходе исследования ученые проанализировали данные 645 добровольцев, которые прошли серию психологических тестов и интервью. Получив массив информации по 38 различным параметрам, исследователи поставили перед пятью популярными языковыми моделями сложную задачу: на основе расшифровок бесед попытаться спрогнозировать психологический профиль каждого участника. Итоговые выводы нейросетей затем сопоставили с реальными результатами психометрических тестов.
Результаты оказались неоднозначными. Оказалось, что искусственный интеллект весьма успешно распознает те черты, которые напрямую транслируются через вербальные конструкции — например, уровень религиозности или склонность к экстраверсии. Однако «чтение между строк» дается алгоритмам гораздо труднее. Модели не смогли точно оценить такие глубокие и скрытые аспекты, как уровень тревожности, отношение к справедливости или гедонистические установки.
Более того, ученые обнаружили у нейросетей своего рода «эффект розовых очков». При анализе человеческой личности ИИ склонен к идеализации: алгоритмы систематически завышали показатели честности и доброты, одновременно недооценивая проявления психопатии, макиавеллизма и нарциссизма. При этом исследователи отметили важную техническую деталь: расширение объема анализируемого текста не гарантирует точности. Иногда короткий, но содержательный фрагмент беседы позволял модели сделать более верный прогноз, чем огромный массив данных.
Авторы работы предостерегают от излишнего оптимизма, заявляя, что подобные прогнозы нельзя считать окончательным портретом личности или инструментом для предсказания поведения. Любые выводы ИИ в данной области требуют тщательной калибровки и дополнительной верификации.
Параллельно с вопросами точности анализа, в мировом сообществе нарастает тревога по поводу безопасности самих технологий. Глава OpenAI Сэм Альтман в беседе с журналом Fortune признал вероятность появления моделей, которые будет невозможно контролировать. Он подчеркнул, что компания готова временно ставить на паузу обучение новых систем, чтобы сосредоточиться на вопросах их согласования с человеческими ценностями, и призвал к немедленному созданию международных механизмов координации. Опасность ситуации подтверждает и Пол Кристиано, член совета директоров фонда OpenAI. По его мнению, в самом мрачном сценарии потеря контроля над сверхмощным интеллектом может обернуться катастрофой для всего человечества.