Американские ученые пришли к выводу, что большие языковые модели искусственного интеллекта, подвергшиеся влиянию низкокачественного контента из социальных сетей, демонстрируют признаки деградации, схожие с влиянием соцсетей на человека. Участник исследования Цзюньюань Хун отметил, что в условиях стремительного роста объемов информации, часто ориентированной на привлечение кликов, возникает вопрос, как это влияет на обучение ИИ.

В ходе эксперимента исследователи использовали открытые модели Meta Llama и Alibaba Qwen, обучая их на материалах, насыщенных «вовлекающим» контентом и рекламными сообщениями. Результаты тестирования показали, что такие модели теряют умственные способности, ухудшают память и проявляют признаки психопатии. Эти выводы сопоставимы с аналогичными исследованиями, проведенными среди людей.

Ученые подчеркивают, что данный проект важен для разработчиков ИИ, так как использование контента из соцсетей для обучения моделей может показаться привлекательным, но на самом деле ведет к ухудшению их способности к рассуждению и этическим оценкам. Более того, модели, начально обученные на низкокачественных материалах, тяжело поддаются переобучению. Интересно, что значительная часть контента, созданного для вовлечения пользователей в соцсетях, уже генерируется ИИ.