В рамках своей программы по вознаграждению за уязвимости Google объявила о готовности выплатить до 20 000 долларов за успешный взлом своего чат-бота, работающего на базе искусственного интеллекта. Участникам предложено обнаружить способы заставить бота выполнять действия, которые ему не предназначены, такие как выдача ложных ответов или игнорирование установленных ограничений, введенных разработчиками.

Созданная программа сосредоточена на выявлении наиболее критичных ошибок, способных нанести вред, например, взломе аккаунтов пользователей или компрометации самого чат-бота. Уязвимости, которые могут показаться незначительными, могут иметь серьезные последствия для репутации и стабильности Gemini. Важно отметить, что последствия должны быть гораздо более серьезными, чем просто негативное восприятие системы.

Google активно привлекает специалистов для поиска таких уязвимостей, однако, как отмечают эксперты, важно не допустить, чтобы процесс расследования обернулся против самих исследователей.