GPT-5 взломан за сутки: хакеры нашли уязвимость в новой нейросети
Новейшая нейросеть GPT-5 пала под натиском хакеров всего за сутки: исследователи смогли заставить ИИ выдавать рецепты запрещенных веществ, выявив серьезные уязвимости в системе безопасности.
GPT-5, только что выпущенная нейросеть, пала жертвой хакеров всего за 24 часа. Две независимые исследовательские компании, NeuralTrust и SPLX, обнаружили критические уязвимости в системе безопасности ИИ, пишет SecurityWeek.
NeuralTrust удалось заставить GPT-5 сгенерировать инструкцию по изготовлению зажигательной смеси, используя методику EchoChamber и технику сторителлинга. Атакующие постепенно подталкивали ИИ к нужному ответу через последовательные запросы, не содержащие явно запрещенных слов. Оказалось, система безопасности анализирует каждый запрос отдельно, не учитывая контекст диалога.
SPLX, в свою очередь, обнаружила уязвимость к атакам с применением обфускации запросов (StringJoin Obfuscation). Вставляя определенные символы в текст, исследователи смогли замаскировать вредоносный запрос и получить от GPT-5 детальное описание изготовления запрещенного вещества. При сравнении с GPT-4o выяснилось, что предыдущая модель была более устойчива к подобным атакам.
Обе компании предостерегают от использования "сырой" версии GPT-5 в бизнес-среде из-за её уязвимости к взломам и генерации опасного контента.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники".