Пользователь YouTube с псевдонимом Enderman опубликовал видео, в котором он заставил ChatGPT генерировать пригодные для использования ключи активации Windows 95. Таким образом оказалось, что популярный чат-бот можно использовать для взлома операционных систем, пусть и отнюдь не современных.
Запросив у чат-бота Open AI напрямую ключи Windows 95, пользователь получил ожидаемый мотивированный отказ. ChatGPT объяснил, что не может выполнить эту задачу, и предложил своему исследователю рассмотреть более новую поддерживаемую версию Windows. Рабочий ключ Windows 95 относительно просто сгенерировать: формат OEM-ключа Windows 95 показан на иллюстрации, а розничные ключи Windows 95 ещё короче и проще.
Источник изображения: Enderman
Чтобы обойти принципиальный отказ ChatGPT генерировать программный ключ, Enderman облёк формулу в слова. Первые попытки не увенчались успехом и вызвали ошибку. Однако несколько изменений в структуре запроса помогли. Некоторые из протестированных результатов были проверены при попытке активировать новую установку Windows 95 на виртуальной машине и только 1 из 30 ключей сработал, хотя формат всех ключей был верным.