Практически любой инструмент можно использовать как в конструктивных, так и в деструктивных целях, и продвинутый чат-бот на основе нейросетей ChatGPT не стал исключением. По данным Ars Technica, его уже используют для написания простых вирусов и вредоносного ПО, а также фишинговых писем. Специалисты по кибербезопасности из компании Check Point Research представили доклад, в котором рассказали о том, как участники хакерских форумов с минимальным или вовсе отсутствующим опытом программирования при помощи ChatGPT создают на Python скрипты, которые после незначительной доработки можно использовать в качестве шифровальщиков и программ-вымогателей.

Команда Check Point Research решила протестировать бота и попросила его составить фишинговое письмо. Программное обеспечение не подвело и сочинило вполне убедительный текст, сообщающий о блокировке аккаунта на одном из сервисов и предлагающий для получения подробностей открыть приложенный Excel-файл. С небольшой помощью экспертов ChatGPT смог создать и вредоносный макрос, вложенный в упомянутый файл. При помощи же системы генерации кода Codex исследователи смогли получить скрипты для сканирования портов и проверки на наличие «песочниц», а также другой софт, который может использоваться в незаконных целях.