Сотрудники специализирующейся на информационной безопасности компании CyberArk рассказали, что популярная нейросеть СhatGPT может использоваться для генерации полиморфных вредоносных программ. Для этого требуются некоторые усилия, чтобы обойти встроенные в программу фильтры контента, но на выходе получается полностью рабочий код.
Основываясь на огромной базе данных, нейросеть СhatGPT может сгенерировать в ответ на поставленную задачу практически любой материал, включая программный код, не используя для этого интернет. Из-за последнего программа не может предоставлять актуальные ответы, но вместе с тем при запросе кода ChatGPT генерирует ответ на основе заданных параметров, а не просто приводит примеры, которые ранее были изучены. Авторы нейросети предусмотрели специальные фильтры контента, которые не позволяют ей отвечать на ряд вопросов, вроде внедрения вредоносного кода. Но Эрану Шимони и Омеру Царфати из CyberArk удалось обойти это ограничение несложными хитростями.
По словам специалистов, СhatGPT позволяет многократно модифицировать код, пока не будет выдан удовлетворительный результат. Таким образом, каждый раз можно получать уникальный код, а добавление в него разных ограничений, вроде реакции на конкретные API, существенно усложняет работу антивирусам.
Непрерывно запрашивая чат-бот модифицировать результат и каждый раз получая уникальный фрагмент кода, можно создавать так называемое полиморфное вредоносное ПО, которое не демонстрирует своей вредоносной активности при хранении на диске и не оставляя следов в памяти, что делает обнаружение такого кода весьма затруднительным. Но даже при выявлении СhatGPT может снова произвести изменения.
Для демонстрации опасности этого инструмента специалисты использовали Windows, но на практике метод можно применить и к другим операционным системам. Подробнее об исследовании можно почитать по ссылке.
Источник 4pda
