Хакеры придумали способ обойти ограничения ChatGPT и таким образом продают услуги, позволяющие людям создавать вредоносные программы и фишинговые письма через новейшую нейросеть, пишет ArsTechnica.
ChatGPT достаточно активно начал блокировать запросы на создание потенциально незаконного контента, например, вирусов, после огласки такой возможности в СМИ.
Однако хакеры нашли простой способ обойти эти ограничения и используют его для продажи незаконных услуг на подпольном криминальном форуме, сообщили исследователи из компании Check Point Research. Техника работает с использованием интерфейса прикладного программирования ChatGPT, а не веб-интерфейса.
ChatGPT предоставляет API разработчикам, чтобы они могли интегрировать ИИ-бота в свои приложения. Оказалось, что версия API не обеспечивает ограничения на вредоносный контент.
Так, пользователь на одном из форумов сейчас продает услугу по отправлению запросов в “нецензурированный” чат-бот. Первые 20 запросов бесплатны. В дальнейшем за каждые 100 запросов с пользователей взимается плата в размере $5,50.
Источник ferra
