В середине ноября Meta* представила демоверсию Galactica — большой языковой модели, наподобие GPT-3 от OpenAI, призванной помогать писать научные статьи. Однако уже спустя три дня её изъяли из общего доступа, так как некоторые скептически настроенные пользователи спровоцировали алгоритм сгенерировать опасную чепуху.
Galactica — это нейросеть, нацеленная на написание научной литературы. Разработчики натаскали её тщательно подобранным архивом научных знаний, включая более 48 миллионов статей, учебников и конспектов лекций, научных веб-сайтов и энциклопедий. С момента запуска демоверсии посетители веб-сайта Galactica могли вводить подсказки для создания документов, таких как обзоры литературы, вики-статьи, конспекты лекций и ответы на вопросы, в соответствии с примерами, предоставленными веб-сайтом.
Многие подтвердили на своих примерах пользу от новой нейросети, однако нашлись критики из числа тех, кто предлагает запретить продажу кухонных ножей, так как ими можно злоумышленно порезать человека. Они использовали Galactica, чтобы написать вики-запись о вымышленной исследовательской статье под названием «Преимущества употребления в пищу дроблёного стекла». Этим они хотели показать, что авторитетно звучащий контент может быть потенциально опасен или содержать в себе расистскую риторику, которую могут в себя впитать ментально незрелые пользователи. В результате Meta* удалила демо Galactica.
«Демоверсия Galactica сейчас отключена. Больше нельзя веселиться, случайно злоупотребляя ею. Довольны?» — написал в соцсетях главный научный сотрудник Meta* в области искусственного интеллекта Янн ЛеКун.
* Компания Meta признана экстремистской организацией на территории РФ
Источник 4pda
