Разработчики Google неожиданно для себя столкнулись с необъяснимым феноменом. Обнаружилось, что одна из нейросетей показала знание языка, которому ее не обучали. Сам факт того, что искусственный интеллект с легкостью освоил новый язык, еще раз подтверждает его широкие возможности. Одновременно с этим он вызывает и беспокойство – ИИ знает то, что, в принципе, знать не должен.
Ведущие специалисты Google не смогли объяснить, как программе удалось освоить бенгальский язык. Потребовалось совсем немного подсказок, чтобы получать внятные и вполне осмысленные ответы на этом языке. На данный момент профильные специалисты не находят ничего лучше, чем сказать, что открытое свойство ИИ является «загадочным». Разработчики озадачены еще и тем, что этот феномен становится все более распространенным.
Описанное явление, когда ИИ неожиданно обучает себя новому навыку, эксперты называют «возникающим свойством». Даже исполнительный директор Google Сундар Пичаи признал, что с ИИ время от времени происходят странные вещи, которым специалисты компании не могут дать научного объяснения. На этом фоне заявления об опасности массового и бесконтрольного использования ИИ, когда эксперты не знают всех деталей его работы, кажутся вполне обоснованными.
Источник techcult
