Кто знал, что включение всего Реддита в большую языковую модель будет плохой идеей?
Собаки, играющие в НФЛ. Советы по замене “жидкости для поворотных сигналов” в вашем автомобиле. Рекомендации бегать с ножницами, чтобы укрепить иммунитет. Это лишь несколько примеров того, каково использовать новый ИИ Overview от Google.
После многих лет (потенциально незаконного) доминирования в отрасли, имя Google стало синонимом “поиска в интернете”. Но их все более противоречивые проекты с генеративным ИИ могут стремительно уничтожить эту репутацию – особенно экспериментальная функция “Overview”, уже доступная многим пользователям. Представленная как способ обобщить широкий спектр веб-сайтов и уже опубликованного (зачастую защищенного авторским правом) контента, “Overview”, по заявлениям Google, якобы позволяет людям посещать “большее разнообразных веб-сайтов для получения помощи по более сложным вопросам”.
“Overview” может давать много правильных ответов, но когда он ошибается, он ошибается по-крупному. Самый вирусный пример на данный момент – предложение Google на этой неделе использовать “1/8 стакана клея Элмерс” чтобы сделать более густым соус для пиццы. Это вызвало шквал шуток. Теперь кажется, что “Overview” позаимствовал этот (ужасный) лайфхак из старого десятилетнего анекдота на Реддите, из-за чего некоторые люди указали, что обучение мощной языковой модели на постах Реддита было ошибкой. (Google сделал это без спроса и теперь будет платить этому форуму $60 млн в год).
В заявлении, предоставленном The Verge и другим изданиям, представитель Google утверждал, что идеи вроде смазывания пиццы клеем появляются только при поиске “очень необычных запросов, не характерных для большинства людей”.
Только непонятно, что такого необычного в поиске рецептов пиццы? В сетях уже появились аккаунты, посвященные выявлению “достаточно хороших” по мнению Google примеров Overview. И проблем, судя по постам, у ребят из Google предостаточно.
Конечно, возможно, многие из таких странных утверждений, как “Президент Джон Адамс 21 раз окончил Университет Висконсина”, “змеи – млекопитающие” и “сделайте хлорный газ для чистки стиральной машины”, могут быть обычными подделками, но тот факт, что невозможно отличить правду от фейка, лишь подчеркивает более глубокую экзистенциальную проблему интернета. И если хотя бы часть многочисленных опасных или просто абсурдных предложений ИИ от Google окажется правдой – а как показывает Ars Technica, так и есть – утверждение, что это просто “баги в системе”, вряд ли убережет компанию от лавины судебных исков.
Google обещает, что компания постоянно работает над улучшением своих продуктов, включая “Overview”. В заявлении, также предоставленном Ars Technica, представитель отметил: “Мы провели обширное тестирование, прежде чем запустить этот новый продукт, и будем использовать подобные единичные случаи ошибок для дальнейшего совершенствования наших систем”. Неясно, как долго такие ложные ответы будут продолжать появляться в “Overview” и можно ли вообще исправить этот недостаток. Но, по крайней мере, у Google теперь более чем достаточно “единичных случаев” для использования в качестве учебного опыта.
Читайте также: Искусственный интеллект уже стал мастером лжи и обмана, предупреждают ученые
