Генеративные нейросети вроде ChatGPT избавили ленивых авторов от проблемы дословного плагиата — алгоритм без труда перепишет любой текст «своими словами», играючи обходя стандартные антиплагиат-системы. Но на смену банальному копипасту пришла куда более сложная угроза: кража чужих идей без указания авторства. Исследователи бьют тревогу и предлагают официально приравнять бездумное использование ИИ-генераций к академическому мошенничеству.
В статье, опубликованной в журнале Nature Machine Intelligence, биоэтики Дэвид Резник и Мохаммад Хоссейни отмечают, что текущие правила научной этики совершенно не готовы к эпохе алгоритмов.
Поддержать нас на Boosty
Поддержать нас на Дзен
Исторически плагиат делится на два типа: кража текста (когда куски чужой работы копируются дословно) и кража идей. Поскольку нейросети блестяще справляются с перефразированием, дословный плагиат постепенно перестает быть главной проблемой. Однако вторая форма интеллектуального воровства расцвела с новой силой.
Алгоритмы обучаются на гигантских массивах данных. Генерируя ответ, ИИ синтезирует концепции, гипотезы и выводы из тысяч источников, но почти никогда не указывает, кому изначально принадлежала та или иная мысль. Если исследователь, студент или журналист берет сгенерированный текст и вставляет в свою работу, он фактически совершает интеллектуальную кражу, лишая настоящих авторов заслуженного признания. Это не только искажает летопись научных открытий, но и разрушает базовое доверие внутри сообщества.
«Нет ничего плохого в том, чтобы использовать искусственный интеллект для улучшения читаемости текста или в качестве «спарринг-партнера» для генерации идей. Это даже полезно, — отмечает соавтор исследования Мохаммад Хоссейни. — Но мы знаем, что эти инструменты регулярно ошибаются в фактах. Ручная проверка того, что выдала нейросеть, остается единственным простым и надежным способом убедиться в достоверности контента».
Авторы работы предлагают радикальное решение: официально переписать определение «нарушения научной этики» (research misconduct). Традиционно в этот список входят фабрикация данных, их фальсификация и классический плагиат. Хоссейни и Резник требуют прописать, что нарушение этики может быть совершено при недобросовестном использовании генеративного ИИ, а вся ответственность за это лежит исключительно на человеке.
«Если пользователь не проводит самостоятельное исследование темы и не проверяет тщательно выводы алгоритма, он может даже не подозревать, что машина подсунула ему чужие идеи, — объясняет Хоссейни. — Обновление правил должно дать четкий сигнал: люди несут личную ответственность за предотвращение плагиата. Надеемся, это заставит применять технологии более осмотрительно».
Другими словами, оправдание «я не знал, нейросеть сама так написала» больше не должно приниматься комиссиями по этике.
Наказание за научное мошенничество всегда было суровым. Оно может включать отзыв опубликованных статей, закрытие доступа к грантам на будущие исследования, увольнение и даже публичное аннулирование ученых степеней.
При этом исследователи подчеркивают, что проблема давно вышла за пределы университетских кампусов. Плагиат идей при помощи ИИ — это этическая и юридическая мина замедленного действия для специалистов в области права, медицины и бизнеса.
Складывается весьма интересная ситуация: инструменты, которые создавались, чтобы максимально ускорить и упростить работу с текстом, теперь требуют от нас еще более въедливого и рутинного фактчекинга. Делегировать искусственному интеллекту написание черновика можно, но переложить на него юридическую и репутационную ответственность за кражу чужих мыслей — уже не выйдет.
Поддержать нас на Boosty
Поддержать нас на Дзен
Читайте также: Почему нейросети генерируют текст, но совершенно не умеют писать
Комментировать можно ниже в разделе “Добавить комментарий”.