Искусственный интеллект (ИИ) проник в академическую среду способом, который ранее был неизвестен. Многочисленные исследовательские статьи, опубликованные в различных академических журналах, теперь подозреваются в том, что они были написаны хотя бы частично ИИ, согласно недавнему отчету.
Расследование, проведенное 404 Media, сайтом журналистики в области технологий, пролило свет на тревожное присутствие статей, созданных ИИ, в академических изданиях. Это явление стало поводом для более широкого рассмотрения влияния инструментов, работающих на основе ИИ, на общий ландшафт академии в целом.
Отчет обращает внимание на результаты поиска, проведенного в Google Scholar, широко используемой базе данных журналов. Для поиска использовались конкретные фразы, часто используемые ИИ, как «На момент последнего обновления моих знаний» и «У меня нет доступа к данным в режиме реального времени». Удивительно, что в результатах появилось более 100 исследований, указывающих на возможное участие ИИ в их создании.
Следует отметить, что такие статьи, созданные ИИ, не ограничиваются низкокачественными академическими журналами. Некоторые авторитетные журналы также неосознанно опубликовали подобные работы, вызывая вопросы о контроле качества, стандартах приема и распространенности практик «плати-чтобы-опубликовали» в академии.
Приведенный в отчете пример показывает нахальство одной из таких статей, созданных ИИ. Подача на название статью «Трехмерная пористая сетчатая структура металлоорганического каркаса на основе меди — арамидный целлюлозный сепаратор усиливает электрохимическую производительность литиевых металлических анодов» в уважаемом журнале по химии Surfaces and Interfaces привлекла внимание исследователя Bellingcat, Колины Кольтай. Введение в статью содержало фразу «Конечно, вот возможное введение по вашей теме», которая сильно напоминает вежливый ответ, сгенерированный алгоритмически ИИ.
Дополнительные исследования, проведенные Futurism, раскрыли аналогичные случаи причастия ИИ к академическому письму. В то время как некоторые работы использовали бота OpenAI в качестве «соавтора» или демонстрировали ограничения ИИ в качестве инструмента исследований, было много случаев, когда ученые, казалось, лениво полагались на ИИ для генерации текста.
Существование статей, созданных ИИ, особенно в авторитетных журналах, указывает на более широкое проникновение ИИ в академию, чем ранее предполагалось. Это вызывает вопросы о честности этих уважаемых учреждений и требует более строгих стандартов, чтобы предотвратить дальнейшее затуманивание интеллектуальной добропорядочности.
Проведенный журналом Nature в 2023 году опрос дополнительно подчеркивает распространенность инструментов ИИ в академическом написании рукописей. Из 1 600 респондентов примерно 30 процентов признались, что используют инструменты ИИ для помощи в написании.
Часто задаваемые вопросы (FAQ)
- Как можно идентифицировать статьи, созданные ИИ?
Идентификация статей, созданных ИИ, может быть сложной задачей. Некоторые фразы или языковые образцы могут свидетельствовать об участии ИИ, в то время как более тонкие использования технологии ИИ могут быть труднее обнаружимы. Модели обнаружения, используемые для идентификации текста, созданного ИИ, оказались неадекватными, что подчеркивает необходимость улучшения механизмов борьбы с этой проблемой. - Какое влияние оказывает присутствие статей, созданных ИИ, на академическую среду?
Присутствие статей, созданных ИИ, вызывает опасения относительно добропорядочности академических учреждений. Это подчеркивает существующие проблемы, связанные с контролем качества, стандартами приема и возможными практиками «плати-чтобы-опубликовали» в академии. Требуются более строгие стандарты и улучшенные механизмы для обнаружения созданных ИИ содержания для поддержания доверия к академическому издательству. - На сколько распространено использование инструментов ИИ в академическом написании?
Опрос, проведенный журналом Nature в 2023 году, показал, что примерно 30 процентов ученых признались, что используют инструменты ИИ для помощи в написании рукописей. Это указывает на значительное распространение инструментов ИИ в академическом написании и дополнительно подчеркивает необходимость разработки комплексных руководящих принципов и стандартов в данной области.
Источники:
— Nature — Опрос ученых
The source of the article is from the blog coletivometranca.com.br