Искусственный интеллект (ИИ) в науке имеет огромный потенциал для продвижения исследований, но он также сопряжен с рядом вызовов. В то время как некоторые видят ИИ как инструмент для создания содержательных сводок и выдвижения новых гипотез, существуют опасения по поводу этических вопросов, мошенничества и предвзятости, связанных с моделями ИИ.
Одной из наиболее актуальных проблем является нарушение академической этики. Некоторые журналы разрешают исследователям использовать языковые модели (ЯМ) для помощи в написании статей, однако не все открыто говорят об этом. Компьютерный ученый Гийом Кабанак обнаружил множество статей, содержащих фразы вроде «регенерировать ответ», что указывает на использование ЯМ без должного признания. Это вызывает вопросы о масштабах данной проблемы.
В 2022 году, когда доступ к ЯМ был ограничен, количество случаев нарушения научной этики, расследуемых Тейлором и Фрэнсисом, ведущим научным издателем, значительно выросло. Это свидетельствует о потенциальной корреляции между злоупотреблением ЯМ и академическими нарушениями. Необычные синонимы и фразы могут быть сигналом опасности, указывающим на возможное контент, созданный ИИ, маскирующийся под работу человека.
Даже честным исследователям приходится сталкиваться с проблемами при работе с данными, которые были загрязнены ИИ. Исследование, проведенное Робертом Уэстом и его командой, показало, что более трети ответов, полученных от удаленных работников на платформе «Механический турок», были сгенерированы с помощью чат-ботов. Это вызывает опасения о качестве и надежности исследований, когда ответы поступают от машин, а не от реальных людей.
Использование ИИ не ограничивается только текстом; изображения также могут быть искажены с помощью ИИ. Микробиолог Елизавета Бик обнаружила множество научных статей с идентичными изображениями, подозреваемыми в том, что они были искусственно созданы для поддержки определенных выводов. Обнаружение контента, созданного ИИ, будь то текст или изображения, остается вызовом. Водяные знаки, попытка определить контент, созданный машинами, оказались легко подделать.
Модели ИИ, используемые в научных открытиях, могут столкнуться с трудностями в следовании за быстро развивающимися областями. Поскольку большая часть данных для обучения этих моделей базируется на старой информации, им может быть сложно быть в курсе новейших исследований. Это может ограничить их эффективность и замедлить научные достижения.
По мере того как ИИ продолжает формировать научный ландшафт, крайне важно решить эти проблемы, чтобы обеспечить целостность и надежность исследований. Более строгие руководящие принципы для использования ИИ в академических публикациях, лучшие методы обнаружения машинного контента и постоянный контроль платформ сбора информации — все это существенные шаги к поддержанию научной строгости, которой общество доверяет.
Часто задаваемые вопросы
The source of the article is from the blog portaldoriograndense.com