Технологія штучного інтелекту в науці має величезний потенціал для просування досліджень, але водночас вона супроводжується своєю порцією викликів. Хтось уявляє собі штучний інтелект як інструмент для генерації узагальнених дослідницьких оглядів та підтримки нових гіпотез, але існують побоювання щодо етичних питань, шахрайства та упередженості, пов’язаних із моделями штучного інтелекту.
Однією з найбільш актуальних проблем є академічні порушення дисципліни. Поки деякі видавництва дозволяють дослідникам використовувати мовні моделі (LLMs) для допомоги у написанні статей, не усі вчені є відкритими в цьому питанні. Гійом Кабанак, інформатик, виявив численні наукові роботи з фразами типу “відновити відповідь”, що свідчить про використання LLMs без належного визнання. Це породжує питання про масштаб проблеми.
У 2022 році, коли доступ до LLMs було обмежено, кількість випадків порушення наукової чесності, розслідуваних компанією Taylor and Francis, одним з великих наукових видавців, значно зросла. Це свідчить про можливу взаємозв’язок між недопустимим використанням LLMs та академічним протиправним вчинком. Незвичайні синоніми та фрази можуть бути сигналом тривожності, що вказує на можливий зміст, створений за допомогою штучного інтелекту, прихований під виглядом робіт, створених людьми.
Навіть чесні дослідники стикаються з труднощами при роботі з даними, які були забруднені за допомогою штучного інтелекту. Дослідження, проведене Робертом Вестом та його командою, показало, що понад третина відповідей, отриманих від віддалених працівників на платформі Mechanical Turk, практично створені за допомогою чат-ботів. Це породжує питання про якість та надійність досліджень, коли відповіді надходять від машин, а не від реальних осіб.
Не лише текст можна маніпулювати; зображення також можна підробити за допомогою штучного інтелекту. Мікробіолог Елізабет Бік виявила численні наукові роботи з ідентичними зображеннями, які підозрюються у штучному створенні для підтримки конкретних висновків. Виявлення контенту, створеного за допомогою штучного інтелекту, незалежно від тексту або зображень, залишається викликом. Водяні знаки, спроба ідентифікувати створене машинами, досить прості для підробки.
Моделі штучного інтелекту, що використовуються у науковому відкритті, можуть стикатися з труднощами у підтримці стрімко розвиваючихся галузей. Оскільки більшість тренувальних даних для цих моделей базується на старій інформації, їм може бути важко залишатися на актуальному рівні новітніх досліджень. Це може обмежити їх ефективність та заважати науковому прогресу.
Посилюючи вплив наукового ландшафту, штучний інтелект привертає увагу до проблем, які потрібно вирішувати для гарантування цілісності та надійності досліджень. Суворі керівні принципи для використання штучного інтелекту в наукових публікаціях, кращі методи виявлення контенту, створеного машинами, та постійні перевірки платформ для краудсорсингу – це всі важливі кроки на шляху до збереження наукового ригору, на якому ґрунтується суспільство.
ЧАП
Чи може штучний інтелект бути використаний неетично у науковому дослідженні?
Так, існують випадки неетичного використання штучного інтелекту в науковому дослідженні. Сюди входять академічні порушення, шахрайство та використання змісту, генерованого штучним інтелектом, без належного визнання. Для вирішення цих питань потрібні суворі принципи та прозорість.
Як можна визначити вміст, створений штучним інтелектом?
Нині не існує відмінного метода для визначення контенту, створеного машинами, будь то текст чи зображення. Дослідники досліджують різні підходи, такі як водяні знаки, але їх можна легко підробити. Розробка більш складених методів виявлення є викликом для науковців.
Які виклики стикаються моделі штучного інтелекту в науковому відкритті?
Одним з викликів є залежність від тренувальних даних, які можуть застаріти в швидкорозвиваючихся галузях. Це може обмежити здатність моделей штучного інтелекту долучатись до новітніх досліджень. Баланс між перевагами штучного інтелекту та потребою у актуальній інформації є важливим для наукового прогресу.
The source of the article is from the blog mgz.com.tw