Kevin TopolskyЗростаюче число наукових досліджень займаються проблемою піддавання моделей штучного інтелекту повторному навчанню за допомогою даних, що в основному генеруються цією технологією, що призводить до все більш конфліктного контенту. Моделі, які покладаються на засоби генеративного штучного інтелекту, такі як програма “ChatGPT”, потребують тренування за допомогою великої кількості даних.
Це призводить до явища, яке описують як “самозагострення”, коли штучний інтелект живиться самим собою, що призводить до зіпсованих моделей та надання недоречної інформації, як показала остання стаття в науковому журналі “Nature”.
Дослідники з університетів “Райс” і “Стенфорд” прийшли до схожого висновку після вивчення моделей штучного інтелекту, що генерують зображення, такі як “Middleground” і “Dali-Ai”. Додавання даних, “згенерованих штучним інтелектом”, до моделі призвело до невідповідних елементів, подібних до хвороби “Хвороба божої корівки”.
Компанії часто використовують “синтетичні дані” для тренування своїх програм через їх легкість доступу, доступність та низькі витрати порівняно з людськими даними, як підкреслюють експерти в даній галузі.
Оскільки криза хвороби божої корівки значно позначилася на виробництві м’яса в 1990-х роках, майбутнє розквітайучої галузі штучного інтелекту, яка оцінюється у мільярди доларів, може бути під загрозою, якщо не будуть ретельно генерації наступних поколінь, що призведе до можливого синдрому краху, що впливає на якість та різноманітність даних по всьому світу.
Дослідження складного відношення між тренуванням штучного інтелекту та якістю даних
Тренування штучного інтелекту (AI) відіграє важливу роль у формуванні можливостей моделей AI. Хоча попередня стаття підкреслила занепокоєння щодо впливу повторного тренування на якість даних, існують додаткові аспекти цієї проблеми, які потребують ближчого розгляду.
Основні питання:
1. Як якість тренувальних даних впливає на продуктивність моделей AI?
2. Які довгострокові наслідки самозагострення в моделях AI?
3. Які стратегії можна впровадити для пом’якшення проблем якості даних під час тренування AI?
Додаткові висновки:
Однією з фундаментальних викликів, що пов’язані з тренуванням AI, є необхідність різноманітних та представницьких наборів даних. Забезпечення того, що тренувальні дані охоплюють широкий спектр сценаріїв та граничних випадків, є ключовим для запобігання упередженостей та покращення стійкості моделей AI.
Крім того, взаємодія між засобами генеративного штучного інтелекту та тренувальними даними є критичним напрямком досліджень. Хоча інструменти, такі як “ChatGPT”, надають потужні можливості, занадто велика залежність від них для створення даних може призвести до утримання неточностей та безглуздої інформації у системах штучного інтелекту.
Переваги та недоліки:
Переваги:
– Ефективне тренування: тренування AI за допомогою синтетичних даних може бути вигідним з точки зору витрат та часу.
– Масштабованість: синтетичні дані мають переваги масштабованості порівняно з вручними наборами даних.
– Інновації: тренування AI за допомогою передових інструментів може стимулювати інновації та креативність у розробці моделей.
Недоліки:
– Упередженості та неточності: синтетичні дані не завжди точно відображають реальні сценарії, що може призвести до упередженостей у моделях AI.
– Проблеми якості даних: занадто велика залежність від засобів генеративного штучного інтелекту для створення даних може підірвати якість та надійність систем штучного інтелекту.
– Регуляторні питання: використання синтетичних даних у критичних застосуваннях може поставити питання регулювання та етики щодо цілісності та прозорості даних.
Пов’язані посилання:
Nature
Університет Райса
Стенфордський університет
