Kevin TopolskyВсе повече научни изследвания се занимават с проблема на подлагането на модели на изкуствен интелект на повторно обучение с използването на данни, генерирани главно от тази технология, което води до все по-конфликтно съдържание. Моделите, които се базират на генеративни изкуствени инструменти като програмата „ChatGPT“, трябва да бъдат обучени с масивни количества данни.
Това води до явление, описано като „самоканнибализиране“, при което изкуственият интелект се храни себе си, което предизвиква срутване на моделите и инструментите да произвеждат абсурдна информация, както разкри една скорошна статия в научното списание „Nature“.
Изследователи от университетите „Райс“ и „Стенфорд“ стигнаха до сходен заключение след като изучаваха модели на ИИ, генерирани като „Middleground“ и „Dali-Ai“. Добавянето на данни, „генерирани от изкуствен интелект“, към модела доведе до несъответстващи елементи, подобни на болестта „Луда крава“.
Компаниите често използват „синтетични данни“ за обучение на техните програми поради лесния им достъп, наличността и ниските разходи спрямо човешките създадени данни, както подчертават експертите в областта.
Тъй като кризата с Лудата крава сериозно засегна производството на месо през 1990-те години, бъдещето на процъфтяващата област на изкуствения интелект, оценена на милиарди долари, може да бъде застрашено, ако не бъдат контролирани поколения надолу, което може да доведе до потенциален синдром на срутване, засягащ качеството и разнообразието на данните по целия свят.
Изследване на сложната връзка между обучението на изкуствения интелект и качеството на данните
Обучението на изкуствения интелект (ИИ) играе ключова роля при формирането на възможностите на моделите на ИИ. Докато предходната статия подчертава загриженостите относно влиянието на повторното обучение върху качеството на данните, съществуват допълнителни аспекти на този проблем, които заслужават по-близко проучване.
Ключови въпроси:
1. Как влияе качеството на обучаващите данни на представянето на моделите на ИИ?
2. Какви са дългосрочните последици от самоканнибализацията в моделите на ИИ?
3. Какви стратегии могат да бъдат приложени за намаляване на проблемите с качеството на данните по време на обучението на ИИ?
Допълнителни виждания:
Едно от основните предизвикателства, свързани с обучението на ИИ, е необходимостта от разнообразни и представителни данни. Осигуряването на обучаващи данни, които обхващат широк спектър от сценарии и крайни случаи, е от съществено значение за предотвратяване на предразсъдъци и подобряване на устойчивостта на моделите на ИИ.
Освен това взаимодействието между генеративните инструменти на ИИ и обучаващите данни е критично изследвана област. Въпреки че инструменти като „ChatGPT“ предлагат мощни възможности, прекомерната им употреба за генериране на данни може да доведе до утвърждаване на неточности и абсурдна информация в рамките на ИИ системите.
Предимства и недостатъци:
Предимства:
– Ефективно обучение: Обучението на ИИ с използване на синтетични данни може да бъде икономически ефективно и времеспестяващо.
– Скалируемост: Синтетичните данни предлагат предимства в скалируемостта спрямо ръчно съставените набори от данни.
– Иновация: Обучението на ИИ с използване на напреднали инструменти може да стимулира иновациите и креативността в развитието на модели.
Недостатъци:
– Предразсъдъци и неточности: Синтетичните данни не винаги могат точно да представят реални сценарии, което води до предразсъдъци в моделите на ИИ.
– Проблеми с качеството на данните: Прекомерната употреба на генеративни инструменти за създаване на данни може да подкопае качеството и надеждността на системите на ИИ.
– Регулаторни опасения: Използването на синтетични данни в критични приложения може да предизвика регулаторни и етични дилеми относно цялостта на данните и прозрачността.
Свързани връзки:
Nature
Университет Райс
Университет Стенфорд
