Az AI technológiák folyamatos fejlesztése közben a technológiai vállalatok jelentős akadályokkal szembesülnek: a képzési adatok hiányával. A legfejlettebb AI modellek, mint például a ChatGPT, már fogyasztottak egy hatalmas mennyiségű szöveges és képi anyagot az interneten, ami korlátozott erőforrásokhoz vezetett továbbfejlesztésük szempontjából. Emellett a költséges és időigényes folyamat, miszerint emberi értékelőket használnak ezeknek a rendszereknek a fejlesztésére, gátolta a technológia növekedését, és csak lépésről lépésre történő frissítésekhez vezetett.
Ezen kihívás leküzdése érdekében a kutatók egy új megközelítést vizsgálnak: gépek használata gépek képzésére. A Google DeepMind, a Microsoft, az Amazon, a Meta, az Apple, az OpenAI és különböző egyetemi laborok mind publikáltak kutatásokat az AI modellek felhasználásáról más modellek fejlesztésére, jelentős javulásokat eredményezve számos esetben. Ez a megközelítés több tech vezető által az AI jövőjének nevezte.
Bár ez a fejlemény lehet, hogy olyan helyzetre emlékeztet a sci-fi világából, a „ön-tanuló” AI gondolata potenciális aggodalmakat vet fel, a valóság az, hogy még messze vagyunk a „szuperintelligencia” elérésétől. Azonban még a szerényebb programok is, melyek tanulnak és tanítanak egymástól, jelentős hatással lehetnek az intelligencia megértésére. A generáló AI modellek már most is kiemelkednek a mintázatok észlelése és elméletek javasolása területén, az emberi képességeket meghaladva, a hatalmas adatmennyiségnek és az alkotóik számára gyakran átláthatatlan belső algoritmusoknak köszönhetően. Az ön-tanulás képes lehet ezt a jelenséget felerősíteni, olyan intelligens modelleket hozva létre, amelyeket az emberek nehezen tudnak megérteni.
Az AI mögötti gazdasági tényezők megértése lényeges ahhoz, hogy megértsük ezt a változást. Az AI technológia fejlesztése jelentős befektetési költséget igényel pénzben, időben és információban. Az kezdeti folyamat magában foglalja egy algoritmusnak hatalmas mennyiségű adatot történő bevitele a kiindulási képességeinek meghatározására. Az kutatók ezután ezeket a képességeket fejlesztik tovább vagy konkrét feladatok specifikus példáinak szolgáltatásával vagy megerősítő tanulással, amely emberi üzemeltetők értékelését és az AI válaszainak finomítását foglalja magában. Azonban az emberi értékelőkre való támaszkodás lassú és költséges lehet, szakértő szakembereket igényelve visszajelzésként ahogy a modellek erősebbé válnak.
Itt jön képbe az ön-tanuló AI. Előnyei közé tartozik a költséghatékonyság és a lehetségesen következetesebb visszajelzés a helyzetben a humán értékelőkhöz képest. Azonban az erősítő folyamat automatizálásának kockázatai vannak. Az AI modelleknek már most is vannak hibáik, beleértve a hallucinációkat, előítéleteket és félreértéseket, melyeket átadhatnak a felhasználóknak. Az AI generált adatokkal történő modellek képzése vagy finomhangolása tovább felerősítheti ezeket a hiányosságokat, károsíthatva a programot.
A hibás AI modellek kockázatának enyhítése érdekében az önfejlesztő AI kutatások az utóbbi időben arra összpontosítottak, hogy kis mennyiségű szintetikus adatot használjanak, melyet humán szoftverfejlesztők irányítanak. Ezek a megközelítések külső ellenőrzéseket is magukban foglalnak, mint például a fizika törvényeit vagy megalapozott erkölcsi elveket, a visszajelzés minőségének biztosítása érdekében. Bár az automatizált minőségellenőrzés sikeres volt a szűkös, jól definiált feladatokban, a több absztrakt képesség továbbra is az emberi visszajelzésre támaszkodik.
Összefoglalásként elmondható, hogy az AI jövője a gépek képzésében rejlik. Habár az ön-tanuló AI forradalmasíthatja a területet, még vannak kihívások legyőzésre. Az automatizáció és az emberi visszajelzés egyensúlyának fenntartása, valamint hatékony módok megtalálása a szubjektív minőségek értékelésére továbbra is a kutatók figyelmének középpontjában áll. Ahogy a technológia tovább fejlődik, kétségtelenül alakítani fogja az intelligencia megértését és forradalmasítani különböző iparágakat.
Gy.I.:
1. Mi a fő kihívás a technológiai vállalatok számára a fejlettebb AI fejlesztésében?
– A technológiai vállalatoknak hiányuk van a képzési adatokból az AI modellek esetében, korlátozva ezzel a képességüket a jelentős fejlesztések végrehajtására.
2. Hogyan próbálnak túllépni a kutatók a korlátozott képzési adatok kihívásán?
– A kutatók egy új megközelítést vizsgálnak, amely a gépek használatán alapul a gépek képzésére, és jelentős javulást mutatott az AI modellek esetében.
3. Mi az ön-tanuló AI?
– Az ön-tanuló AI olyan AI modellekre vonatkozik, amelyek egymástól tanulnak és tanítanak, lehetőséget adva intelligens modelleknek annak működésére, ami túlmutat az emberi megértésen.
4. Milyen előnyei vannak az ön-tanuló AI használatának?
– Az ön-tanuló AI költséghatékonyságot és lehetőséget kínál a potenciálisan következetesebb visszajelzésre a humán értékelőkhöz képest.
5. Milyen kockázatok kapcsolódnak az erősítő folyamat automatizálásához az ön-tanuló AI esetében?
– Az erősítő folyamat automatizálása felerősítheti az AI modellekben már jelen lévő hibákat, mint például hallucinációkat, előítéleteket és félreértéseket.
6. Hogyan csökkentik a hibás AI modellek kockázatát az önfejlesztő AI kutatásokon belül?
– Az önfejlesztő AI kutatások az utóbbi időben arra összpontosítottak, hogy kis mennyiségű szintetikus adatot használjanak, melyet humán szoftverfejlesztők irányítanak, külső ellenőrzéseket beépítve az információ minőségének biztosítására.
The source of the article is from the blog mgz.com.tw