Meta jaunais un uzlabotais JEPA sistēmas modelis, ko izstrādājis Yans LeKun no Meta, izaicina AI modeļu robežas. Agrāk LeKun izklāstīja priekšroku kopējai iegultās prognozēšanas arhitektūrai (JEPA) pār ģeneratīviem AI modeļiem, jo JEPA fokusējās uz trūkstošas informācijas prognozēšanu, nevis tikai teksta. Pirmajam modelim — I-JEPA — tika iemācīts, izveidojot iekšējo modeļu par ārējo pasauli, tādējādi padarot to līdzīgāku cilvēka mācību procesam.
Tagad Meta pētniecības komanda ir prezentējusi otro JEPA modeli — V-JEPA, kas specializējas video analīzē. V-JEPA spēj prognozēt trūkstošas vai maskētas video daļas abstraktajā reprezentācijas telpā. Aktīvi vērojot, modelis izpratni iegūst par kontekstu un apgūst novērotās prasmes. Atšķirībā no tradicionālajiem modeļiem, kas prasa atzīmētus datus, V-JEPA tiek mācīta, veicot pašpietiekamu apmācību dažādu video materiālu pamatā, lai uzlabotu mašīnmācības spējas.
Meta uzskata, ka V-JEPA var ievērojami uzlabot mašīnām pasaules izpratni, analizējot vizuālo saturu. Yans LeKun norāda, ka šis modelis mašīnām var ļaut sasniegt plašākas izdomāšanas un plānošanas spējas. Ievērojot cilvēka līdzīgu mācību procesu, mašīnas spēj izveidot iekšējus modeļus par apkārtējo vidi, pielāgoties jaunām situācijām un efektīvi veikt sarežģītas uzdevumus.
Meta apgalvo, ka V-JEPA mācībai un apmācību paraugu efektivitātei ir lielāka salīdzinājumā ar ģeneratīviem modeļiem. Atšķirībā no modeļiem, kas cenšas aizpildīt katru trūkstošo pikseli, V-JEPA var ignorēt neprognozējamu informāciju un rezultātā iegūt labākus apmācības rezultātus. Lai arī V-JEPA pašlaik koncentrējas tikai uz vizuālo saturu un neapstrādā audio, Meta izpēta iespēju nākotnē iekļaut audio modelī.
Kamēr V-JEPA pašlaik ir tikai pētniecības modelis un nav pieejams tūlītējai lietošanai datoru redzes sistēmās, to var atrast GitHub platformā pētniecības nolūkiem. Meta mudina pētniekus paplašināt savu darbu un piedāvā V-JEPA saskaņā ar Creative Commons Noncommercial licenci.
Ar šo jaunāko attīstību Meta turpina izaicināt AI tehnoloģijas robežas. Veidojot papildinātas mašīnintelektuāles sistēmas, kas imitē cilvēka mācību procesus, Meta mērķē izveidot mašīnas, kas spēj saprast, pielāgoties un plānot efektīvi, kā rezultātā veicot nozīmīgus soļus AI jomā.
Biežāk uzdotie jautājumi:
1. Kas ir JEPA?
JEPA ir saīsinājums no Joint-Embedding Predictive Architectures, sistēma, ko izstrādājis Meta Yans LeKun, kas fokusējas uz trūkstošas informācijas prognozēšanu, nevis tikai uz tekstu.
2. Kāda ir atšķirība starp I-JEPA un V-JEPA?
I-JEPA ir pirmais JEPA modelis, kas izveido iekšējo modeļu par ārējo pasauli, tādējādi padarot to līdzīgāku cilvēka mācībai. V-JEPA, no otras puses, specializējas video analīzē un spēj prognozēt abstraktās reprezentācijas telpā trūkstošas vai maskētas video daļas.
3. Kā V-JEPA mācās?
V-JEPA mācās, vērojot pasīvi un iegūstot izpratni par kontekstu un prasmes, veicot pašpietiekamu apmācību, balstoties uz dažādu video materiālu idejām. Tam nav nepieciešami atzīmēti dati, atšķirībā no tradicionālajiem modeļiem.
4. Vai V-JEPA apstrādā audio?
Pašreiz V-JEPA koncentrējas tikai uz vizuālo saturu un neatbalsta audio. Tomēr Meta turpmāk izpēta iespēju iekļaut audio modelī.
5. Vai V-JEPA ir pieejams nekavējoties izmantošanai?
Nē, V-JEPA pašlaik ir tikai pētniecības modelis un nav pieejams nekavējoties datoru redzes sistēmās. Tomēr to var atrast GitHub platformā pētniecības nolūkiem.
Definīcijas:
JEPA: Joint-Embedding Predictive Architectures — sistēma, ko izstrādājis Meta Yans LeKun, fokusējoties uz trūkstošas informācijas prognozēšanu, nevis tikai uz tekstu.
Ģeneratīvie AI modeļi: AI modeļi, kas, balstoties uz esošiem datiem, ģenerē jaunu saturu, piemēram, attēlus vai tekstu.
Pašpietiekama apmācība: Mašīnmācības apmācības veids, kur modelis mācās no nesazīmētiem datiem, neprasot ekspluatācijas cilvēka atzīmējumus.
Datoru redzes sistēmas: Tehnoloģija, kas ļauj datoriem saprast un analizēt vizuālo saturu, piemēram, attēlus vai video materiālus.
Saistītie saites:
– GitHub: Piekļūstiet V-JEPA GitHub platformai pētniecības nolūkiem.
– Meta: Uzziniet vairāk par Meta un tās progresu AI tehnoloģijā.
The source of the article is from the blog papodemusica.com