Chatbotien älykkäiden vastausten taustalla on valtava tietokanta, joka koostuu usein biljoonista sanoista, jotka on kerätty artikkeleista, kirjoista ja verkkokommenteista. Tämä tietokanta kouluttaa tekoälyjärjestelmiä ymmärtämään käyttäjän kysymyksiä. Alan yleinen uskomus on, että mahdollisimman paljon informaation kerääminen on avain seuraavan sukupolven tekoälytuotteiden kehittämisessä.
Tässä lähestymistavassa on kuitenkin merkittävä haaste: vain tietty määrä laadukasta tietoa on saatavilla verkossa. Tämän tiedon hankkimiseksi tekoälyyritykset maksavat usein miljoonia dollareita julkaisijoille sisältölisensseistä tai keräävät tietoa verkkosivustoilta, riskienä oikeusrikkomusoikeudenkäynnit.
Johtavat tekoälyyritykset tutkivat vaihtoehtoista ja jossain määrin kiistanalaista lähestymistapaa tekoälyyhteisön sisällä: synteettisen tai käytännössä ’feikin’ datan käyttö. Esimerkiksi teknologiayritykset tuottavat tekstiä ja mediaa tekoälyjärjestelmiensä avulla. Tätä keinotekoista dataa käytetään sen jälkeen kouluttamaan tulevia versioita näistä tekoälyjärjestelmistä, minkä Dario Amodei, Anthropicin toimitusjohtaja, kuvailee potentiaaliseksi ”rajattomaksi datanluontityökaluksi”. Tämä menetelmä mahdollistaa tekoälyyrityksille monien oikeudellisten, eettisten ja yksityisyysongelmien ohittamisen.
Laskennassa synteettistä dataa ei ole uusi asia – sitä on käytetty vuosikymmeniä eri tarkoituksiin, mukaan lukien henkilökohtaisten tietojen anonymisointi ja autonomisten ajoneuvoteknologian ajotilanteiden simulointi. Tekoälygeneratiiviset edistysaskeleet ovat kuitenkin mahdollistaneet laadukkaamman synteettisen datan tuottamisen suuremmassa mittakaavassa, mikä lisää sen toteutuksen kiireellisyyttä.
Generatiivinen tekoäly, jonka tarkoituksena on pääasiassa uuden tiedon luominen, tuottaa tietoa, tekstiä, kuvia, ääntä, videoita ja muuta prosessien kuten koneoppimisen ja syvän oppimisen avulla. Merkittävä esimerkki on OpenAI:n GPT-mallit, jotka pystyvät tuottamaan uutta tekstiä aiemman koulutusdatansa perusteella.
Anthropic ilmoitti Bloombergille käyttäneensä synteettistä dataa rakentaakseen viimeisimmän mallinsa, joka tukee heidän chatbottiaan, Claudea. Meta Platforms ja Google ovat myös käyttäneet synteettistä dataa kehittäessään viimeisimpiä avoimen lähdekoodin mallejaan.
Microsoftin tekoälytutkimustiimi yritti jäljitellä lasten kielen oppimista luomalla lasten tarinoita 3 000 sanasta, jotka nelivuotias voisi ymmärtää, tuottaen miljoonia lyhyitä tarinoita, jotka paransivat tekoälykielimallin ominaisuuksia. Tutkimus johti tiivistettyyn ja avoimen lähdekoodin kielimalliin, joka tunnetaan nimellä Phi-3, ja joka on julkisesti saatavilla käyttöön.
Microsoftin tekoälyn varapresidentti, Sébastien Bubeck, huomautti, että synteettinen data antaa enemmän kontrollia mallin oppimisprosessiin, sallien yksityiskohtaisten ohjeiden antamisen, mitä ei muuten olisi mahdollista. Asiantuntijat kuitenkin tuovat esiin huolia tällaisten tekniikoiden riskeistä, varoittaen mahdollisista ’mallin romahduksista’, kuten Oxfordin ja Cambridgen arvostetut yliopistot ovat tutkimuksissaan osoittaneet.
Tärkeimmät kysymykset ja niiden vastaukset:
1. Mikä on synteettinen data?
Synteettinen data on keinotekoisesti luotua tietoa, jota käytetään vaihtoehtona todelliselle datalle. Sitä luodaan algoritmeilla ja simuloinneilla, ja se voi olla tekstiä, kuvia, ääntä, videoita jne.
2. Miksi synteettinen data on tärkeä tulevaisuuden tekoälyn oppimiselle?
Synteettinen data on merkityksellinen, koska se voi tarjota ’rajattoman’ määrän koulutusmateriaalia tekoälylle ilman oikeudellisia, eettisiä ja yksityisyyteen liittyviä huolenaiheita, jotka liittyvät todellisen datan keräämiseen.
3. Mitä keskeisiä haasteita liittyy synteettisen datan käyttöön tekoälyssä?
Yksi päähaasteista on varmistaa, että synteettinen data on laadukasta ja edustaa monipuolisesti ja tarkasti todellisten tilanteiden monimutkaisuutta. On myös riski ’mallin romahduksesta’, jossa tekoäly alkaa tuottaa yhdenmukaista tai järjenvastaista tulostetta.
Kiistakysymykset:
– Eettiset vaikutukset: Jotkut pelkäävät, että synteettinen data voisi mahdollistaa ennakkoluulojen vahvistumisen tai johtaa syvätutkimuksiin, jotka voisivat levittää virheellistä tietoa.
– Todennettavuushuolet: Käydään keskustelua siitä, pystyykö pelkästään synteettisellä datalla koulutettu tekoäly saavuttamaan todellisen ymmärryksen ja kontekstuaalisen tietoisuuden, joka vastaa todellisen maailman dataperäisen ymmärryksen tasoa.
Edut:
– Lailliset ja eettiset edut: Välttää mahdolliset lailliset ongelmat, jotka liittyvät datan raapimiseen ja tekijänoikeusrikkomuksiin.
– Kontrolloitavuus: Mahdollistaa suunnittelijoiden määrittää ja hallita datan skenaarioita ja parametreja, mikä voi johtaa mahdollisesti parempiin koulutustuloksiin.
– Laajennettavuus: Pystyy tuottamaan suuria määriä dataa nopeasti ja edullisemmin verrattuna todellisen datan hankkimiseen.
Haitat:
– Laadunvarmistus: Synteettisen datan riittävyyden varmistaminen tehokkaiden tekoälymallien kouluttamiseksi on haasteellista.
– Ylisovittumisriski: On riski, että synteettisellä datalla koulutetut tekoälymallit eivät suoriudu hyvin todellisen datan kanssa johtuen ylisovittumisesta keinotekoisille datamäärille.
– Kompleksisuus: Korkealaatuisen synteettisen datan luominen voi olla monimutkaista ja resurssi-intensiivistä.
Ehdotetut liittyvät linkit:
– Saadaksesi yleiskuvan tekoälystä ja koneoppimisesta, vieraile sivustolla OpenAI.
– Generatiivisen tekoälyn roolista synteettisen datan luomisessa voit tutustua sivustoon DeepMind.
– Tietoa tekoälyn eettisestä käytöstä löytyy sivustolta Partnership on AI.
Generatiivinen tekoäly ja synteettinen datatekniikka jatkavat kehittymistään, laajentaen mahdollisuuksia tekoälyn oppimisessa ja avaten uusia mahdollisuuksia, jotka voivat muokata tulevaisuuden teknologiaa.
The source of the article is from the blog macholevante.com