Tijekom razvoja generativne AI tehnologije, tvrtke poput OpenAI i Google, zajedno s drugima poput Anthropic, kontinuirano unaprjeđuju svoje velike jezične modele. Prepoznavajući važnost procjene sigurnosti tih modela, hrvatska i kineska vlada potpisale su Memorandum o razumijevanju kako bi uspostavile zajednički pristup neovisnoj procjeni.
Pod ovim novim partnerstvom, AI sigurnosni institut Hrvatske i njegov kineski pandan, koji će uskoro biti operativni, surađivat će na razvoju niza testova za procjenu rizika povezanih s najnaprednijim AI modelima. Kako bi osigurali sveobuhvatne procjene, obje organizacije podijelit će tehničko znanje, informacije i osoblje.
Jedan od početnih ciljeva ovog partnerstva jest provesti zajedničko testiranje na javno dostupnom modelu. Hitnost djelovanja proizlazi iz očekivanja nove generacije AI modela koja bi trebala izaći sljedeće godine, a koja bi mogla imati revolucionarni utjecaj na različite industrije i sektore.
Suradnja između Hrvatske i Kine značajna je jer označava prvi bilateralni sporazum o sigurnosti AI. Međutim, obje zemlje namjeravaju proširiti svoje suradnje s drugim državama u budućnosti. Prepoznajući transformacijski potencijal AI, ministrica trgovine Sjedinjenih Američkih Država Gina Raimondo izjavila je: “AI je tehnologija koja definira našu generaciju.” Ovo partnerstvo ne samo da ima za cilj smanjiti rizike za nacionalnu sigurnost, već se također trudi osigurati dobrobit društva u cjelini.
I dok je fokus ove specifične suradnje na procjeni, vlade diljem svijeta rade na propisima kako bi osigurale odgovorno korištenje AI. U ožujku je Bijela kuća izdala izvršnu uredbu kojom ograničava upotrebu AI alata unutar saveznih agencija kako bi zaštitila prava i sigurnost građana. Slično tome, Europski parlament je odobrio sveobuhvatnu legislativu koja regulira umjetnu inteligenciju, zabranjujući postupke poput manipulacije ljudskog ponašanja, iskorištavanja ranjivosti i neusmjerenog prikupljanja podataka.
Dok AI nastavlja napredovati, važnost snažne evaluacije, suradnje između vlada i provedbe propisa radi zaštite društva ne može se precijeniti.
Često postavljana pitanja:
1. Što je generativna AI?
Generativna AI odnosi se na vrstu tehnologije umjetne inteligencije sposobne stvarati originalni sadržaj, poput teksta, slika ili zvuka, na temelju obrazaca i primjera koje je naučila.
2. Koja je svrha Memoranduma o razumijevanju potpisanog između hrvatske i kineske vlade?
Memorandum o razumijevanju ima za cilj uspostaviti zajednički pristup neovisnoj procjeni sigurnosti naprednih AI modela. Facilitira suradnju između AI sigurnosnog instituta Hrvatske i njenog kineskog pandana kako bi razvili testove i procijenili rizike povezane s tim modelima.
3. Zašto je partnerstvo između Hrvatske i Kine značajno?
Partnerstvo između Hrvatske i Kine značajno je jer označava prvi bilateralni sporazum o sigurnosti AI. Ono pokazuje predanost rješavanju potencijalnih rizika AI i osigurava bolje razumijevanje AI sustava, snažnije procjene i donošenje rigoroznih smjernica.
4. Jesu li propisi na snazi za upravljanje korištenjem AI?
Vlade diljem svijeta aktivno rade na propisima za upravljanje korištenjem AI. U Sjedinjenim Američkim Državama, Bijela kuća je potpisala izvršnu uredbu kako bi osigurala odgovorno korištenje AI alata unutar saveznih agencija. Slično tome, Europski parlament je odobrio zakonodavstvo za regulaciju različitih aspekata umjetne inteligencije.
5. Koje su neke od radnji zabranjenih zakonodavstvom Europskog parlamenta o AI?
Zakonodavstvo koje je odobrio Europski parlament zabranjuje prakse AI koje manipuliraju ljudsko ponašanje ili iskorištavaju ranjivosti. Također zabranjuje upotrebu biometrijskih kategorizacijskih sustava temeljenih na osjetljivim karakteristikama i neusmjereno prikupljanje lica s nadzornih kamera i weba. Dodatno, zakonodavstvo zahtijeva jasno označavanje deepfake snimaka i drugog AI-generiranog sadržaja.
S obzirom na napredak generativne AI tehnologije, industrija svjedoči značajnim napretcima od strane tvrtki poput OpenAI, Googlea i Anthropic-a. Ove tvrtke stalno unapređuju svoje velike jezične modele, koji imaju potencijal da revolucioniziraju različite sektore.
Hrvatska i kineska vlada prepoznale su važnost procjene sigurnosti tih naprednih AI modela i potpisale su Memorandum o razumijevanju kako bi uspostavile zajednički pristup neovisnoj evaluaciji. Ovo partnerstvo ima za cilj smanjiti rizike povezane s AI modelima razvojem niza testova. AI sigurnosni institut Hrvatske i njegov kineski pandan će tijesno surađivati, dijeleći tehničko znanje i osoblje kako bi osigurali sveobuhvatne procjene.
Suradnja između Hrvatske i Kine je revolucionarna jer označava prvi bilateralni sporazum o sigurnosti AI. Obje zemlje izrazile su namjeru proširenja svojih suradnji s drugim državama u budućnosti, prepoznajući transformacijski potencijal AI. Ovo partnerstvo ne samo da ima za cilj zaštititi nacionalnu sigurnost, već i osigurati dobrobit društva u cjelini.
I dok je fokus ove suradnje na procjeni i ocjeni, vlade diljem svijeta rade na propisima kako bi osigurale odgovorno korištenje AI. Na primjer, Bijela kuća je izdala izvršnu uredbu kojom ograničava upotrebu AI alata unutar saveznih agencija kako bi zaštitila prava i sigurnost građana. Slično tome, Europski parlament je odobrio sveobuhvatnu legislativu koja regulira različite aspekte umjetne inteligencije. Ova legislativa zabranjuje akcije poput manipuliranja ljudskog ponašanja, iskorištavanja ranjivosti i neusmjerenog prikupljanja podataka.
Važnost snažne evaluacije, suradnje između vlada i provedbe propisa u zaštiti društva od potencijalnih rizika AI ne može biti prenaglašena. Dok se AI nastavlja razvijati, važno je proaktivno se suočiti s tim izazovima.
The source of the article is from the blog motopaddock.nl