U povijesnom potezu, vodeće tehnološke korporacije, uključujući industrijske divove poput Microsofta, Amazona i OpenAI-a, kolektivno su pristale poštivati skup dobrovoljnih obveza usmjerenih na osiguravanje sigurnog razvoja sofisticiranih modela umjetne inteligencije (AI). Ovaj sporazum postignut je na sastanku summita o sigurnosti umjetne inteligencije održanom u Seulu.
Ključne značajke Međunarodnog sporazuma o sigurnosti AI:
Kao dio dogovora, tehnološke tvrtke iz raznih zemalja diljem svijeta poput SAD-a, Kine, Kanade, Velike Britanije, Francuske, Južne Koreje i Ujedinjenih Arapskih Emirata, obvezale su se implementirati okvire sigurnosti za svoje AI modele. Takvi okviri će definirati mjerenje izazova njihovog sustava i uključiti “crvene linije”, postavljajući jasne granice za neprihvatljive rizike, uključujući, ali ne ograničavajući se na, obranu od automatiziranih kibernetičkih napada i sprječavanje prijetnji biološkim oružjem.
Kako bi se riješile ekstremne okolnosti koje mogu proizaći iz tih naprednih AI sustava, tvrtke su najavile svoje planove za potencijalno uvođenje “isključivača”. Ta hitna mjera zaustavila bi razvoj AI modela ako tvrtke ne mogu osigurati ublažavanje naznačenih rizika.
Međunarodno jedinstvo i predanost sigurnom razvoju AI:
Britanski premijer je u izjavi ističući važnost sporazuma, naglasio globalno jedinstvo i obećanje transparentnosti i odgovornosti nekih od vodećih svjetskih AI poduzeća. Ukazao je na neviđeni konsenzus o obvezama sigurnosti AI.
Budući koraci i pravni okviri:
Ukazano je da su preuzete obveze specifične za vrhunske modele poznate kao “frontier modeli”, među kojima su generativna AI poput OpenAI GPT serije, koja pokreće popularne AI alate poput chatbota ChatGPT. Dok se Europska Unija trudi uvesti Zakon o AI-u radi regulacije neograničenog razvoja AI-a, vlada Velike Britanije odabrala je liberalniji pristup regulaciji, što ukazuje na razmatranje buduće regulacije o frontier modelima bez određenog vremenskog okvira.
Ovaj utorak predstavlja proširenje prethodnog seta obaveza donesenog u studenom u vezi razvoja softvera generativne AI. Također su se obvezali uključiti povratne informacije od “pouzdanih aktera”, uključujući njihove vlade, u svoje sigurnosne mjere prije sljedećeg Summita o AI-u u Francuskoj, planiranog za početak 2025. godine.
Važna pitanja i odgovori:
P1: Koji su etički principi razvoja AI-a?
O1: Etički principi razvoja AI odnose se na skup načela i smjernica namijenjenih stvaranju AI sustava koji su pravedni, transparentni, odgovorni te poštuju privatnost korisnika i ljudska prava. Etička razmatranja često uključuju osiguravanje nepristranosti algoritama, odgovorno postupanje s osobnim podacima, sigurnost i pouzdanost AI sustava te jasnoću oko procesa donošenja odluka AI-a.
P2: Zašto je predanost tehnoloških divova etičkom AI-u važna?
O2: Predanost tehnoloških divova je bitna jer oni imaju resurse, dos reach i tehničko znanje koje značajno oblikuju globalni razvoj AI-a. Njihovo pridržavanje etičkih smjernica pomaže spriječiti zlouporabu AI tehnologije te adresirati potencijalne rizike uključene u njeno korištenje, čime se osigurava povjerenje javnosti u primjene AI-a.
P3: Koje su poteškoće povezane s razvojem etičke AI?
O3: Poteškoće uključuju osiguravanje nepristranog prikupljanja i obrade podataka, složenost razvoja transparentnih modela s napredovanjem AI-a, potencijalnu zlouporabu AI za zlonamjerne svrhe, teškoće u definiranju i provođenju etičkih standarda globalno te ravnotežu između inovacija i regulacije.
Ključne izazovi ili kontroverze:
Jedna kontroverza jest potencijal globalnih tvrtki da prioritet daju profitu nad etičkim razmatranjima, što može dovesti do zloupotrebe AI na štetne načine. Dobrovoljna priroda obveza postavlja pitanje provedivosti, jer tvrtke mogu odstupiti od etičkih praksi bez pravnih posljedica.
Drugi izazov leži u balansiranju između poticanja inovacija u AI-u i osiguravanja njegova etičkog razvoja korištenja. Neki tvrde da previše regulacije može ugušiti inovacije, dok drugi smatraju da su stroga pravila nužna kako bi se spriječile potencijalne zloupotrebe.
Također postoji pitanje definiranja i mjerenja “etičkog” ponašanja, koje može široko varirati među različitim kulturama i pravnim okvirima.
Prednosti i nedostaci:
Prednosti etičkih principa razvoja AI uključuju povećanje povjerenja potrošača, stvaranje pravednijih i jednakopravnijih tehnologija te sprječavanje zlouporabe AI. Također može utrti put standardiziranom pristupu etici u AI-u što je važno s obzirom na bezgraničnu prirodu tehnologije i podataka.
Nedostaci mogu uključivati potencijalno usporavanje inovacija u AI-u zbog potrebe stalnog procjenjivanja etičkih implikacija i teškoće postizanja međunarodnog konsenzusa. Nadalje, tvrtke se mogu suočiti s većim troškovima i naporima vezanim uz održavanje etičkih standarda.
Za resurse i daljnje čitanje o etici i smjernicama AI-ja, možete se obratiti sljedećim glavnim domenama:
– Microsoft
– Amazon
– OpenAI
– Europska komisija (za EU Zakon o AI-u)
Ovi linkovi predstavljaju organizacije i entitete koji imaju interes u razvoju AI-a ili su uključeni u stvaranje pravnih okvira za etički AI, nudeći obilje informacija o praksama i regulacijama razvoja AI-a.