Microsoft bi se lahko soočil s pomembnimi kaznimi s strani Evropske komisije, če ne bi uspel izpolniti zahteve po predložitvi dokumentov do 27. maja. Velikan v tehnologiji je tarča preiskave glede načina uporabe umetne inteligence (UI) v svojem iskalniku Bing in povezanih sistemih.
Evropska komisija se posebej osredotoča na dve implementirani sistemski umetni inteligenci podjetja Microsoft, in sicer “Kopilot v Bingu”, ki je večfunkcijska postavitev, ki lahko proizvaja besedila in slike kot odgovor na uporabniška vprašanja, ter “Ustvarjalec slik po oblikovalcu”, sistem, zasnovan za generiranje slik.
Skrb komisije se nanaša na morebitno umetno ustvarjanje zavajajočih informacij, imenovanih “halucinacije”, kjer bi lahko uporabniki prejeli napačne odgovore od platforme z umetno inteligenco. Druga možna kršitev vključuje ustvarjanje “preoblek” s pomočjo manipulacije UI, kjer se posnetki resničnih oseb lahko spremenijo, da lažno prikažejo, da govorijo ali počnejo stvari, ki jih dejansko nikoli niso.
Resnost teh morebitnih kršitev se nanaša na to, kako bi lahko kršile Zakon o digitalnih storitvah EU (DSA), zlasti v kontekstu manipulacije volivcev ali širjenja dezinformacij. Microsoftovo upoštevanje zahtev komisije je ključno, saj bi lahko neizpolnitev zahtevanih dokumentov privedla do kazni v višini do enega odstotka letnega globalnega prihodka podjetja. Poleg tega bi lahko bile uvedene dodatne kazni, ki bi lahko znašale tudi do pet odstotkov dnevnega prihodka podjetja, kot podrobneje navaja medijski izvir Politico.
Angažma podjetja Microsoft na področju UI ima širše posledice kot le trenutno preiskovanje s strani Evropske komisije. Tehnološko podjetje je pomemben igralec na globalnem trgu UI, ponuja različna orodja in storitve, ki delujejo na podlagi UI, poleg Binge kot Azure UI, Microsoft Dynamics 365 UI in integracijam z Microsoft Office.
Eno ključnih področij, ki ga članek ne omenja, je vse večja odvisnost od UI za sodobne iskalnike, da bi zagotovili natančnejše in relevantnejše rezultate. UI lahko analizira iskalna vprašanja v naravnem jeziku in ponudi odgovore, ki so bolj v skladu s človeškim mišljenjem, kar predstavlja pomemben napredek v primerjavi s tradicionalnimi algoritmi iskanja na podlagi ključnih besed.
Vendar pa uporaba UI prinaša izzive, zlasti v smislu etičnih vidikov in možnosti zlorabe. Na primer, problem pristranskosti v UI, kjer sistemi lahko kažejo predsodke na podlagi podatkov, na katerih so bili usposobljeni. Microsoft, podobno kot druga tehnološka podjetja, nenehno dela na odpravljanju takšnih pristranskosti v svojih UI modelih.
Kontroverze okoli uporabe UI aplikacij pogosto vključujejo težave v zvezi z zasebnostjo, saj UI sistemi lahko zbirajo in obdelujejo obsežne količine osebnih podatkov za učinkovito delovanje. Tu je tudi vprašanje preglednosti, kjer morda ni vedno jasno, kako UI sistemi pridejo do določenih sklepov ali odločitev.
Kar zadeva prednosti, lahko UI močno izboljša uporabniško izkušnjo s personaliziranimi vsebinami in bolj intuitivnimi interakcijami. Za podjetja lahko analitika, ki jo poganja UI, privede do bolj informiranih odločitev. Po drugi strani pa slabosti vključujejo tveganja, povezana z varnostjo podatkov, morebitno odpuščanje delavcev zaradi avtomatizacije ter širjenje dezinformacij ali manipuliranega vsebina, kot so preobleke.
V primeru Microsofta bi bila glavna relevantna domena za to temo njihova uradna spletna stran, ki ponuja vpogled v njihove tehnologije UI in politike o odgovorni uporabi UI: Microsoft Official Site.
Zagotavljanje, da so aplikacije UI etične in varne, je bistveno za ugled podjetja, uporabniško zaupanje in skladnost z vse bolj strogimi globalnimi predpisi, kot je Zakon o digitalnih storitvah EU. Ti predpisi in politike si prizadevajo spodbujati digitalni ekosistem, ki je hkrati inovativen in zaupanja vreden. Microsoftovo sodelovanje z regulativnimi zahtevami, kot je predložitev dokumentov Evropski komisiji, ni le o tem, kako se izogniti kaznim, temveč tudi o ohranjanju svojega položaja kot odgovornega voditelja na področju UI.