Meta Platforms, Facebook un Instagram mātesuzņēmums, ir paziņojis par plāniem noteikt un marķēt attēlus, kas ir radīti ar citu uzņēmumu piedāvātām mākslīgā intelekta (AI) pakalpojumu palīdzību. Uzņēmums plāno izmantot neredzamus marķierus, kas iestrādāti attēlu failos, lai atšķirtu reālos fotografējumus no digitāli radītiem saturiem. Šis marķēšanas sistēma tiks piemērota visam saturam, kas nes minētos marķierus un tiek kopīgots Meta platformās.
Šīs marķēšanas sistēmas ieviešana ir centiens risināt plaši izplatīto problēmu ar dezinformāciju un viltus saturu, kas radīts ar ģeneratīvo AI tehnoloģiju palīdzību. Šīs tehnoloģijas spēj radīt ļoti reālistiskus attēlus, reaģējot uz vienkāršiem uzdevumiem, un tās izraisa bažas par potenciālajiem negatīvajiem sekotājiem, kad tās tiek izmantotas nepareizi. Meta marķēšanas iniciatīva ir daļa no lielāka kustības tehnoloģiju nozarē, lai izveidotu standartus un mazinātu ģeneratīvās AI negatīvo ietekmi.
Meta globālo jautājumu prezidents Nīks Cleģs pauda pārliecību par uzņēmuma spēju uzticami marķēt ar AI ģenerētos attēlus. Tomēr viņš atzina, ka līdzīgas rīkus attiecībā uz audio un video saturu izstrāde ir sarežģīta. Kamēr tehnoloģija audio un video materiālu marķēšanai vēl nav pilnībā izturēta, Meta plāno prasīt individuālu personu marķēt savus modificētos audio un video saturus, sodot tos, kas ignorē šo prasību.
Jāatzīmē, ka pašreiz Meta marķēšanas iniciatīva neattiecas uz ar AI rīkiem radītu rakstveida saturu, piemēram, ChatGPT. Cleģs norādīja, ka pašreiz nav pieejams efektīvs mehānisms šāda veida saturam marķēšanai. Turklāt vēl nav skaidrs, vai Meta piemēros marķējumu ģeneratīvās AI satura kopīgošanai savā šifrētajā ziņu pakalpojumā WhatsApp.
Nesenā uzmanība, kas pievērsta Meta politikai attiecībā uz viltojumu video materiāliem, ko atzīst tā neatkarīgā pārraudzības padome, lika Cleģam atzīt nepieciešamību pēc uzlabotiem pasākumiem. Padome ieteica marķēt šādu saturu, nevis to dzēst, un Cleģs piekrita šai vērtējumam, norādot, ka Meta esošā politika jau nav piemērota, ņemot vērā sintētiskā un hibrīda satura arvien pieaugošo klātbūtni. Izveidojot marķēšanas partnerību ar citām tehnoloģiju uzņēmumiem, Meta vēlas parādīt savu apņemšanos risināt šīs problēmas.
Secinājumā Meta Platforms lēmums marķēt ar AI ģenerētus attēlus uzskatāmi norāda uz nozīmīgu soli pretī dezinformācijas apkarošanai un pārredzamības palielināšanai savos pakalpojumos. Kamēr tehnoloģiju nozare turpina risināt izaicinājumus, ko rada ģeneratīvās AI tehnoloģijas, šādas sadarbības pūles, piemēram, šīs marķēšanas iniciatīva, kļūst būtiskas atbildīgas AI lietošanas veidošanā.
Bieži uzdotie jautājumi:
jautājums: Kas ir Meta Platforms?
atbilde: Meta Platforms ir Facebook un Instagram mātesuzņēmums.
jautājums: Kādas ir Meta plānas attiecībā uz ar mākslīgo intelektu (AI) radītiem attēliem?
atbilde: Meta plāno noteikt un marķēt attēlus, kas ir radīti ar citu uzņēmumu piedāvātām AI pakalpojumu palīdzību. Viņi izmanto neredzamus marķierus attēlu failos, lai atšķirtu reālos fotografējumus no digitāli radītiem saturiem.
jautājums: Kādēļ Meta ievieš šo marķēšanas sistēmu?
atbilde: Meta vēlas risināt plaši izplatīto problēmu ar dezinformāciju un viltus saturu, kas tiek radīts ar ģeneratīvo AI tehniku palīdzību.
jautājums: Kādas bažas izraisa generatīvās AI tehnoloģijas?
atbilde: Generatīvās AI tehnoloģijas spēj radīt ļoti reālistiskus attēlus, reaģējot uz norādēm, un tas rada bažas par potenciālajām kaitējuma sekām saistībā ar to nepiemērotu izmantošanu.
jautājums: Vai Meta ir pārliecināta par attēlu marķēšanas spēju?
atbilde: Jā, Meta globālo jautājumu prezidents Nīks Cleģs pauda pārliecību par uzņēmuma spēju uzticami marķēt ar AI radītus attēlus.
jautājums: Vai marķēšanas sistēma attiecas arī uz audio un video saturu?
atbilde: Pašreiz tehnoloģija audio un video materiālu marķēšanai vēl nav pilnībā izstrādāta. Meta plāno prasīt individuālas personas marķēt savus modificētos audio un video saturus, bet pašos rīkos automātiski marķēt šādu saturu viņiem pagaidām nav.
jautājums: Vai Meta uzlikšanai marķieri generatīvās AI satura attēlus, kurus kopīgo WhatsApp?
atbilde: Vēl nav skaidrs, vai Meta uzlikš marķierus generatīvās AI satura attēliem, ko kopīgo tā šifrētajā ziņu pakalpojumā WhatsApp.
jautājums: Kāpēc Meta nolēma ieviest marķēšanas iniciatīvu?
atbilde: Meta tika uzskatīts par kritisku attiecībā uz tās politiku attiecībā uz dezinformācijas-video materiāliem, to skaidroja Meta neatkarīgā pārraudzības padome. Padome ieteica marķēt šādu saturu, nevis to dzēst, un Meta piekrita šai vērtējumam.
Galvenie termini/jargoni:
– Mākslīgais intelekts (AI): Cilvēka intelektuālo procesu simulācija ar mašīnām, parasti iekļaujot mācīšanos, loģisko spēju un pašlabošanās spēju.
– Generatīvā AI: AI tehnoloģijas, kas var radīt jaunu saturu, piemēram, attēlus, audio vai video, balstoties uz norādēm vai piemēriem.
– Dezinformācija: Saturs, kas ir nepaties, vai sniedz disktrotētu realitāti, lai maldinātu vai manipulētu skatītājus.
– Marķēšanas sistēma: Sistēma, kas piešķir marķierus vai tagus saturam, lai sniegtu papildu informāciju vai kontekstu.
Ieteiktie saistītie resursi:
– Meta
– Facebook
– Instagram
The source of the article is from the blog zaman.co.at