Az AI-generált képek blokkolásával Midjourney Midjourney vezető mesterséges intelligencia kép-generálója ideiglenes intézkedést hozott, hogy megakadályozza a felhasználókat abban, hogy hamis képeket készítsenek Joe Biden elnökről és az egykori elnökről, Donald Trumpról az amerikai elnökválasztás előtt. A döntés azután született, hogy az Associated Press által végzett tesztek arra világítottak rá, hogy a szerszám visszaélése lehetséges. Midjourney CEO-ja, David Holz elmagyarázta, hogy a cég ki kíván állni az elnökválasztással kapcsolatos félrevezető információk ellen, de nem adott specifikus részleteket az implementált politikai változásokról.
Holz szerint a 11 fős alkalmazottakkal rendelkező Midjourney lépése eltér más vezető kép-generáló eszközök intézkedéseitől. A cég nem vett részt olyan önkéntes iparági megállapodásban, amely az AI-generált deepfake-ekkel szemben kívánt küzdeni, melyek a választókat akarták becsapni. Holz tisztázta, hogy a Midjourney fő célja nem kapcsolódik a politikai beszédhez, de a vállalat szeretné kerülni a túlzott időráfordítást az ilyen tartalmak ellenőrzésére.
A kritikusok aggályokat fogalmaztak meg a Midjourney technológiájával kapcsolatban, ami hajthat üres információs kampányokat és hamis választási csalásokat. A Digitális Gyűlölet Elleni Központ a közelmúltban közzétett egy jelentést, amely azt állította, hogy a Midjourney-t már felhasználták olyan képek készítéséhez, amelyek támogatnák az ilyen félrevezetés. A szervezet kutatásvezetője, Callum Hood, hangsúlyozta, hogy a Midjourney kiemelkedett az AI kép-generátorként a legkevesebb ellenőrzéssel rendelkező eszközök közül, amikor ismert politikai személyiségről, mint Biden és Trump, képeket kellett generálni. Az őrszolgálati csoport szintén tesztelte más eszközöket is, beleértve az OpenAI ChatGPT Plus, a Stability AI DreamStudio és a Microsoft Image Creator-t, mindegyik mutatott bizonyos problémákat az választási félrevezető információ generálásában.
Azzal, hogy a Midjourney döntést hozott a Trump és Biden képek generálásának blokkolásáról, voltak olyan esetek, ahol a felhasználók sikeresen produkáltak ilyen tartalmakat korábban. Azonban a cég nyilvános adatbázisa azt mutatja, hogy ez azóta megváltozott, ugyanis a felhasználók figyelmeztetésekről számoltak be, amikor megpróbálták a két politikus képeinek létrehozását. Néhány felhasználó kifejezte frusztrációját a Midjourney által újragondolt politikával kapcsolatos kommunikáció hiánya miatt.
Az a szempont, amely a Midjourney-t megkülönbözteti a többi kép-generátortól, az az, hogy nyilvános jellege van. A felhasználók megtekinthetik egymás felhívásait és képeit a közösségi média platform Discordon, ahol a Midjourney legnagyobb csoportja található, amely több mint 19 millió tagot foglal magában. A CEO, David Holz rendszeresen kölcsönhatásba lép a felhasználókkal ebben a csoportban, amely széles körű témákba mélyed be az AI és az emberi jövővel kapcsolatosan.
Bár a Midjourney ideiglenes blokkolása feloldhatja az aggodalmakat az elkövetkező választásokra vonatkozóan generált AI képek tekintetében, Holz azt jósolja, hogy a tájkép jelentős mértékben meg fog változni a jövőben. Úgy véli, hogy 2028-ra minden jelöltnek lenniük egy valósághű „deepfake csevegőbotjuk”, amely szimulálja a támadáspontokat. Holz figyelmeztet, hogy azok az egyének, akik elszántak a deepfake-ek létrehozására, alternatív módszereket fognak találni, amelyek testreszabhatóak lesznek specifikus célpontok számára, és hatékonyabbak lesznek, mint az már létező rendszerek.
A San Francisco közelében székelő 2020-ban alapított Midjourney független kutatólaboratóriumként pozicionálja magát, amely az emberi gondolkodás új formáinak felfedezésére és az emberi képzeleti képességek bővítésére összpontosít. A cég 2022. júliusában vezette be a kép-generátorának nyilvános verzióját, jelentős érdeklődést generálva a generatív AI technológia területén. Annak ellenére, hogy törekszik arra, hogy a felhasználóknak a széles körű képalkotási szabadságot biztosítsa, a Midjourney aktívan blokkolja az offensive és káros tartalmakat. A vállalat kulcsszószűrőket alkalmaz és egy moderátorteamet tart fenn, amely foglalkozik a felhasználói panaszokkal.
GYIK
K: Miért döntött úgy a Midjourney, hogy blokkolja a Biden és Trumpról készített AI-generált képek létrehozását?
A: A Midjourney ideiglenes intézkedést hozott azért, hogy megakadályozza a két politikus hamis képekkel történő ábrázolását az elnökválasztással kapcsolatos félrevezető információk miatt.
K: Hogyan viszonyul a Midjourney válasza más kép-generáló eszközökhöz képest?
A: Habár a Midjourney lépéseket tett a technológia lehetséges visszaéléseivel kapcsolatos aggályok kezelése érdekében, nem csatlakozott olyan önkéntes technológiai iparági megállapodáshoz, ami az AI-generált deepfake-ekkel szemben küzdött. További vezető kép-generáló eszközök is hasonló kihívásokkal néztek szembe az választási félrevezetések generálásának megakadályozásában.
K: Milyen kritikákat fogalmaztak meg a Midjourney ellen?
A: A kritikusok azt állítják, hogy a Midjourney kép-generátora hozzájárulhat a félrevezető kampányokhoz és a választási csalások hamis állításaihoz.
K: Mi az egyedülálló a Midjourney megközelítésében más kép-generálókkal összehasonlítva?
A: A Midjourney egyik megkülönböztető jellemzője az, hogy a platformja nyilvános fórumokon működik a Discord közösségi média platformon keresztül, ahol a Midjourney legnagyobb csoportja található, több mint 19 millió taggal.
K: Mit jósol a Midjourney CEO-ja a hamis képek jövőjéről?
A: A Midjourney CEO-ja olyan jövőt lát, ahol minden jelöltnek lesz valósághű „deepfake csevegőbotja”, amely szimulálja a támadáspontokat, így az hamis képek még kifinomultabbá válnak.
The source of the article is from the blog maestropasta.cz