A Microsoft nemrégiben kitalált egy új szoftvert, a VASA-1-et, egy forradalmian új mesterséges intelligencia technológiát, mely egyetlen képből, hangfelvételből és szövegből valósághű videókat képes létrehozni. A potenciális kockázatok fényében ez a rendkívüli eszköz nem kerül kereskedelmi forgalomba, azonban a cég bemutatókat mutatott be az eszköz „beszélő arcok” funkciójáról.
A VASA-1 működése úgy zajlik, hogy animálja az embereket a videóban, hogy lejátszák a megírt szöveget, hiteles hanggal és azonos érzelmi kifejezésekkel. Lenyűgöző módon mindössze egyetlen fényképre és egy rövid beszéd részletre van szüksége egy élethű ábrázolás elkészítéséhez, például egy politikus beszédét adja elő, elénk tárva az ámulatot és fenntartva a gondokat egyaránt.
Az aggodalom a mesterséges intelligencia által generált hamis videók következményei miatt komoly. Az újságírók és szakértők kifejezték aggodalmukat ennek a technológiának a társadalmi befolyását illetően, tekintettel az igazi és hamis határainak elmosódására. A Szövetségi Kereskedelmi Bizottság potenciálisan veszélyes szintet adott meg ezeknek a szintetikus médiáknak, jelentős csalásveszélyt jelentve az utánzás révén.
Ezekkel az aggodalmakkal együtt a Microsoft kiemeli a VASA-1 előnyös felhasználását, hangsúlyozva a kommunikációs fogyatékossággal élők segítésére, az oktatási környezetekben és az egészségügyben való alkalmazásokban, például virtuális orvos eszközök.
Azonban felmerül a kérdés, hogy ilyen szoftvert kellett-e fejleszteni tudva annak lehetséges visszaéléseit. A Microsoft, miközben felismeri az etikai dilemmákat, védelmezi a létrehozást, kiemelve a lehetséges előnyöket. Közben az ipari szakértők óvatosságra intenek az AI fejlesztés által felülmúlt jogszabályok gyors tempója miatt, sürgősen hatékony ellenőrző intézkedések szükségességét sürgetve.
Kapcsolódó tények:
– A mesterséges intelligencia (AI) technológia, mint a Microsoft VASA-1, része egy szélesebb területnek, amit mélytanulásnak neveznek, mely az utóbbi években jelentős előrelépéseket tett a valósághű szintetikus médiák generálásában.
– A VASA-1-hoz hasonló technológiák olyan kérdéseket vetnek fel, mint a „deepfake,” mely az AI felhasználásával készít valótlan videókat vagy hangfelvételeket, amelyek valóságosnak tűnnek. Ez súlyos következményekkel jár a téves információk terjesztése és a hamis hírek terjedése szempontjából.
– Az AI etikai irányelvek és keretrendszerek kidolgozása, különösen a felelős AI-t érintően, fontos téma vált. Szervezetek, mint a Partnership on AI, amelyhez a Microsoft is csatlakozott, az AI technológiák legjobb gyakorlatainak megértésén és kidolgozásán dolgoznak.
– A Microsoft AI-etikához való hozzáállása olyan elvek által vezérelve, mint a méltányosság, megbízhatóság és biztonság, magánélet és biztonságosság, befogadás, átláthatóság és felelősségre vonhatóság.
Kulcskérdések és válaszok:
– Milyen kockázatokkal jár olyan technológiák, mint a VASA-1? A fő kockázat a deepfake-ek generálása, amelyek rosszindulatú célokra használhatók a téves információk terjesztésére, csalások elkövetésére vagy személyazonosság lopására.
– Hogyan tervezi a Microsoft megakadályozni a VASA-1 visszaéléseit? Habár az cikkben nem említik, a Microsoft valószínűleg belső irányelvekkel rendelkezik, és lehet, hogy külső partnerekkel együtt dolgozik annak érdekében, hogy ilyen technológiákat felelősen használjanak, és lehet, hogy kifejlesztik az észlelőeszközöket a szintetikus médiákra.
Kulcskérdések vagy viták:
– Etikai dilemmák: A kihívás az innováció és az etikai szempontok egyensúlyozása. A VASA-1 ugyan forradalmi, de ugyanakkor potenciálisan használható etikátlan célokra.
– Szabályozási lemaradás: Az AI technológia gyorsabban fejlődik, mint ahogy a szabályozó keretek fel tudnának zárkózni, ezáltal kihívást okozva a normák és törvények kialakításában az használatára vonatkozóan.
Előnyök és hátrányok:
– Előnyök:
– Előnyök a fogyatékossággal élők számára, oktatási eszközök, egészségügy, és más iparágak számára.
– Innováció és új művészeti és kommunikációs formák kialakításának lehetősége.
– Hátrányok:
– A deepfake-ek létrehozásával járó visszaélés kockázata.
– A téves információ terjedésének és a média iránti közvélemény megingásának potenciális kockázata.
Ajánlott kapcsolódó linkek:
– További információkért a Microsoft AI-jével kapcsolatban látogasson el a főoldalukra: Microsoft.
– További információkért a Partnership on AI-ról és az AI-etikai irányelveikről: Partnership on AI.
Kérjük, vegye figyelembe, hogy további részletek, mint például a Microsoft által tervezett specifikus biztonsági intézkedések a VASA-1-hez, annak technológiai megjelenítése, valamint a kiemelt etikai aggodalmakkal kapcsolatos együttműködések és partnerségek más entitásokkal nem voltak megadva az engedélyezett cikkben, így azokat nem kezeltük itt.
The source of the article is from the blog enp.gr