Baltimorská okresná polícia odhalila skandál spútaný umelej inteligencií. Voľakedy sa objavili správy o Ericovi Eisweirtovi, riaditeľovi univerzity, ktorý v hlasovom zázname podal urážlivé poznámky zamerané na africkoamerických študentov a židovskú komunitu. Tento záznam sa rýchlo šíril po sociálnych médiách, čím vyvolal kritiku a nenávistné správy voči inštitúcii a viedol k dočasnému odvolaniu Eisweirta.
Vyšetrovatelia dospeli k záveru, že kontroverzný zvukový klip nebol autentický, ale umele vytvorený. Poznamenali, že zvuk mal nezvykle vyrovnaný tón, chýbali očakávané pozadia zvukov, a chýbali normálne dýchacie zvuky alebo logické prestávky, čo odporovalo charakteristike autentickej reči.
Osobné msta odhalené ako katalyzátor. Motívom za týmto klamstvom sa zdá byť pomsta. Dazhon Darien, vo veku 31 rokov a bývalý vedúci univerzitných športových tímov, zmanipuloval tento zvukový záznam ako odpoveď na vyšetrovanie Eisweirta možného zlej správy školských finančných prostriedkov. Na vytvorenie falošného záznamu Darien pristupoval k nástrojom OpenAI a službám Microsoft Bing Chat s použitím počítačov školy.
Orgány stíhajúce trestné činy dokázali vystopovať Dariena pomocou e-mailu a telefónneho čísla spojeného s účtom použitým na vytvorenie záznamu. Následne bola vydána zatykač. Darien bol zadržaný počas bezpečnostnej kontroly na Baltimorskom medzinárodnom letisku, keď sa chystal nastúpiť na let do Houstonu v Texase. Polícia našla v jeho vlastníctve zbraň. Dazhon Darien bol prepustený na kauciu do vyšetrovania.
Preskúmanie podvodu umožneného umelou inteligenciou: Rastúca obava
S postupom technológie sa používanie umelej inteligencie (AI) pri kriminálnych aktivitách stalo novou hranicou pre páchateľov i policajné orgány. Prípad s Ericom Eisweirtom dokazuje tento nový trend, kde AI nie je len nástrojom na zlepšenie efektívnosti, ale je tiež zneužívaná na zákernejšie účely.
Kľúčové otázky a výzvy:
1. Ako môžu jednotlivci a inštitúcie overiť autenticitu digitálnych komunikácií?
2. Aké právne a etické rámce sú potrebné na riešenie trestných činov zahŕňajúcich AI?
3. Aké opatrenia možno podniknúť na zabránenie zneužitiu AI pri vytváraní uhlíkov a iných foriem digitálneho podvodu?
Výzvy v riešení hlasových podvodov vyvolaných AI zahŕňajú náročnosť detekcie, prístupnosť nástrojov AI schopných generovať deepfakes a potenciálnu závažnosť poškodenia reputácie obetí. Okrem toho sú súčasné právne rámce možno len čiastočne pripravené na riešenie nuáns AI-asistovaných trestných činov a etické smernice týkajúce sa využívania AI sú stále vo vývoji.
Výhody a nevýhody AI v generovaní hlasu:
Výhody:
– AI môže vytvárať personalizované a prispôsobené vzdelávacie materiály alebo pomáhať pri prekladových službách.
– Efektívne syntetizovanie hlasu môže pomáhať ľuďom s postihnutím alebo sa použiť v zábavnom priemysle.
Nevýhody:
– AI-generované hlasy môžu byť zneužité na vytváranie falošných materiálov, ovplyvňovanie verejného míněnka alebo znemožňovanie jednotlivcov.
– Rozlíšenie reálneho od falošného hlasov sa stáva náročnejším, čo vedie k nedôvere v digitálnu komunikáciu.
Súvisiace s témou technologické spoločnosti ako OpenAI a Microsoft, ktoré vyvíjajú nástroje AI schopné generovať syntetický obsah, sú v čele tohto problému. Často vydávajú vyhlásenia a politiky týkajúce sa etického využitia svojej technológie, čo môže poskytnúť ďalší kontext ku dôsledkom diskutovanej kauzy.
Pre ďalšie informácie o etických zvažovaniach a princípoch AI spoločností môžete navštíviť:
– OpenAI
– Microsoft
Vzhľadom na to, že sa AI stáva čoraz viac integrovanou do každodenného života, je nevyhnutné, aby jednotlivci zostali ostražití a aby sa zákony a predpisy vyvíjali smerom k ochrane proti týmto novým formám kybernetického zločinu. Výsledok prípadov ako Eisweirtov bude stanovovať precedent a pravdepodobne podporí prísnejsie kontroly nad používaním technológie generovania hlasov pomocou AI.