Съобщението посочва вълнуващ инцидент, свързан с неразбирането на технологията за гласова изкуствена интелигентност, който възниква в Пайксвил Хай Скул, където лице използва ИИ, за да създаде гласа на директора на училището, причинявайки общо безпокойство. Самозванецът, идентифициран като Дариен, бе хванат на летище „Балтимор-Уашингтон Търгуд Маршъл“ в Балтимор, докато се опитваше да се качи на полет до Хюстън. Арестът се извърши по първа заповед поради носене на огнестрелно оръжие от страна на Дариен; обаче органите откриха активно заповед за неговия арест.
Злонамереният аудиозапис, който клеветеше по адрес на афроамериканските ученици и местната еврейска общност, бързо се разпространи онлайн, като доведе до временното прекратяване на автентичния директор, г-н Айсуърт, и породи вълна от раздразнени коментари в социалните мрежи и множество телефонни обаждания към училището. Офисът на главния прокурор на щата Балтимор обвини Дариен в разваляне на учебна програма, кражба и отмъстителнопариране на свидетел. Действията му са по всичко личило на форма на отмъщение след като г-н Айсуърт разследва подозрителни плащания на Дариен към учител по физическо и като забележително съвпадение, стаята му е била съквартирантка на учителя.
След като плати кауция от 5 000 долара, Дариен бе временно освободен. Помагайки на полицията в разследването, професорите Каталин Григораш от Университета на Колорадо и Хани Фарид от Университета на Калифорния стигнаха до заключението, че аудиоклипът, който циркулира онлайн, показваше признаци на манипулация с ИИ, съставен от множество сегменти.
Събитието служи като допълнително предупреждение за опасностите от създаване на фалшиво съдържание с помощта на ИИ. С развитието на технологиите фалшивият аудио и видеоматериал става все по-уверен и трудно различим от реалността. Това представлява голямо предизвикателство в борбата с дезинформацията и измамните дейности. Недавни примери включват фалшифицирано съдържание с участието на президента Джо Байдън и манипулирани видеоклипове, клеветещи обществени личности, подчертавайки лесното възпроизвеждане на гласове с помощта на изкуствено създадени технологии днес.
Растящата заплаха от технологията на дийпфейк и нейните последици
Технологията на дийпфейк, която обхваща както аудио, така и видео манипулации, използва изкуствен интелект и машинно обучение, за да създаде фалшиви версии на реални хора, които правят или казват неща, които никога наистина не са правили. Тя става все по-достъпна и сложна, повдигайки важни въпроси и тревоги относно поверителността, сигурността и целостността на информацията.