Софистицираната измама с дълбок фейк води до значителна финансова загуба в Arup, добре познатата британска инженерна компания. Компанията потвърди използването на изкуствен интелект за създаване на убедителни реплики на своите служители по време на видеоконференция, което доведе до измамен превод на средства в размер на 23 милиона евро.
Служител на глобалната компания, работещ в техния офис в Хонконг, стана жертва на измамата. Той участва в това, което той вярваше, че е легитимна видеоконференция, предполагаемо включваща финансовия директор на компанията и други колеги. Все пак, тези участници се оказаха изкуствени създания, генерирани от технологията за дълбок фейк.
Въпреки началните съмнения, породени от имейл, споменаващ „тайна трансакция“, съмненията на служителя бяха разсеяни от убедителния характер на видеоконференцията. Имитиращите дълбок фейк понесоха удивително сходство с реални колеги и говореха по подобен начин.
Тази нещастна сигурностна нарушение доведе до упълномощаването на служителя за извършване на 15 отделни плащания, общо на стойност 200 милиона хонконгски долара, към различни сметки. Нередовността на трансакциите излезе наяве само след като загриженият служител се свърза с лондонското ръководство за потвърждение, предупреди ги за измамата и подтикна за допълнително разследване.
Позната със своите впечатляващи постижения като построяването на Оперния театър в Сидни и Националния стадион в Пекин, известен като „Птичето гнездо“, Arup има около 18 000 служители по целия свят и докладва приходи от около 2,3 милиарда евро през последната година.
Предизвикателства и Контроверзии:
Инцидентът с Arup подчертава няколко предизвикателства и контроверзии, свързани с технологията на дълбок фейк. Основното безпокойство, породено от такива инциденти, е в трудността при разграничаването между реално и фалшиво аудиовизуално съдържание, което представлява значителна заплаха за процесите на проверка на цифрови идентичности. Това може да доведе до финансови измами, както е видяно в случая на Arup, както и до увреждане на личностната репутация, кампании за дезинформация и потенциални политически последици.
Другото предизвикателство е легалното и етичното използване на технологията на дълбок фейк. Въпреки че има легитимни приложения като в развлекателната индустрия или за образователни цели, потенциалът за злоупотреба предизвиква въпроси относно регулацията и контрола. Правните рамки отстъпват пред бързото развитие на технологията на дълбок фейк, което прави трудно за жертвите да търсят компенсация.
Предимства и Недостатъци:
Инцидентът в Arup също разкрива двойната природа на технологията на дълбок фейк. От една страна, има определени предимства като възможността му да произвежда хипер-реалистични симулации за филмовата индустрия, намалявайки разходите и времето за специални ефекти. Той също може да бъде използван в обучителни симулации, предоставяйки реалистична и затоплителна среда без нужда от физическо присъствие.
От друга страна, недостатъците са особено сериозни в контекста на измамите. Дълбок фейк може да подкопае доверието в цифровите комуникации и трансакции, да застраши сигурността на критични бизнес процеси и да увеличи риска от усъвършенствани социални инженерни атаки. Лесността, с която хората могат да бъдат имитирани, довежда до постоянна заплаха за поверителността и сигурността.
Ключови Въпроси и Отговори:
– Каква е технологията на дълбок фейк?
Технологията на дълбок фейк е вид изкуствен интелект, който използва алгоритми за машинно обучение за създаване на фалшиви аудио и видео записи, които изглеждат много реалистични. Често това включва наслагване на съществуващи изображения и видеозаписи върху изходни изображения или видеозаписи, използвайки техника, известна като генеративна антиагресионна мрежа (GAN).
– Какви са текущите защити срещу измамите с дълбок фейк?
Противодействието срещу измамите с дълбок фейк включва разработването на софтуер за откриване, който може да разпознае фините признаци, че изображение или видеозапис са били манипулирани. Обучаването на служители за потенциала за такива измами, въвеждането на по-строги протоколи за верификация и използването на сигурни, удостоверени комуникационни канали са също важни защити.
– Как компаниите могат да намалят риска да станат жертва на измами с дълбок фейк?
Компаниите могат да намалят риска, като засилят вътрешните си процедури за трансфер на средства, като въведат множествени стъпки за верификация, като не се доверяват само на видео или гласова потвърждение и като обучават персонала си да бъде скептичен към необичайни заявки, дори ако изглеждат да идват от високопоставени служители в компанията.
– Колко значителна е заплахата, представяна от технологията на дълбок фейк?
Заплахата е значителна и нарастваща по мярка, както технологията става по-лесно достъпна и убедителна. Това не е проблем само за физически лица и бизнеси, но и за националната сигурност, тъй като може да се използва за създаване на дезинформация и дестабилизиране на политическите и социални системи.
За онези, които се интересуват от узнаването на по-широките последствия на дълбок фейкове и свързаните с тях технологии, предложени ресурси (без конкретни връзки) включват уважаеми технологични новинарски уебсайтове, ресурси за киберсигурност и академични списания относно изкуствения интелект и цифровата криминалистика.
The source of the article is from the blog qhubo.com.ni