Изследователи от Харвард Бизнес Училище наскоро разгледаха тревожен тенденция: нарастването на сложни онлайн измами, особено фишинг атаките, подпомагани от напредъка в изкуствен интелект (ИИ). Техните изследвания показват, че тревожни 60% от участниците бяха объркани от ИИ-генерирани фишинг имейли, които демонстрират успешност на равнище с тези, създадени от хора.
Фишинг схемите се базират на измамни комуникации, често замаскирани като легитимни имейли или съобщения от уважаеми източници, за да измамят хората да разкрият чувствителна лична информация като данни за кредитни карти, пароли или други поверителни данни.
Въпреки че фишингът съществува почти от самото начало на интернета, изследователите в момента предупреждават, че големите езикови модели предвещават увеличение на неговата сериозност. Тези мощни форми на ИИ се обучават на големи количества текстови данни и могат да автоматизират целия процес на фишинг — от създаване на имейли и избор на целите до събиране на информация, терминиращи разходите за изпълнение на измамата с до 95%.
Изследването предполага мрачна прогноза, предвиждайки значително нарастване на и качеството, и количество на измамническите дейности в близко бъдеще. В същото време изследователите признават, че големите езикови модели биха могли да бъдат използвани за откриване и борба срещу тези измамнически опити.
Тестовете показаха, че не всички ИИ модели са равни, с някои от тях значително по-добри от хората дори във фините фишинг опити. Тези модели могат също да предложат добри съвети за реакция след точно идентифициране на фишинг имейлите.
И накрая, за да избегнат такива измами, Комисията за търговия на товари препоръчва никога да не цъкате върху линкове от непознати източници в имейли или съобщения и да сигнализирате за съмнителни комуникации на Групата за работа по анти-фишинг. С развитието на ИИ технологиите, различаването между легитимната кореспонденция и измамните опити за фишинг може да стане все по-трудно, като подтиква хората и фирмите да останат нащрек и информирани.
The source of the article is from the blog agogs.sk