В напреднало и тревожно развитие, Microsoft разкри, че държавно подпомагани хакерски групи от Русия, Китай и Иран се възползват от мощта на изкуствен интелект (ИИ) инструменти, предоставени от OpenAI. Тези групи, включително руската военна разузнавателна служба, Иранската революционна гвардия, и правителствата на Китай и Северна Корея, използват големи езикови модели като ChatGPT на OpenAI, за да подобрят своите кибер шпионажни кампании.
За да се противодейства на този тревожен тренд, Microsoft заема твърда позиция и се обявява, че ще забрани на държавно подпомаганите хакерски групи да използват нейните ИИ продукти. Въпреки законовите или условия за обслужване задължения, Microsoft има за цел да ограничи достъпа до тези напреднали технологии, за да предотврати техното злоупотреба и потенциално компрометиране на чувствителна информация.
Цитирайки заместник-президента на Microsoft за клиентска сигурност Том Бърт, той изрази силната позиция на компанията, като заяви: „Ние просто не… искаме те да имат достъп до тази технология.“
Както се очакваше, обвинените държави реагираха по различен начин на обвиненията. Докато руските, севернокорейски и ирански официални лица не дадоха незабавни коментари, представителят на китайското посолство в САЩ, Лю Пенгю, отреке обвиненията. Пенгю изрази твърдото противопоставяне на Китай на неоснователните атаки и подчерта вниманието към подкрепата им за използването на ИИ технологии за полза на човечеството, но с безопасност, надеждност и контролируемост като съществени предвидения.
Тази разобличаване на държавно подпомаганите хакери, които злоупотребяват с ИИ инструменти, повишава загрижеността относно възможните последствия и злоупотреба на тази трансформационна технология. От миналата година интернет сигурностните служители в Западните страни предупреждават за злоупотребата на ИИ инструменти от злонамерени лица.
Въпреки че OpenAI и Microsoft се отнасят към употребата на ИИ инструменти от страна на хакерите като „ранен етап“ и „постепенен“, е от съществено значение да се разберат подчертаните рискове. Microsoft поясни, че тези хакерски групи използват големи езикови модели за различни цели. Руските хакери се фокусират върху проучване на военни технологии, особено спътникови възможности, отнасящи се до военни операции в Украйна. Севернокорейските хакери се опитват да заблуждават експерти, генерират съдържание, което може да извлече стойностна информация. Междувременно иранските хакери използват моделите за съставяне на по-убедителни имейли, с цел привличане на дамски лидери към опасни уебсайтове.
Освен това, китайските държавно подпомагани хакери експериментират с големи езикови модели, търсейки отговори на въпроси относно враждебните разузнавателни агенции, проблеми с онлайн сигурността и известни личности.
Въпреки че пълният мащаб на дейността и броят на забранените потребители остават непосочени, активната забрана на хакерски групи от страна на Microsoft подчертава потенциалните опасности, свързани с бързото развитие и използване на ИИ. Както правилно посочи Том Бърт, „Тази технология е и нова, и невероятно мощна.“
Докато светът се бори с развиващия се пейзаж на кибер заплахите, е от съществено значение за правителствата, технологичните компании и индивидите да работят съвместно и усърдно за установяване на здрави защити срещу все по-голямата извършена от държавите кибер шпионажна дейност. Отговорната и етична употреба на ИИ трябва да бъде приоритет, за да се запази доверието, сигурността и поверителността в цифровата епоха.
The source of the article is from the blog jomfruland.net