Токийският митрополитенски полицейски управление е задържало 25-годишен безработен мъж на име Рю Хикару, пребиваващ в град Кавасаки, по обвинения за злонамерено използване на генеративен изкуствен интелект (ИИ) за създаване на компютърни вируси с цел изтреба на редове с криптовалута и шифроване на файлове. Преди този случай, Хикару беше обвинен в измамни действия. Подозира се, че той използвал отговори от няколко генеративни ИИ инструмента, за да създаде вируса.
Задържането за използване на генеративен ИИ за създаване на вирус е потенциално първият случай от такъв род в Япония. Хикару, който преди е работил във фабрика без опит в ИТ или сходно образование, е показал интерес към лесното печелене на пари чрез рекетиране, което сега е признал. Той вярвал, че изкуственият интелект може да се справи с всяка задача, ако му бъдат зададени правилните въпроси.
Американската компания OpenAI предприема усилия да засили системите си, като ChatGPT, за да предотврати отговори на заявки, които могат да бъдат използвани злонамерено за престъпни цели. Въпреки това, Хикару избегна тези предпазни мерки, като изследва методи онлайн и използва множество анонимни, безплатни, генеративни ИИ приложения за чат, внимателно скривайки своите намерения, докато търсеше да създаде вирус.
Ключови въпроси и отговори:
В: Какви конкретни ИИ инструменти използва Рю Хикару за създаване на зловреден софтуер?
О: Статията не посочва конкретните ИИ инструменти, използвани от Хикару, само споменавайки, че той използвал отговори от няколко генеративни ИИ инструмента.
В: Как Рю Хикару успя да избегне предпазните мерки, въведени от разработчиците на ИИ?
О: Хикару изследва методи онлайн, за да обойде предпазните мерки и използва няколко анонимни, безплатни генеративни ИИ приложения за чат. Той скрива своите злонамерени намерения, докато търси да създаде вирус.
В: Какви са последствията от този инцидент за разработчиците на ИИ и киберсигурността?
О: Този инцидент подчертава потенциала за злоупотреба на технологията на ИИ и подчертава необходимостта от надеждни предпазни мерки и непрекъснато наблюдение от страна на разработчиците на ИИ. Той също така подчертава важността на развитието на киберсигурностните мерки за борба с заплахите от ИИ.
Предизвикателства и спорове:
Едно от големите предизвикателства в случая с използването на ИИ за създаване на зловреден софтуер е етичното използване на тези технологии. Докато ИИ става по-сложен, той може да се използва както за полезни, така и за вредни цели. Възниква спор за отговорността на разработчиците и платформите да наблюдават и контролират използването на техните ИИ системи, за да предотвратят злоупотреба без да нарушават личната неприкосновеност и свобода на изразяване.
Другото предизвикателство е способността на правоприлагащите органи да вървят в нагоре с темпото на технологичното развитие. С развитието на хора с лоши намерения, които използват по-сложна технология, става все по-трудно да се откриват и предотвратяват киберпрестъпления.
Предимства и недостатъци:
Предимства:
– Арестът на Хикару показва, че полицейските служби се развиват и могат да идентифицират и задържат лица, злоупотребяващи с технологията на ИИ.
– Това може да доведе до по-силни киберсигурностни мерки и по-сигурни ИИ системи, разработени от компаниите, за да се предотвратят подобни инциденти в бъдеще.
Недостатъци:
– Използването на ИИ за създаване на зловреден софтуер представя значително нарастване на киберзаплахите, което може да направи по-трудно за хората и бизнесите да се защитават.
– Възникват загрижености за личността и наблюдението, тъй като ИИ инструментите биха могли да изискват допълнително наблюдение.
– Софтуерът за създаване на вируси от ИИ може да доведе до „състезание за въоръжение“ между киберпрестъпниците и професионалистите по киберсигурност, с нарастване на разходите и сложността в защитата срещу киберзаплахите.
За допълнителна информация относно развитието и приложението на технологиите на ИИ, посетете OpenAI. За информация относно киберсигурността и как да се предпазите от зловреден софтуер и рекети, можете да посетите Агенция за киберсигурност и инфраструктурна сигурност (CISA). Моля, обърнете внимание, че предоставих тези URL адреси, предполагайки, че те са верни и ви довеждат до основния домейн, както беше поискано, без да водят до подстраници.
The source of the article is from the blog regiozottegem.be