Предупрежденията на експерти по детската безопасност и изследователи за потенциалните рискове, които изкуственият интелект (ИИ) дава възможност за експлоатация на деца в онлайн среда, подчертават смутността на този въпрос.
Според Националния център за изчезнали и експлоатирани деца (NCMEC) в САЩ, през миналата година имаше 4 700 доклада относно съдържание, генерирано от ИИ, което изобразява сексуална експлоатация на деца. Тази тревожна цифра показва, че въпросът се задълбочава и се очаква да се влоши с развитието на технологиите на ИИ.
Въпреки че NCMEC все още не е разкрил общия брой на докладите за съдържание с детска злоупотреба, получени от всички източници през 2023 г., организацията разкри, че през само миналата година е получила около 88,3 милиона файла. Тези доклади идват от сами генеративни ИИ компании, онлайн платформи и от индивиди, които случайно се натъкват на такова съдържание.
NCMEC играе решаваща роля като национален център за докладване на съдържание с детска злоупотреба на правоохранителните органи. Джон Шихан, вицепрезидент на NCMEC, подчертава, че злоупотребата с деца, възможна благодарение на ИИ, неспорно се проявява.
Съвсем наскоро изпълнителните директори на Meta Platforms, X, TikTok, Snap и Discord бяха подложени на допитване по време на изслушване в Сената, посветено на онлайн безопасността на децата. Законодателите допитваха тези социални медии и компании за съобщенията им за защита на децата от онлайн хищници.
Изследователи от Stanford Internet Observatory публикуваха доклад през юни, подчертавайки тревожния потенциал за злоупотребители да използват генериращ ИИ, за да създават нови изображения, които наподобяват истински деца. Понеже тези материали, генерирани от ИИ, се превръщат във все по-реалистични фотографии, разграничаването между истинските жертви и създавания от ИИ еднократно създадени предизвикателство.
За борба с този нарастващ проблем организацията OpenAI, стояща зад популярната ChatGPT, е въвела система за предаване на доклади на NCMEC. Започнати са разговори между NCMEC и други генеративни ИИ компании с цел създаването на подобни мерки.
Развитието на ИИ носи и иновации и отговорности. Докато обществото продължава да освобождава потенциала на технологията на ИИ, е от съществено значение да се запази бдителност във възникващите притеснения и да се гарантира защитата на уязвимите лица, особено на децата.
ЧЗВ:
В: Какво е тъмната страна на ИИ?
О: Тъмната страна на ИИ се отнася до потенциалните рискове и негативните последици от технологията на изкуствения интелект, особено във връзка с онлайн експлоатация.
В: Колко доклада имаше миналата година за съдържание, генерирано от ИИ, изобразяващо сексуална експлоатация на деца?
О: Според NCMEC през миналата година са имали 4 700 доклада относно съдържание, генерирано от ИИ, изобразяващо сексуална експлоатация на деца.
В: Колко файла получи NCMEC през 2022 г. относно съдържание с детска злоупотреба?
О: Само през 2022 г. NCMEC получи около 88,3 милиона файла, свързани със съдържание с детска злоупотреба.
В: Коя е ролята на NCMEC в решаването на този проблем?
О: NCMEC играе решаваща роля като национален център за докладване на съдържание с детска злоупотреба на правоохранителните органи.
В: Кои социални медии и компании за съобщения бяха подложени на допитване по въпроса за онлайн безопасността на децата?
О: Изпълнителните директори на Meta Platforms, X, TikTok, Snap и Discord бяха подложени на допитване в Сената по въпроса за онлайн безопасността на децата.
В: Какво подчерта докладът на Stanford Internet Observatory?
О: Докладът на Stanford Internet Observatory подчертава тревожния потенциал за злоупотребители да използват генеративен ИИ, за да създават нови изображения, които наподобяват истински деца.
В: Какви мерки са предприели OpenAI и други генеративни ИИ компании за борба с този проблем?
О: OpenAI въведе система за предаване на доклади на NCMEC, а в момента се провеждат разговори между NCMEC и други генеративни ИИ компании за създаване на подобни мерки.
Дефиниции:
– ИИ (изкуствен интелект): Технология, която позволява на машините да изпълняват задачи, които обикновено изискват човешки интелигентност.
– Съдържание с детска злоупотреба: Съдържание, което изобразява сексуална експлоатация или злоупотреба с деца.
– Генеративен ИИ: Изкуствен интелект, който е способен да генерира нови данни или съдържание, като изображения или текст.
– NCMEC (Национален център за изчезнали и експлоатирани деца): Национална организация, която се занимава с предотвратяване на отвличанията на деца, сексуалната експлоатация на деца и търсенето на изчезнали деца.
– Социални медии и компании за съобщения: Компании, предоставящи онлайн платформи и услуги, чрез които потребителите могат да се свързват, комуникират и споделят съдържание с други хора.
Предложени свързани връзки:
Национален център за изчезнали и експлоатирани деца
OpenAI
Университетът Станфорд
The source of the article is from the blog agogs.sk