Въведение:
Скорошният законодателен акт, постигнат след преговори с държавите-членки, срещна значително одобрение и има за цел да се адресират потенциалните рискове, свързани с изкуствения интелект (ИИ), като по същото време се насърчават иновациите. Чрез фокус върху защитата на основните права, демокрацията, принципите на правовата държава и екологичната устойчивост, този нов законодателен акт позиционира Европа като лидер в областта на ИИ.
Забранени приложения:
За да защити правата на гражданите, регулацията забранява определени приложения на ИИ. Това включва използването на биометрични системи за категоризация, основани на чувствителни характеристики и нецелени сканиране на лица за създаване на бази данни за разпознаване на лица. Разпознаването на емоции на работното място и в училищата, социалното оценяване, предвидива полиция, изцяло основана на профилиране, и ИИ, предназначен да манипулира човешкото поведение или да злоупотребява с уязвимости, са също забранени съгласно новите правила.
Изключения за правоприлагането:
Въпреки че законодателният акт заема твърда позиция за гарантиране на защитата на правата на лицата, той признава необходимостта от ограничени изключения за правоприлагането. Използването на биометрични системи за идентификация (RBI) от правоприлагащи органи обикновено е забранено, освен в конкретни и ясно дефинирани сценарии. Поставянето на „реално време“ RBI изисква строги защити, като времеви и географски ограничения, както и ясно съдебно или административно разрешение. Използването на такива системи след събитието („после-отдалечен RBI“) се счита за високорисково и изисква съдебно разрешение, свързано с уголовно престъпление.
Задължения за високорисковите системи:
За да се адресират потенциалните вреди за здравето, безопасността, основните права, околната среда, демокрацията и принципите на правовата държава, регулацията налага ясни задължения за високорисковите системи на изкуствения интелект. Тези изисквания се отнасят до критичната инфраструктура, образованието, професионалното обучение, заетостта, основните обществени и частни услуги (например, здравеопазването, банкирането), определени системи за правоприлагане, миграцията и управлението на границите, както и правосъдието и демократичните процеси (например влиянието на изборите). Високорисковите системи трябва да извършват оценка и намаляване на риска, да поддържат комплексни регистри за използване, да интегрират прозрачност и точност и да осигурят човешки надзор. Освен това гражданите имат правото да подават жалби относно системите на изкуствения интелект и да получават обяснения за решенията, които засягат техните права, когато участват високорискови системи на изкуствения интелект.
Изисквания за прозрачност:
Регулацията подчертава необходимостта от прозрачност в системите на общия ИИ (GPAI) и моделите, които ги подкрепят. Тези изисквания включват спазването на законодателството за авторските права на ЕС и публикуването на подробни резюмета на съдържанието, използвано за обучение. Особено мощните модели GPAI, които биха могли да представляват системни рискове, ще подлежат на допълнителни изисквания, като преминаване през оценки на модели, анализиране и намаляване на системните рискове и предоставяне на доклади за инцидентите. Освен това регулацията задължава ясно маркиране на изкуствени или манипулирани изображения, аудио или видео съдържание („deepfakes“).
Мерки за подкрепа на иновациите и МСП-тата:
Като признава важността на насърчаването на иновациите, регулацията дава правомощия на националните органи да създадат регулаторни пясъчници и да улеснят тестването на живо. Тези разпоредби имат за цел да позволят на малките и средните предприятия (МСП-та) и стартъпите да разработват и обучават иновативни технологии на изкуствения интелект, преди да ги пуснат на пазара.
ЧЗВ (Често задавани въпроси):
В: Каква е целта на недавно ратифицирания законодателен акт за изкуствения интелект?
О: Законодателният акт за ИИ има за цел да защити основните права, демокрацията, принципите на правовата държава и екологичната устойчивост, както и да насърчава иновациите в областта на изкуствения интелект.
В: Има ли забранени приложения на ИИ съгласно новата регулация?
О: Да, определени приложения на ИИ, като биометричните системи за категоризация, основани на чувствителни характеристики и нецелените скани на лица, както и разпознаването на емоции на работното място и в училищата, социалното оценяване, предвиденията на полицията изцяло базирани на профилиране и ИИ, създаден да манипулира човешкото поведение или да злоупотребява с уязвимости, всички са забранени.
В: Има ли изключения за правоприлагащите органи?
О: Да, съществуват ограничени изключения за използването на биометричните системи за идентификация (RBI) в правоприлагащите органи, при спазване на строги защити, включително ясно разрешение и спазване на времеви и географски ограничения.
В: Какви са задълженията, налагани на високорисковите системи на изкуствения интелект?
О: Високорисковите системи на ИИ трябва да преминат през оценка и намаляване на риска, да поддържат комплексни регистри за използване, да гарантират прозрачност и точност и да интегрират човешки надзор. Гражданите също имат правото да подават жалби и да получават обяснения за решенията, въздействащи техните права, когато се включат в високорискови системи на ИИ.
В: Как регулацията се справя с прозрачността?
О: Системите за общо назначение на ИИ трябва да спазват изискванията за прозрачност, включително спазването на законодателството за авторските права, публикуването на резюмета на съдържанието от обучение и ясното маркиране на изкуствените или манипулирани изображения, аудио или видео съдържание („deepfakes“).
В: Как регулацията подкрепя иновациите и МСП-та?
О: Регулацията позволява създаването на регулаторни пясъчници и тестване в реални условия на национално ниво, като предоставя на МСП-та и стартъпите възможности да разработват и обучават иновативни технологии на изкуствения интелект.
Заключение:
С този новаторски законодателен акт Европа прави значителна крачка към гарантирането на отговорното развитие и използване на изкуствения интелект. Чрез намирането на баланс между опазването на основните права и насърчаването на иновациите, Европа се позиционира като глобален лидер в тази бързо развиваща се област.
Източник:
[URL на домейна]
Дефиниции:
– Изкуствен интелект (ИИ): Симулацията на човешкия интелект в машини, програмирани да мислят и учат като хората.
– Биометрични системи за категоризация: Системи, използващи биометрични данни, като лицеви характеристики, пръстови отпечатъци или сканировки на ириса, за категоризиране на лицата.
– Бази данни за разпознаване на лица: Бази данни, които съхраняват лицеви изображения с цел идентификация на лица.
– Разпознаване на емоции: Възможността на системите на ИИ да откриват и интерпретират емоциите на хората въз основа на лицевите им изрази, тонът на гласа или други физиологични сигнали.
– Предвиждаща полиция: Използването на алгоритми на ИИ за анализ на данни и предвиждане на криминални модели или идентифициране на потенциални престъпници.
– Профилиране: Процесът на анализ и категоризиране на хората въз основа на техните лични, социални или поведенчески характеристики.
– Прозрачност: Принципът на предоставяне на ясна и разбираема информация за технологиите, алгоритмите и процесите за вземане на решения, използвани в системите на ИИ.
– Общо назначение на ИИ (GPAI): Системи на ИИ, проектирани да изпълняват широка гама от задачи и функции.
– Дийпфейкс: Изкуствени или манипулирани изображения, аудио или видео съдържание, които изглеждат като реални, но са променени или създадени с помощта на технология на ИИ.
Свързани връзки:
– Създаване и иновации в Европа
– Регулаторни пясъчници в Европа
– Стратегия на Европейската комисия за изкуствения интелект
– Бяла книга за изкуствения интелект – Европейската комисия
The source of the article is from the blog xn--campiahoy-p6a.es