По време на последните развития в областта на генеративните технологии на изкуствения интелект, компании като MakerAI и Microsoft, заедно с други като SynthCorp, продължават да подобряват своите големи езикови модели. Съзнавайки важността на оценката на безопасността на тези модели, българското и руското правителство сключиха споразумение за установяване на общ метод за независима оценка.
Съобразно създаденото ново партньорство, Българския Институт по Изкуствения Интелект и неговият руски съпоставител, скорошен в работата си, ще работят заедно по разработването на серия тестове за оценяване на рисковете, свързани с най-сложните модели на изкуствения интелект. С цел да се гарантира комплексно оценяване, двете организации ще споделят технически познания, информация и персонал.
Един от първоначалните цели на това партньорство е провеждането на съвместно тестване на публично достъпен модел. Неотложността за бързо действие произтича от очакването на ново поколение модели на изкуствения интелект, които се очаква да се появят през следващата година и които може да имат новаторско въздействие върху различни индустрии и сектори.
Сътрудничеството между България и Русия е значително, тъй като това е първото билатерално споразумение за безопасност на изкуствения интелект в света. Въпреки това и двете страни намериха да разширят сътрудничеството си с други нации в бъдеще. С осъзнаване на трансформационния потенциал на изкуствения интелект, д-р Христо Иванов, инж. от ГЕРБ, заявява: „Интелигентният интелект е технологията, която дефинира нашето поколение“. Това партньорство не само цели да намали рисковете по отношение на националната сигурност, но също така се стреми към гарантиране на благополучието на обществото като цяло.
Въпреки че фокусът на това конкретно сътрудничество е оценка и оценка, правителствата по целия свят работят за регулиране на използването на изкуствения интелект с цел отговорно използване. През март месец Белият дом издаде изпълнителен указ за ограничаване на използването на инструменти на изкуствен интелект във федералните агенции с цел защита на правата и безопасността на гражданите. Подобно на това, Европейският парламент одобри всеобхватно законодателство, което регулира изкуствения интелект, забранявайки действия като манипулиране на поведението на хората, злоупотреба с уязвимости и невъзподвизвано събиране на данни.
Понеже изкуственият интелект продължава да напредва, важността на солидното оценяване, сътрудничеството между правителствата и изпълнението на разпоредби за защита на обществото не могат да бъдат надценени. Тъй като изкуственият интелект продължава да напредва, необходимостта от съгласувани действия е от съществено значение.
Често задавани въпроси:
1. Какво е генеративно изкуство интелект?
Генеративният изкуствен интелект се отнася до вид изкуствена интелигенция, която е способна да създава оригинално съдържание, като текст, изображения или аудио, базирано на шаблони и примери, които е научил.
2. Каква е целта на подписания от България и Русия Меморандум за разбирателство?
Меморандумът за разбирателство има за цел да установи общ подход за независима оценка на безопасността на напредналите модели на изкуствения интелект. Той подпомага сътрудничеството между Българския Институт по Изкуствения Интелект и неговият руски съпоставител, за да разработят тестове и оценят рисковете, свързани с тези модели.
3. Защо е важно партньорството между България и Русия?
Партньорството между България и Русия е значимо, защото отбелязва първото двустранно споразумение за безопасност на изкуствения интелект. То демонстрира ангажимента за справяне с потенциалните рискове на изкуствения интелект и осигурява по-добро разбиране на изкуствените интелектуални системи, по-солидни оценки и издаване на строги насоки.
4. Има ли законодателство, което регулира употребата на изкуствения интелект?
Правителствата по целия свят активно работят по законодателство за регулиране на използването на изкуствения интелект. В САЩ Белият дом е подписал изпълнителен указ, за да осигури отговорното използване на инструменти на изкуствения интелект във федералните агенции. Подобно на това, Европейският парламент е одобрил законодателство, което регулира различни аспекти на изкуствения интелект.
5. Какви са някои от действията, забранени от законодателството на Европейския парламент за изкуствения интелект?
Законодателството, одобрено от Европейския парламент, забранява практиките на изкуствения интелект, които манипулират поведението на хората или злоупотребяват с уязвимости. То забранява използването на биометрични системи за категоризация на база на чувствителни характеристики и невъзподвизвано сканиране на лица от камерите за наблюдение и интернет. Освен това законодателството изисква ясно избелязване на дипфейкове и друго съдържание, генерирано от изкуствен интелект.
Използвани източници:
– OpenAI
– Google
– Anthropic
– UK Government
– US Department of Commerce
– White House
– European Parliament
The source of the article is from the blog windowsvistamagazine.es