Скоро открит доклад, поръчан от правителството, подчертава належащата необходимост от бърза акция в отговор на развитието на изкуствен интелект (ИИ). Докладът, озаглавен „План за действие за повишаване на безопасността и сигурността на напредната ИИ“, предупреждава, че настъпването на напреднала ИИ и AGI (изкуствена обща интелигентност) би могло да представлява сериозна заплаха за глобалната сигурност и потенциално да доведе до изтребяване на хората.
Докато този доклад подчертава належащата необходимост от намеса, той също предлага план за действие, за да се адресират тези критични проблеми. През 13 месеца изследователи от Gladstone AI Inc. проведоха интервюта с различни странични участници, включително правителствени служители, големи доставчици на облачни услуги, организации за безопасност на ИИ и експерти по сигурност и изчисления. Техните намиране подчертават паралелите между настъпването на ИИ и историческото въвеждане на ядрени оръжия, което отваря пътя за дестабилизация на глобалната сигурност.
За справяне с тези рискове, докладът предлага установяването на временни напредни ИИ гаранции, които по-късно ще бъдат формализирани в закон. Една потенциална мярка е създаването на специализиран агент за ИИ, отговорен за регулирането на изчислителната мощ, с която ИИ работи. Освен това компаниите за ИИ може да изискват разрешение на правителството за разгъване на нови модели, превишаващи определен праг. Друго решение, предложено от доклада, е ограничаването на разкриването на начина, по който функционират мощните модели на ИИ, включително потенциалното забраняване на лицензирането с отворен код, което разкрива тази информация.
За да се предотврати злоупотребата с технологията на ИИ, докладът също подчертава важността на усъвършенстването на контролите върху производството и износа на чиповете за ИИ. Чрез налагане на по-строги регулации, правителството цели да ограничи потенциалната военнополеващост и загубата на контрол върху напредналата ИИ.
Технологичният пейзаж бързо се развива, а намеренията в докладът подчертават необходимостта от незабавно действие, за да се защитим срещу потенциалните рискове, свързани с ИИ. Докато правителствата и организациите по целия свят се борят с тези предизвикателства, внедряването на здрави гаранции и международно сътрудничество ще бъде от съществено значение за гарантиране на безопасността и сигурността на напредналата ИИ.
ЧЗВ:
В: Каква е основната загриженост, адресирана в доклада, поръчан от правителството?
О: Докладът подчертава загрижеността, че развитието на напреднала ИИ и AGI може да представлява сериозна заплаха за глобалната сигурност и потенциално да доведе до изтребяване на хората.
В: Какво предлага докладът като решение за адресиране на тези проблеми?
О: Докладът предлага установяването на временни напредни ИИ гаранции, които по-късно ще бъдат формализирани в закон. Предлага създаване на специализиран агент за ИИ, отговорен за регулиране на изчислителната мощ на ИИ и потенциално изискване на разрешение на правителството за разгъване на нови модели на ИИ.
В: Как докладът предлага ограничаване на разкриването на функционирането на моделите на ИИ?
О: Едно от решенията, предложени в доклада, е потенциалното забраняване на лицензирането с отворен код, което разкрива начина, по който функционират мощните модели на ИИ, тъй като това ограничава разкриването на тази информация.
В: Каква е важността на контролите върху производството и износа на чиповете за ИИ?
О: Докладът подчертава важността на усъвършенстването на контролите върху производството и износа на чиповете за ИИ, за да се предотврати злоупотребата и потенциалната военнополеващост на технологията на ИИ.
The source of the article is from the blog radardovalemg.com