Изкуственият интелект (ИИ) се развива с бързи темпове, но експертите предупреждават, че държавите, включително Канада, трябва бързо да действат, за да внедрят мерки за гарантиране на отговорното и безопасно развитие на системите за изкуствен интелект. Според доклад, поръчан от Министерството на външните работи на САЩ, развитието и внедряването на напреднали системи за ИИ може потенциално да представлява заплаха от „ниво на изчезване“ за човечеството, ако избягат от контрола на своите създатели.
Докладът, озаглавен „Отбрана в дълбочина: План за действие за повишаване на безопасността и сигурността на напредналия ИИ“, подчертава две основни категории рискове, свързани с ИИ. Първата загриженост е потенциалната загуба на контрол върху система за изкуствен общ интелект (AGI). AGI се дефинира като ИИ система, която надминава човешките способности във всички икономически и стратегически значими области. Въпреки че системите AGI в момента не съществуват, много изследователи в областта на ИИ вярват, че те не са далеч. Авторите на доклада предупреждават, че по мярка на докато ИИ приближава нивата на способности на AGI, той може да стане неконтролируем, водейки до поведение на търсене на власт, което би могло да има вредни последици.
Втората категория риск, идентифицирана в доклада, е използването на напреднали системи за ИИ като оръжия. Това включва потенциала за кибер атаки и злоупотребата с технологията на ИИ за развитието на оръжия за масово унищожение. Докладът подчертава настоятелната необходимост от държавите да предприемат действия за намаляване на тези рискове чрез контрол на износа, регулации и законове за отговорно развитие на ИИ.
Предложеният от канадското правителство Закон за изкуствения интелект и данни (AIDA) в момента подлежи на преглед, като консервативната членка на парламента Мишел Ремпел Гарнър твърди, че законодателството вече е остаряло. Тя подчертава необходимостта законът да бъде изменен, за да се отчитат бързите напредъци в технологията на ИИ, като например скорошното представяне на ChatGPT от OpenAI, водеща компания в областта на изкуствения интелект.
Докато Канада и други нации продължават да навигират в сложностите на развитието на ИИ, от съществено значение е да се постигне баланс между насърчаването на иновациите и гарантирането на безопасното и отговорно използване на тези технологии. С потенциалните опасности, които напредналите системи за ИИ представляват, политиците трябва да насочат приоритетите си към изчерпателни мерки за гарантиране и постоянна регулация, за да защитят човечеството от потенциалните рискове, свързани с ИИ.
The source of the article is from the blog klikeri.rs