Изкуственият интелект (ИИ) се развива с безпрецедентна скорост, и федералното правителство трябва незабавно да предприеме действия за регулиране на тази технология, според пионера в областта на ИИ Йошуа Бенджио. Бенджио, известен като „бащата“ на ИИ, подчерта, че настоящата траектория на ИИ представлява съществени обществени рискове и че Отава не трябва да се забавя във въвеждането на законодателство, дори ако то не е перфектно.
Едно от големите притеснения, повдигнати от Бенджио, е потенциалното злоупотреба на ИИ, особено чрез създаването на deepfake видеа, които могат да разпространяват дезинформация. Тези видеа използват ИИ, за да манипулират визуални ефекти и да направят така, че обществени личности изглеждат, че казват или правят неща, които наистина не са правили. Освен това, ИИ може да бъде използван, за да заблуди потребителите на социални медии, като води диалог, който може да промени техните политически мнения, което може да доведе до потенциално разрушаване на демократичните принципи.
Освен това Бенджио подчертава нарастващия риск от злоупотреба на напреднали ИИ системи в кибератаки. Докато технологията на ИИ продължава да напредва, тези системи могат да се превърнат в достатъчно мощни, за да нарушат съществуващите киберзащитни механизми и да нарушат критичната цифрова инфраструктура. Ако тези възможности попаднат в грешни ръце, последиците могат да бъдат ужасни.
В отговор на тези притеснения комисията по промишлеността на Палатата на общините в момента изучава законодателен акт, насочен към регулиране на системите на изкуствения интелект. Въпреки това Бенджио подчертава необходимостта от незабавно въвеждане на някои разпоредби вместо да се чака дълъг регулаторен процес. Той предлага създаването на регистър, който ще изисква от компаниите, разработващи ИИ системи с определенo ниво на възможности, да докладват на правителството. Това би прехвърлило отговорността за осигуряване на безопасността на тези системи върху технологичните компании, а не върху данъкоплатците.
Бенджио също препоръчва разширяване на дефиницията на „високо въздействие“ на ИИ системите, за да включват тези, които представляват национална сигурност и обществени заплахи. Това включва ИИ системи, които могат да бъдат използвани за проектиране на кибератаки и оръжия или такива, които проявяват автономно възпроизвеждане, въпреки програмни инструкции, които предлагат противно.
Неотложността на действията от страна на правителството за регулиране на ИИ бе подчертана още повече от Катрин Режи, професор в Университета дьо Монреал. Режи подчертава бързото развитие на ИИ по целия свят и отбелязва, че Канада трябва да определи своята позиция относно регулирането на ИИ, за да има смислено участие в дискусиите за глобално управление.
Заключително, бързото развитие на технологията на ИИ налага неотложна регулация от страна на правителството. Като предприеме активни мерки за справяне с рисковете, свързани с ИИ, правителството може да намали потенциалните обществени и сигурностни заплахи, представяни от тази мощна технология.
Често задавани въпроси (ЧЗВ):
В: Какво е основното притеснение относно ИИ според Йошуа Бенджио?
О: Йошуа Бенджио е загрижен от възможното злоупотреба на ИИ, особено чрез създаването на deepfake видеа, които могат да разпространяват дезинформация.
В: Как ИИ може да заблуди потребителите на социални медии?
О: ИИ може да води диалог с потребителите на социални медии и да манипулира техните политически мнения, което може да доведе до разрушаване на демократичните принципи.
В: Какво е другото притеснение, подчертано от Бенджио?
О: Бенджио подчертава и риска от злоупотреба на напреднали ИИ системи в кибератаки, което може да има ужасни последици, ако попаднат в грешни ръце.
В: Какво е предложеното решение за регулиране на ИИ системите?
О: Бенджио предлага създаването на регистър, който ще изисква от компаниите, разработващи ИИ системи с определено ниво на възможности, да докладват на правителството, като прехвърлят отговорността за тяхната безопасност на технологичните компании.
В: Какво подчертава Катрин Режи относно регулирането на ИИ в Канада?
О: Катрин Режи подчертава, че Канада трябва да определи своята позиция относно регулирането на ИИ, за да има смислено участие в дискусиите за глобално управление.
Основни термини и дефиниции:
1. Изкуствен интелект (ИИ): Технология, която позволява на компютрите да изпълняват задачи, които обикновено изискват човешки интелигентност, като разпознаване на реч, решаване на проблеми и вземане на решения.
2. Deepfake: Вид синтетични медии, които използват ИИ, за да манипулират или създават фалшиви видеа, аудио или изображения, които изглеждат реални, но на самомъчението са променени или изцяло фалшифицирани.
3. Дезинформация: Лъжлива или възлагаща заблуждаваща информация, която се разпространява нарочно, за да подвежда хората и манипулира общественото мнение.
4. Кибератаки: Злонамерени опити да се наруши, повреди или получи неупълномощен достъп до компютърни системи, мрежи или цифрови устройства.
5. Автономност: Възможността на ИИ система да действа независимо, без човешко намеса или изрични програмни инструкции.
Препоръчани свързани връзки:
– Инициативата за ИИ на Белия дом
– Консултации на британското правителство относно регулирането на изкуствения интелект
– AI Laws: База данни с регулации за ИИ
– Световен икономически форум: Доклад за глобална конкурентоспособност 2019 г.
The source of the article is from the blog krama.net