Изкуствената интелигентност (ИИ) става доминираща сила в нашия свят след създаването на ChatGPT и GPT-4. С нови възможности, обявявани почти всеки седмица, дебатът около ИИ се е подострил. Ще създаде ли по-добър свят или ще доведе до загуба на работни места и обездолажване на хората? Перспективата за изкуствената обща интелигентност (ИОИ), където ИИ може да надмине човека във всички когнитивни умения, издига въпроси за контрола и потенциалните опасности, както се вижда във филми като „Терминатор“.
Книгата „Предстоящият вал: ИИ, Властта и Най-голямото Дилема на 21-ви век“, написана от Мустафа Сулейман, съосновател на DeepMind AI, предлага безценни прозрения по тази сложна тема. Фонът на Сулейман в ИИ дава значителна авторитетност на неговите виждания за бъдещето на човечеството с ИИ.
Сулейман подчертава четири основни характеристики на ИИ. Първо, това е асиметрична технология, способна да генерира огромно количество текст и потенциално да позволи операторите да използват смъртоносни дронове с минимални ресурси. Второ, ИИ има потенциала за хипереволюция, надминавайки темповете на растеж във всяка друга област. Трето, ИИ не е технология, използвана само в една сфера, като рентген; тя има потенциала да проникне във всекидневния живот, обществото и икономиката. Накрая, ИИ разполага с автономност, което я прави самообучаваща се и все по-непредсказуема.
Въпреки това, предизвикателствата при регулирането на ИИ са значителни. За разлика от измерими проблеми като регулирането на автомобилни емисии, общодостъпната технология като ИИ е много по-трудна за контролиране. Освен това изследователите и изобретателите, подтиквани от любопитство и амбиция, може да не желаят да ограничат своя потенциал за иновации. Икономическите стимули за развитието на ИИ са огромни, а печалбите, които могат да се осигурят, са несравними. В допълнение, докато ядрените електроцентрали са тясно регулирани, създаването на ИИ инструменти остава достъпно за отделни лица, поднесващо опасения от възможно злоупотреба на мощни ИИ от отделни експлоататори.
Сулейман предлага няколко решения за справяне с тези предизвикателства. Прилагането на силна техническа рамка за безопасност, подобна на тази, която управлява ядрената енергетика, може да гарантира отговорното развитие на ИИ. Строги одити за новите ИИ инструменти и организирани тестове за откриване на слабости или рискове от провал са също необходими. Правителствата могат да се възползват от събития като годишното „червено разиграване“ в Индия, където се симулират контролирани атаки, за да се открият уязвимости.
Докато ИИ продължава да напредва, е от съществено значение да се постигне равновесие между използването на неговия потенциал за ползи и намаляването на рисковете. Регулацията и отговорното развитие са съществени, за да се гарантира, че ИИ служи на човечеството и нашата планета.
The source of the article is from the blog mendozaextremo.com.ar