Нов отчет на Световния икономически форум предупреждава за незабавната заплаха, която представлява лъжлива и подвеждаща информация, генерирана от изкуствения интелект (ИИ). Отчетът подчертава начина, по който технологията на ИИ се използва за създаване на реалистично и сложно синтетично съдържание, което може да манипулира и поларизира обществото. Бързото развитие на генеративните ИИ чатботове, като ChatGPT, означава, че способността да се създава и разпространява дезинформация вече няма да бъде ограничена само до хора със специализирани умения.
Възходът на ИИ-генерираната дезинформация идва в критичен момент, тъй като няколко страни, включително Съединените щати, Великобритания и Индия, се подготвят за предстоящи избори. Отчетът предупреждава, че тази технология може да бъде използвана за създаване на deepfake видеа и манипулиране на общественото мнение, което затруднява възможността на хората да потвърдят фактите. Това може да подкопае демократичните процеси и да увеличи поларизацията в обществата.
Но заплахата от ИИ не се свежда само до дезинформация. Отчетът също така идентифицира възможността злонамерени актьори да злоупотребяват с ИИ за кибератаки. Автоматизацията на фишинг атаките и създаването на напреднали зловредни софтуери става по-лесно благодарение на ИИ технологията. Освен това, ИИ може да внесе предразсъдъци в системи и данни, което затруднява ограничаването на въздействието на такива предразсъдъци върху ИИ моделите и приложенията.
Въпреки че рисковете, свързани с ИИ, са незабавни, отчетът също така подчертава дългосрочните заплахи, които представлява климатичната промяна. Екстремните метеорологични явления са втората най-важна краткосрочна заплаха, идентифицирана в отчета. В дългосрочен план, екстремното време е описано като главната заплаха, заедно с критичните промени в Земните системи, загубата на биоразнообразие и ограничен ресурс.
С влизането ни в нова ера на технологичните промени, е от съществено значение да се справим с рисковете, представени от ИИ. Трябва да се предприемат мерки, за да се гарантира отговорното използване на ИИ и да се предотврати манипулирането на информацията, което може да подкопае демокрацията и да влоши предизвикателствата на климатичната промяна. Без необходимите гаранции, силата на ИИ може да бъде злоупотребена и да доведе до значителни обществени и екологични последствия.
The source of the article is from the blog maestropasta.cz