Публичната критика се появява заради генерирането на измамна информация чрез изкуствен интелект. Лица във социалната платформа Х се сблъскваха с несъвършени отговори от инструмента AI Overview. Един от примерите е, когато инструментът грешно идентифицира бившия президент Барак Обама като мюсюлманин, въпреки че той е християнин. Освен това, един абсурден отговор насърчава хората да консумират поне един малък камък на ден, грешно цитирайки подкрепата на геолози от Университета в Бъркли за тази практика.
Официални изявления във връзка с притесненията. Представителят на Google, Колет Гарсия, призна, че въпреки че AI Overview обикновено предоставя висококачествена информация, потвърдена с детайлни връзки, посочените неточности може да дойдат от манипулирани изображения, разпространяващи се в интернет. Компанията подчертава достъпа на потребителите до дълбоки изследвания, докато се стреми към надеждност в своите услуги.
Важността на точните отговори от AI. Предоставянето на точна информация от AI е от решаващо значение, тъй като все повече хора полагат доверие на тези системи за бързи, надеждни отговори. Потребителите често вярват на изхода на AI без вторично потвърждение, което прави грешните отговори потенциално вредни.
Най-важните въпроси:
1. Как може да се подобрят AI системите, за да предоставят по-точна информация?
2. Какви механизми са налице за адресиране и коригиране на разпространената от AI информационна неточност?
3. Какви са етичните отговорности на разработчиците на AI за предотвратяване на неточна информация?
Отговори:
1. За подобряване на точността на AI са необходими непрекъснато обучение с разнообразни, висококачествени данни и редовни актуализации на алгоритмите. Внедряването на по-голямо контекстуално разбиране и източници от проверени информационни репозитории са също важни.
2. За адресиране на информационната неточност на AI трябва да се комбинират автоматизирани проверки и човешко наблюдение. AI трябва да разполага с вградени механизми за корекция, които да актуализират непрекъснато знанията му. Освен това, разработчиците често създават системи за сигнализиране на потребителите за грешна информация.
3. Разработчиците на AI носят етичната отговорност за намаляване на вредите, като се гарантира, че техните системи са възможно най-точни, и за внедряване на мерки за предотвратяване на разпространението на лъжлива информация.
Основни предизвикателства/контроверзии:
– Постоянното гарантиране на фактическата точност на AI е предизвикателно поради големия обем информация, налична и неравномерната надеждност на източниците.
– Балансирането на автономността на AI, докато се поддържа наблюдението за предотвратяване на разпространението на лъжлива информация, поражда дебати.
– Има дебати относно цензурата срещу свободата на информация, когато технологичните компании коригират или премахват съдържание, считано за лъжливо.
Предимства:
– AI системите могат да обработват и анализират големи количества данни бързо, предлагайки бърз достъп до информация.
– Те могат да помогнат в намаляването на човешката работна натовареност, автоматизирайки рутинните задачи за търсене на информация.
– AI може да подобри вземането на решения, като предоставя данни, базирани на данни.
Недостатъци:
– AI може да подпомага разпространяването на лиспи информации, ако не се наблюдава правилно.
– Прекомерната зависимост от AI може да намали критичното мислене и да намали наличието на човешки експертиза.
– AI може да засили предразсъдъците, ако се обучава на неотразителни или предразсъдъчни набори от данни.
За допълнително четене по темата, достоверна информация може да бъде намерена на уебсайтовете на водещите институти за изследване на изкуствения интелект и технологичните компании, като:
– MIT Изкуствения Интелект
– DeepLearning.AI
– Google AI
С увереност, че тези връзки са към основния домейн, а не към подстраници, те са по-скоро вероятно да останат валидни и да предоставят стабилна основа за всеки, който се интересува от допълнително изследване на точността на AI и нейните последици.
The source of the article is from the blog coletivometranca.com.br