Проблеми с препратките, базирани на изкуствен интелект на Google, пораждат заблуждаващи съвети
Сред широкото разпространение на изкуствения интелект на Google в търсенето, наречен „Рецензия на ИИ“, потребителите срещнаха случаи на заблуждаваща информация. Системата на изкуствения интелект, предназначена да консолидира знания, грешно представи невярна информация поради неспособността си да различава сатира от факти. Тази възможност стана вирусна със странно предложение: препоръчваше се нанасянето на лепило на пица, за да се запази сиренето на място. Този бизарен съвет беше проследен до сатиричен коментар в Reddit от преди десетилетие, но беше разпространяван като истински съвет, водещ до широко разпространени забавления и загриженост.
Google реагира на разпространението на заблуждащи съвети от изкуствения интелект
По мерка като случаят се развиваше, Google защити цялостната точност на своите Рецензии на ИИ, но призна, че най-вирулентните грешки идваха от заявления толкова редки, че избягваха стандартните проверки. Следващи мерки бяха въведени за намаляване на такива случаи, като Google деактивира Рецензиите на ИИ за заявления, които предизвикаха непрактичния съвет за лепене на пица.
От вирулентна грешка до самоотносително завъртане
Колин МакМилен, програмист в Bluesky, подчерта странен завой: Рецензиите на ИИ започнаха да се отнасят към новини, които подробно описват вирулентната грешка на Google, когато се интерпретираха с „колко лепило да се добави на пицата“. Този самоотносителен завой показва нуждата от по-нататъшно подобряване на системата на Google за изкуствения интелект. Въпреки че Google вече е адресирал проблема, като не позволява повече Рецензии на ИИ за свързани заявления, ситуацията подчертава предизвикателството да се гарантира, че съдържанието, генерирано от изкуствения интелект, остава контекстуално точно.
Ангажиментът на Google към точни Рецензии на ИИ
Google поддържа своя ангажимент за адресиране на тези грешки, целящ да предотврати повторението на такова заблуждаващо поведение от изкуствения интелект. Този епизод илюстрира фина граница, която системите на изкуствения интелект пресичат в разпознаването на достоверна информация срещу сатира или неверно съдържание, въпреки обещанието за автоматизирано сливане на знания. Докато изкуственият интелект на Google продължава да учи и да се развива, това е ярко напомняне за постоянната необходимост от човешки надзор при потвърждаването на надеждността на онлайн съдържание.
Основни въпроси и отговори:
1. Какво е „Рецензия на ИИ“ от Google и как работи?
Рецензията на ИИ е система на изкуствен интелект, въведена в Google Search, чиято цел е да консолидира и обобщи информацията, предоставяйки на потребителите бързи и полезни отговори на техните запитвания. Верва на машинното обучение, за да разбере и интерпретира широката информация, достъпна в интернет.
2. Какво доведе до това системата за Рецензия на ИИ да даде заблуждаващи съвети?
Системата грешно идентифицира сатиричен съвет от Reddit, предлагайки да се използва лепило на пица, за да се запази сиренето на място, като легитимен съвет. Поради неспособността на ИИ да различава сатирата от факта, този невярен съвет беше разпространен като истински.
3. Какви мерки е предприел Google в отговор на инцидента?
Google призна грешката и временно деактивира функцията на Рецензия на ИИ за заявления, които връщаха грешния съвет за лепене на пица. Освен това компанията продължава да доразвива алгоритмите на ИИ, за да подобри точността й и предотврати подобни инциденти в бъдеще.
Ключови Предизвикателства или Контроверзии:
– ИИ трябва да може точно да определи контекста и надеждността на наличните данни, за да избегне разпространението на грешна информация.
– Осигуряване на развитие на разбирането на системата на ИИ за да различава сатирата, мнението и фактите.
– Поддържане на баланс между автоматизирането на обобщението на съдържание и наличието на достатъчно човешки надзор, за да оцени изпълнението на ИИ.
Предимства и Недостатъци:
Предимства на Рецензията на ИИ:
– Бърз достъп до информация, като се обобщава и консолидира информацията от различни източници.
– Възможност за подобрени търсения и по-лесни и полезни отговори за потребителите.
– Намалена необходимост от преглеждане на множество страници или уебсайтове за информация.
Недостатъци на Рецензията на ИИ:
– Риск от разпространение на грешна информация, ако ИИ-то не успее правилно да интерпретира данните, особено от ненадеждни източници или съдържание като сатира.
– Прекомерното доверие на технологията може да намали критичното мислене на потребителите при оценяването на предоставената информация от ИИ.
– Възможно подкопаване на доверието в търсачката на Google, ако недочетеностите и грешките продължават.
Свързана Връзка:
За повече информация посетете официалния уебсайт: Google.