Потребителите на Google изразяват загриженост отнодо неточностите при обобщенията на изкуствения интелект
След по-малко от две седмици след дебюта на AI Overview на Google в резултатите от търсене, функцията, предназначена да предостави резюме преди резултатите, се е сблъскала с критики. Потребителите са изпитали безсмислени или неточни отговори, като грешното твърдение, че бившият президент Барак Обама е мюсюлманин.
AI Overview се надява да оптимизира преживяването при търсенето, предоставяйки бързо резюме на заявките. Например, търсене за най-добрия начин за почистване на кожени ботуши може да доведе до стъпков и процес за почистване в началото на резултатите, извлечени от различна онлайн информация.
Обаче този нов инструмент е изправен пред вълна от грешки, според споделените снимки на екрана на потребителите в социалните мрежи. Тези инциденти отразяват интензивната конкуренция между големите технологични гиганти като Google, Microsoft и OpenAI, които се състезават да интегрират генеративния ИИ, за да останат водещи в различни отрасли. Очаква се такива технологии да генерират съществени приходи в бъдеще, с оценки до 1 трилион долара за десетилетие.
Примерите за грешни отговори на AI Overview включват лъжлива изява за президентите на САЩ, абсурдни готварски съвети, включващи нетоксично лепило, и съмнителни здравни препоръки, свързани с надеждни източници като WebMD.
В отговор на нарастващите отрицателни реакции, представител на Google заяви, че макар повечето отговори на AI Overview да са информативни и точни, те признаха, че някои от споделените примери са били подманипулирани или непроверяеми. Те подчертаха, че функцията е преминала през обстойни тестове преди стартирането и че Google предприема бързи корективни действия, съобразени с техния съдържателен регламент.
Това не е единствената грешка на Google, свързана с изкуствения интелект; подобен проблем възникна с техния инструмент за генериране на изображения, Gemini, който беше временно преустановен поради исторически неточности и спорни отговори. Това доведе до пауза в генерирането на изображения с изображения на хора и обещания за подобрения в бъдещата версия.
Усилията на Google в сферата на изкуствения интелект не са без контроверзии, с дебати относно етичните размисли при ИИ и предишни критики за уволнението на ръководството на техния екип по етика на ИИ. Тези дискусии продължават да формират развиващия се пейзаж на ИИ в технологичната индустрия.
Ключови въпроси и отговори:
Какви конкретни критики се отправят по повод на функцията AI Overview на Google?
Регистрирани са доклади за неточни или безсмислени отговори, генерирани от функцията AI Overview. Това включва грешна информация за обществени личности, неподходящи готварски съвети и съмнителни здравни препоръки, които биха могли да бъдат объркващи за потребителите.
Как Google се справя с неточностите в AI Overview?
Google призна присъствието на грешки и подчерта ангажимента си да предприема бързи корективни действия. Те твърдят, че функцията е била обстойно тествана и че те се занимават с проблемите в съответствие със своят съдържателен регламент. Усилията за подобряване и поправка на алгоритмите вероятно продължават.
Какви по-широки последствия има тази контроверза за технологичната индустрия?
Тази ситуация подчертава предизвикателствата, пред които са изправени технологичните компании при внедряването на ИИ технологии, които взаимодействат директно с публиката. Тя подчертава необходимостта от строги тестове, прозрачност и етични размишления при развитието на ИИ. Конкуренцията в технологичната индустрия за лидерство в иновациите в областта на ИИ също носи риска да пуснат продукти на пазара, преди да са напълно готови.
Предимства и Недостатъци:
Предимства:
– Ускорява преживяването при търсене, като предоставя кратко резюме.
– Позволява на потребителите бързо да получат преглед, без да четат множество статии.
– Потенциално подобрява достъпността за тези, които може да имат затруднения с по-дългите текстове.
Недостатъци:
– Може да разпространява дезинформация, ако резюметата са неточни.
– Може да намали трафика към уебсайтовете на източниците, тъй като потребителите може да не кликнат върху пълните статии.
– Може да подкопае доверието на потребителите в търсачката на Google и резултатите.
Основни Предизвикателства и Контроверзии:
1. Точност и Надеждност: Запазването на точната и надеждна информация е голямо предизвикателство, тъй като ИИ се основава на наличното онлайн съдържание, което може да е от различно качество.
2. Манипулация и Дезинформация: Откриването и намаляването на случаите, където може да се наруши манипулацията на отговорите, за да се предотврати разпространението на дезинформация.
3. Етично развитие на ИИ: Балансиране на конкурентното предизвикателство за пускане на пазара с необходимостта от обстойни тестове и разглеждане на потенциалните етични въпроси, свързани с ИИ.
4. Прозрачност: Непрозрачността на ИИ алгоритмите, използвани в резюметата от търсенето, може да създаде бариера за доверие, с потребители несигурни как се обработва информацията и се избира за техните заявки.
Свързани Връзки:
– За информация за инициативите на Google и новини, свързани с развитието на техния ИИ, посетете about.google.
– За да научите повече за ИИ и етиката и управлението в технологичния пейзаж, може да посетите основния уебсайт на Allen Institute за ИИ на allenai.org.
– Можете също да намерите по-широки обсъждания на общественото въздействие на технологиите на ИИ в основния домейн на Stanford Institute for Human-Centered Artificial Intelligence (HAI) на hai.stanford.edu.
Инициативата на Google представлява ключов момент във въвеждането на ИИ за ежедневни приложения. Ясно е, че въпреки значителните ползи, трябва да се предприеме внимателна навигация на технологичните и етичните калки.