Функция суммирования Google на основе искусственного интеллекта вводит пользователей в заблуждение в кулинарном запросе
В занимательном случае, описанном Business Insider, новая функция поиска AI Overviews от Google потерпела неудачу, когда, похоже, пытаясь помочь пользователю с проблемой с сыром, AI Overviews странно предложил добавить «примерно ⅛ стакана нетоксичного клея» в соус для улучшения его липкости. Этот странный совет, кажется, происходит из 11-летнего комментария на Reddit и, вероятно, был задуман как шутка.
Google планирует расширить AI Overviews, несмотря на недостатки
Запуск AI Overviews начался как тест в США и Великобритании, с тем, чтобы Google стремился к более широкому внедрению к концу 2024 года. Лиз Рид, руководитель отдела поиска Google, похвасталась на недавней конференции компании, что функция будет эффективно осуществлять поиски от имени пользователя.
Проблемы с точностью вызывают опасения связанные с AI Overviews от Google
Инцидент с клеем и пиццей является только одним из недостатков использования ИИ для получения информации. Другие случаи, сообщенные пользователями в социальных сетях, включают существенно неточные ответы, например, информацию о собаке, играющей в НХЛ. Петер Кафка из Business Insider отметил, что одной из проблем ИИ-генерированного контента является его способность фабрицировать информацию. Например, AI Overviews неверно идентифицировал Лондонский Тауэр как жертву военных бомбардировок вместо Биг-Бена.
Несмотря на эти случаи, представитель Google ранее заметил, что такие примеры являются аномалиями, происходящими из-за «крайне редких запросов», подчеркивая, что подавляющее большинство AI Overviews предоставляют качественную информацию. Перед запуском функции Google, по сообщениям, провела тщательное тестирование. Однако случаи, подобные этим, подчеркивают сложности, связанные с интеграцией ИИ в поисковые системы и необходимость дальнейших улучшений.
Такие важные вопросы, связанные с AI Overviews от Google:
Один из наиболее важных вопросов: Насколько надежные советы, созданные AI? Тот факт, что AI Overviews предоставила совет на основе шуточного комментария, вызывает опасения о надежности и точности предоставляемой информации. Пользователи могут слепо доверять советам AI, что может привести к опасным ситуациям или распространению дезинформации. Основная проблема заключается в том, чтобы гарантировать, что ИИ различает между достоверными источниками и юмором или сарказмом, что может быть сложно из-за изощренной природы человеческого языка.
Другой значительный вопрос: Какие шаги предпринимает Google для устранения неточностей? Контроль качества необходим для дальнейшей интеграции ИИ в функционал поиска. Google должен продолжать совершенствовать свои алгоритмы, чтобы эффективнее обрабатывать и проверять информацию, возможно, путем перекрестной проверки нескольких источников или усиления узнавания контекста.
Ключевое противоречие
Основной спор заключается в балансе между предоставлением быстрых автоматических сводок и риском распространения ложной или вводящей в заблуждение информации. Поскольку поисковые системы стремятся стать более эффективными благодаря ИИ, потенциал ошибок, которые сопряжены совым доверием, становится критической проблемой.
Преимущества и недостатки
Преимущества AI Overviews включают в себя:
— Повышенную эффективность в предоставлении кратких сводок для пользователей.
— Удобство автоматического поиска, экономящее время пользователя на изучении результатов.
— Потенциал улучшить пользовательский опыт, предоставляя быстрый доступ к актуальной информации.
Недостатки включают в себя:
— Риск предоставления неверной или вводящей в заблуждение информации, как это демонстрирует совет о «клее в пицце».
— Трудность для ИИ понимать контекст и нюансы в человеческом общении, такие как сарказм и юмор.
— Зависимость от ИИ может снизить способность пользователей к критической оценке информации.
Если вы заинтересованы в получении дополнительной информации напрямую от Google о их ИИ и технологии поиска, вы можете посетить их основной домен: Google. Обратите внимание, что нажатие на эту ссылку перенесет вас на домашнюю страницу Google, с которой вы сможете перейти к различным разделам сайта для получения дополнительной информации о их последних технологиях и обновлениях относительно AI Overviews.