В мире, где нельзя больше доверять тому, что вы видите или слышите онлайн. Мир, где знаменитости поддерживают продукты, которые они никогда не видели, а мошенники извлекают прибыль из наивных потребителей. Добро пожаловать в мир AI deepfakes.
Возникновение искусственного интеллекта привело к новой волне обманчивой рекламы. Технология Deepfake позволяет мошенникам создавать видеоролики, которые кажутся показывающими, что знаменитости поддерживают продукты, когда на самом деле эти рекомендации полностью вымышлены. С помощью нескольких простых кликов мошенники могут создать аудио, видео и статичные изображения, которые практически неразличимы от настоящих.
Хотя фальшивые знаменитые рекомендации существуют столь же долго, как и знаменитости сами, качество используемых для их создания инструментов резко улучшилось. То, что когда-то было простым заявлением в поддержку, теперь может подкрепляться убедительным видеороликом, который кажется доказывающим его. Это привело к увеличению случаев мошенничества и растущей тревоге относительно подлинности онлайн-контента.
«Это пока не так много, но, по моему мнению, здесь все еще есть много потенциала для того, чтобы стать гораздо больше из-за технологий, которые становятся все лучше и лучше», — говорит Колин Кэмпбелл, доцент кафедры маркетинга Университета Сан-Диего.
Последствия AI deepfakes выходят за рамки обманчивой рекламы. Их используют для создания поддельных робоколлов с голосами политических деятелей, распространения сексуально откровенных изображений знаменитостей и даже манипулирования избирательными кампаниями. Теперь бремя ложится на отдельных людей, чтобы различать, что реально, а что нет, что становится все более сложной задачей.
Хотя по-прежнему есть некоторые признаки, которые могут помочь идентифицировать видеоролики deepfake, такие как несоответствия в движениях губ или отсутствие недостатков в речи человека, технология быстро развивается. Эксперты предсказывают, что уже через несколько лет будет почти невозможно отличить настоящее видео от deepfake.
По мере того как AI deepfakes продолжают развиваться и становиться более убедительными, крайне важно, чтобы платформы социальных медиа и технологические компании инвестировали в надежные механизмы обнаружения. Обязанность защищать потребителей от обманчивого контента не должна лежать только на плечах отдельных лиц. Без должного регулирования и мер, принятых на месте, угроза AI deepfakes будет только нарастать, разрушая доверие и подлинность в цифровом мире.
The source of the article is from the blog toumai.es