Google обяви най-новите си ограничения на Gemini изкуствения интелигентен (AI) инструмент с цел да предотврати предоставянето на определени отговори на въпроси, свързани с изборите. Тази инициатива на големия технологичен гигант е част от неговото ангажиране да вземе отговорен подход към генеративните AI продукти.
В блог публикация Google заяви: „От превръзка към такава важна тема, започнахме да внасяме ограничения на типовете въпроси, свързани с изборите, за които Gemini ще връща отговори. Ние приемаме отговорността си за предоставянето на висококачествена информация за тези типове въпроси сериозно и постоянно работим за подобряване на защитите.“
Понеже 2024 г. се очаква да е значима година за изборите в целия свят, с над 4 милиарда души от над 50 държави, които участват в избирателния процес, наличието на генеративно AI е безпрецедентно. Въпреки това експертите изразиха загриженост относно възможността за генеративното AI да заблуди избирателите чрез създаването на убедителна дезинформация като фалшив текст, deepfake изображения и видеоклипове.
Скорошното проучване, проведено от OnePoll, показва, че съдържанието, генерирано от AI, се нарежда сред горните загрижености както за демократите, така и за републиканците предстоящите избори в САЩ. Проучването, поръчано от сигурностната фирма Yubico и неправителствената организация Defending Digital Campaigns, установи, че 42% от демократите и 49% от републиканците смятат, че AI ще оказа негативно влияние на изборните резултати.
Дейвид Трийс, заместник-президент на архитектурните решения в Yubico, отбеляза: „Ние открихме интересен факт, че над 78% от участниците са загрижени за използването на съдържание, генерирано от AI, за да се измами политически кандидат или да се създаде неподлинно съдържание, като 79% от демократите и 80% от републиканците. Въпреки това още по-силно е, че те вярват, че AI ще има негативен ефект върху изборните резултати тази година.“
Решението на Google да наложи ограничения върху своя AI инструмент за изборните въпроси следва стъпките на други компании като OpenAI, създателят на ChatGPT. OpenAI преди това беше обявил плановете си за предотвратяване на злоупотребата с технологията си още тази година. Компанията състави екипи от инженери, правници, политици, специалисти за безопасност и заплахи с цел да изследват и адресират потенциалното злоупотребление на своите инструменти ChatGPT и Dall-E.
„Докато се подготвяме за изборите през 2024 година в най-големите демокрации по целия свят, нашият подход е да продължим работата си за безопасност на платформата, като повишаваме точната информация за гласуване, въвеждаме измерени политики и подобряваме прозрачността,“ заяви блог публикация на OpenAI през януари. „Като всяка нова технология, тези инструменти идват с ползите и предизвикателствата си. Те са също така безпрецедентни и ще продължим да развиваме нашия подход, докато усвоим повече информация за това как се използват нашите инструменти.“
Включването на ограничения върху AI продуктите от компании като Google и OpenAI подчертава важността на отговорното развитие и използване на AI. Докато AI продължава да се развива, е необходимо да се постигне правилното равновесие между използването на неговите предимства и адресирането на предизвикателствата и потенциалните рискове, свързани с неговото приложение.
**Често задавани въпроси**
Q: Какви нови ограничения въвежда Google върху своя Gemini AI инструмент?
A: Google въвежда нови ограничения на своя Gemini AI инструмент, за да предотврати предоставянето на определени отговори на въпроси, свързани с изборите.
Q: Защо Google въвежда тези ограничения?
A: Това решение е част от ангажимента на Google да предприеме отговорен подход към генеративните AI продукти и да предоставя висококачествена информация за въпросите на изборите.
Q: Какви са загриженостите, които са изразили експертите по отношение на генеративното AI и изборите?
A: Експертите са изразили загриженост относно възможността за генеративното AI да заблуди избирателите чрез създаването на убедителна дезинформация като фалшив текст, deepfake изображения и видеоклипове.
Q: Какъв процент от демократите и републиканците са загрижени, че съдържанието, генерирано от AI, ще влияе на изборните резултати?
A: Според скорошно проучване 42% от демократите и 49% от републиканците вярват, че AI ще има негативно влияние на изборните резултати.
Q: Какви стъпки е предприел OpenAI, за да предотврати злоупотреба с технологията си?
A: OpenAI състави екипи от инженери, правници, политици, специалисти за безопасност и заплахи с цел да изследват и адресират потенциалното злоупотребление на своите инструменти ChatGPT и Dall-E.
**Ключови термини**
– Gemini: Изкуствен интелигентен (AI) инструмент, разработен от Google.
– Генеративно AI: Технология на изкуствения интелект, която може да генерира съдържание като текст, изображения или видеоклипове.
– Дезинформация: Лъжлива или подвеждаща информация, предназначена да заблуждава или манипулира.
**Свързани Линкове**
– OpenAI
– Google Blog
The source of the article is from the blog aovotice.cz