Свежо изследване проведено от учени от правното училище на Стенфорд разкрива значителни предразсъдъци в чатботовете при отговорите им на потребителски запитвания въз основа на расовите и половите конотации на техните имена. Резултатите показват, че чатботове като ChatGPT 4 на OpenAI и PaLM-2 на Google показват вариации в съветите си в зависимост от възприетата етничност на името на потребителя.
Новото изследване, публикувано миналия месец, подчертава потенциалните рискове, свързани с тези предразсъдъци, тъй като бизнесите все повече интегрират технологиите на изкуствен интелект в ежедневната си дейност. Съавторът на изследването, професор по право в Стенфордския университет Джулиън Ниаркьо, подчертава необходимостта от ефективни защитни мерки в моделите на изкуствен интелект, предпазващи от предразсъдъчни реакции.
Изследването оцени пет различни сценария, включително при покупки, шахматни мачове, прогнози за обществени длъжности, класации в спорта и предлагани заплати. В повечето сценарии, предразсъдъците се оказаха неблагоприятни за чернокожи и жени. Неочаквано, само по класацията на баскетболните играчи, предразсъдъците бяха в полза на чернокожите атлети.
Изследването заключава, че моделите на изкуствения интелект имат тенденция да кодират общи стереотипи, базирани на данните, използвани за тяхното обучение, което последвателно влияе на техните реакции. Това указва на системен проблем, който трябва да бъде адресиран.
Често Задавани Въпроси
Какви бяха основните открития на изследването?
Изследването разкри значителни предразсъдъци в отговорите на чатботовете със свързаност към расовите конотации на имената на потребителите. Идентифицирани са постоянни недостатъци за имена, асоциирани с малцинства по раса и жени, с изключение при оценка на баскетболните играчи.
Тези предразсъдъци ли съществуват в различни модели на изкуствен интелект?
Да, предразсъдъците бяха намерени да бъдат последователни в различни модели на изкуствен интелект, като бяха оценени 42 заготовки за челници.
Какви стъпки предприемат компаниите за изкуствен интелект, за да се справят с тези предразсъдъци?
OpenAI призна проблема с предразсъдъците и спомена, че техният екип по безопасност активно работи по намаляване на предразсъдъците и подобряване на производителността. Въпреки това, Google не е реагирал на въпроса.
Следва ли съветите да се различават в зависимост от социално-икономическите групи?
Въпреки че изследването признава потенциалния аргумент за персонализиране на съветите в зависимост от социално-икономически фактори, като богатство и демография, то подчертава необходимостта от намаляване на предразсъдъците в ситуации, където предразсъдъчните последствия са нежелани.
В крайна сметка, това изследване подчертава важността от признаване и адресиране на предразсъдъците в системите на изкуствения интелект. Като признаят съществуването на тези предразсъдъци, компаниите за изкуствен интелект могат да предприемат необходимите стъпки, за да гарантират справедливи и безпристрастни отговори от своите чатботове, което спомага за по-справедливото използване на изкуствения интелект в обществото.
Изследването за предразсъдъците в чатботовете има значителни последици за индустрията, тъй като бизнесите все повече се доверяват на технологиите на изкуствения интелект. Понеже моделите на изкуствения интелект като ChatGPT 4 на OpenAI и PaLM-2 на Google стават все по-широко разпространени, е от съществено значение да се адресират предразсъдъците, присъстващи в тези системи, за да се предотвратят несправедливи резултати.
Що се отнася до прогнозите на пазара, търсенето на чатботове на база на изкуствен интелект се очаква да продължи да нараства. Според агенцията за пазарни изследвания MarketsandMarkets, световният пазар на чатботове се очаква да достигне 10,08 милиарда долара до 2026 година, с средногодишна степен на растеж от 29,7% от 2021 до 2026. Това показва значителна възможност за компаниите за изкуствен интелект да развият и подобрят технологиите на чатботовете.
Въпреки това, присъствието на предразсъдъци в отговорите на чатботовете предизвиква предизвикателства за индустрията. Ако не се адресират ефективно, предразсъдъците може да доведат до отрицателни потребителски преживявания, да укрепят общностните неравенства и дори да доведат до правни последици за бизнесите. В резултат на това компаниите за AI трябва да имат приоритет разработването на етични и безпристрастни модели на изкуствен интелект.
За справяне с този проблем, компаниите за изкуствен интелект предприемат стъпки за справяне с предразсъдъците в своите системи за чатботове. OpenAI, една от водещите компании за изкуствен интелект, призна проблема с предразсъдъците и спомена, че техният екип по безопасност активно работи по намаляване на предразсъдъците и подобряване на производителността. Въпреки това е важно да се отбележи, че Google не е реагирал на въпроса, като показва необходимостта от по-активни усилия от страна на индустрията като цяло.
Изследването също поражда въпроси за това дали съветите трябва да се различават в зависимост от социално-икономическите групи. Въпреки че може да се съставят потенциални аргументи за персонализиране на съветите в зависимост от фактори като богатство и демография, изследването подчертава важността на намаляване на предразсъдъците в ситуации, където предразсъдъчните резултати са нежелани. То подчертава необходимостта от гарантиране на справедливи и безпристрастни отговори от чатботовете, независимо от социално-икономическите фактори.
Адресирането на предразсъдъците в системите на изкуствения интелект е от съществено значение не само от етична гледна точка, но също така и за дългосрочния успех и приемане на технологиите на изкуствения интелект. Като признават и активно работят по елиминирането на предразсъдъците, компаниите за изкуствен интелект могат да спомогнат за по-справедливото използване на ИИ в обществото.
За допълнително четиво относно предразсъдъците в изкуствен интелект и техните последици, може да посетите следните линкове:
– Nature: Алгоритмични предразсъдъци в чатботове
– Forbes: Глобалният пазар на чатботове ще достигне 10 милиарда долара до 2026 г.
– VentureBeat: Безпокойство за предразсъдъците в системите на изкуствен интелект е основателно
The source of the article is from the blog j6simracing.com.br