ИИ е тема на загриженост в последните години, с мнозина, които се страхуват от неговия потенциал да замени работни места, да разпространява дезинформация и дори да представлява заплаха за човешкото съществуване. Въпреки тези тревоги доклад от 2023 г. на KPMG показа, че само две от петима хора вярват, че наличните регулации са достатъчни, за да гарантират безопасната употреба на ИИ. Поради тези притеснения ролята на етичния надзор в развитието на ИИ става все по-важна.
Един човек на преден план в този опит е Паула Голдман, главен етичен и хуманен отговорник в Salesforce. Неговата работа включва осигуряване, че технологията, произведена от компанията, е полезна за всички. Това включва близко сътрудничество с инженери и управители на продукти, за да се открият потенциални рискове и да се разработят защитни мерки. Това също включва сътрудничество с политическата група за установяване на насоки за приемливата употреба на ИИ и насърчаване на достъпността на продукта и инклузивен дизайн.
Питана за етичната и хуманна употреба, Голдман отделя значение на съответствието на ИИ продуктите със сет от ценности. Например, в случая с генеративния ИИ, точността е основно начело. Salesforce постоянно работи по подобряване на актуалността и точността на генерираните ИИ модели, като включва динамично конкретизиране, което ги насочва към използване на правилна и актуализирана информация, за да предотвратят грешни отговори или „ИИ халюцинации“.
Разговорът около етиката на ИИ набира скорост, с водещи технологични лидери като Сам Алтман, Илон Мъск и Марк Цукърбърг, които се занимават със срещи закрити за обществеността, за да обсъдят регулацията на ИИ с законодатели. Въпреки че се осъзнават все повече рисковете, свързани с ИИ, Голдман осъзнава необходимостта от повече гласове и основно включване на етични спомени в политическите дискусии.
Salesforce и други компании, като OpenAI, Google и IBM, са се доброволно ангажирали със стандарти за безопасност на ИИ. Голдман подчертава колаборативните усилия в индустрията, като организирането на работни семинари и участие в етични ИИ съветни комисии. Но тя също разпознава разликите между предприемаческото и потребителското пространство, като подчертава значение на установяването на специфични стандарти и насоки за всеки контекст.
Работата в полето на ИИ е едновременно захаросваща и предизвикателна. Лидерите в това пространство създават бъдещето чрез стремежа си да разработват доверчиви и отговорни ИИ продукти. Въпреки това, бързото развитие изисква постоянно обучение и адаптация.
В заключение, етичната употреба на ИИ е съществено предвидение за неговото успешно интегриране в обществото. Чрез усилията на хора като Паула Голдман и колаборативни инициативи, разработването на отговорен ИИ може да открие пътя за по-добро бъдеще.
Често задавани въпроси:
В: Какви са някои тревоги относно ИИ?
О: Тревогите включват потенциала за замяна на работни места, разпространение на дезинформация и заплахи за човешкото съществуване.
В: Хората ли вярват, че текущите регулации са достатъчни, за да гарантират безопасната употреба на ИИ?
О: Според доклад на KPMG от 2023 г. само две от петима хора вярват, че текущите регулации са достатъчни.
В: Кои е Паула Голдман и каква е нейната роля?
О: Паула Голдман е главен етичен и хуманен отговорник в Salesforce. Нейната роля включва осигуряване, че технологията, произведена от компанията, е полезна и тя тясно сътрудничи с инженери и управители на продукти, за да открие потенциални рискове и да разработи защитни мерки.
В: Какво е значение да се съгласуват ИИ продуктите с определен набор от ценности?
О: Съгласуването на ИИ продуктите с определен набор от ценности помага за гарантирането на етичната и хуманна употреба. Например, точността е основно начело за генеративен ИИ.
В: Кои компании са се ангажирали със стандарти за безопасност на ИИ?
О: Salesforce, OpenAI, Google и IBM са сред компаниите, които са се ангажирали доброволно със стандарти за безопасност на ИИ.
Ключови термини / джаргон:
ИИ: Изкуствен интелект, отнася се до симулацията на човешки интелект в машини, програмирани да мислят и учат като хора.
Генеративен ИИ: ИИ модели, които са способни да генерират ново съдържание, като текст, изображения или видео.
Етичен и хуманен отговорник за ИИ: Роля, отговорна за наблюдението над етичната и отговорна употреба на ИИ в дадена компания.
ИИ халюцинации: Отнася се до грешни отговори, генерирани от ИИ модели поради неточна или остаряла информация.
Политическа група: Екип в компанията, отговорен за разработването и изпълнението на насоки и политики, свързани с употребата на ИИ.
Етични ИИ съветни комисии: Панели или комисии от експерти в областта на етиката на ИИ, които консултират компании относно етичната употреба на ИИ.
Предложени свързани връзки:
1. KPMG
2. Salesforce
3. OpenAI
4. Google
5. IBM
The source of the article is from the blog meltyfan.es