OpenAI aktivně přistupuje k obavám ohledně bezpečnosti a etického používání AI mezi teenageri a rodinami. Ve svém nedávném oznámení společnost oznámila partnerství s organizací Common Sense Media, neziskovou organizací, která hodnotí média a technologie pro děti, aby vyvinula směrnice a vzdělávací materiály.
V rámci této spolupráce bude OpenAI úzce spolupracovat s Common Sense Media na vytváření „rodinně přátelských“ GPT (chatbotových aplikací) v GPT Store, tržišti OpenAI. Cílem je kurovat AI technologii tak, aby odpovídala ratingovým a evaluačním standardům Common Sense, což umožní rodičům a pedagogům důvěřovat těmto aplikacím.
CEO OpenAI Sam Altman zdůraznil pozitivní vliv AI na rodiny a teenagery a vyjádřil důvěru, že spolupráce s Common Sense Media posílí bezpečnostní opatření nástrojů OpenAI. Společnost si uvědomuje důležitost budování důvěry a poskytování ujištění rodičům, kteří mohou mít o AI nástrojích omezené znalosti ve srovnání s mladšími generacemi.
Tato spolupráce přichází, když OpenAI přijímá framework od Common Sense pro hodnocení bezpečnosti, transparentnosti a etického používání AI produktů. Framework od Common Sense Media si klade za cíl poskytnout „etiketu s nutričními hodnotami“ pro AI aplikace, které pomáhají osvětlit kontext použití a potenciální výhody a rizika.
Cílem partnerství mezi Common Sense Media a OpenAI je vzdělávat rodiny a pedagogy o bezpečném a odpovědném používání AI nástrojů, včetně oblíbeného chatbota OpenAI, ChatGPT. Oba subjekty doufají, že prostřednictvím edukace a porozumění zabrání nechtěným negativním důsledkům vyplývajícím z používání nových technologií.
Jelikož OpenAI čelí tlaku ze strany regulačních orgánů v souvislosti s vlivem svých GenAI aplikací, společnost podniká kroky ke zvládnutí obav týkajících se sběru dat, šíření nepravdivých informací a zpracování informací. OpenAI si uvědomuje, že i když GenAI nástroje se mohou občas dostat k nepřesným informacím a vykazovat předsudky, neustále pracují na zlepšování těchto aspektů.
Zajímavé je, že děti a teenagery stále více oslovují AI nástroje, jako je ChatGPT, pro akademickou pomoc i emocionální podporu. Podle průzkumu Centra pro demokracii a technologii se velké množství dětí obrátilo na ChatGPT, aby získaly pomoc s úzkostí, duševními problémy, problémy s přátelstvím a rodinnými konflikty.
Celkově spolupráce mezi OpenAI a Common Sense Media představuje společnou snahu zajistit, aby AI technologie přinesly prospěch teenagerům a rodinám a zároveň minimalizovaly potenciální rizika. OpenAI si prostřednictvím odpovědného kurátora a edukace klade za cíl získat důvěru rodičů a tvůrců politiky a ukázat svůj závazek ke stimulaci pozitivních výsledků s pokroky v oblasti AI.
FAQ:
1. Jaké je partnerství OpenAI s Common Sense Media?
OpenAI uzavřel partnerství s Common Sense Media, neziskovou organizací, s cílem vyvinout směrnice a vzdělávací materiály pro bezpečné a etické používání AI mezi teenageri a rodinami. Spolupráce má za cíl vytvářet GPT (chatbotové aplikace) „rodinného charakteru“, které vyhovují bezpečnostním opatřením organizace Common Sense Media.
2. Jaký je účel tohoto partnerství?
Cílem tohoto partnerství je zajistit, aby rodiče a pedagogové mohli důvěřovat AI nástrojům tím, že budou kurovat aplikace, které splňují bezpečnostní opatření Common Sense Media. Taktéž se snaží edukovat rodiny a pedagogy o odpovědném používání AI nástrojů a zabránit nechtěným negativním důsledkům.
3. O co se jedná v rámci frameworku Common Sense Media pro hodnocení AI produktů?
Framework Common Sense Media poskytuje „etiketu s nutričními hodnotami“ pro AI aplikace, která pomáhá osvětlit kontext použití a potenciální výhody a rizika. Zaměřuje se na hodnocení bezpečnosti, transparentnosti a etického používání AI produktů.
4. Jaké úzkosti pociťuje OpenAI?
OpenAI se zabývá obavami z sběru dat, šíření nepravdivých informací a zpracování informací. Uznává, že ačkoli jejich GenAI nástroje občas mohou poskytnout nepřesné informace a vykazovat předsudky, neustále pracují na jejich zlepšení.
5. Jak děti a teenagery využívají AI nástroje, například ChatGPT?
Podle průzkumu Centra pro demokracii a technologii děti a teenagery využívají AI nástroje, jako je ChatGPT, jak pro akademickou pomoc, tak pro emocionální podporu. Hledají pomoc s úzkostí, duševními problémy, problémy s přátelstvím a rodinnými konflikty.
Klíčové pojmy/zkratky:
– GPT: Odkazuje na chatbotové aplikace založené na Generative Pre-trained Transformers, jako je ChatGPT od OpenAI.
– AI: Zkratka pro umělou inteligenci, obor informatiky zabývající se tvorbou chytrých strojů schopných napodobovat lidskou inteligenci a provádět úkoly, které tradičně vykonávají lidé.
Související odkazy:
– Common Sense Media
– OpenAI
The source of the article is from the blog kewauneecomet.com