Det teknologiska AI-företaget Anthropic har uppdaterat sin användningspolicy för att inkludera behoven hos yngre generationer, specifikt tonåringar och förtonåringar. Genom denna progressiva åtgärd har företaget fastställt att minderåriga nu kan använda applikationer från tredje part som drivs av Anthropics AI-teknologier, förutsatt att dessa appar uppfyller etablerade säkerhetskriterier.
Företaget insisterar på att det måste implementeras robusta säkerhetsåtgärder, såsom tillförlitliga åldersverifieringsförfaranden och effektiva innehållsfiltreringssystem, för att säkerställa en trygg miljö för minderåriga. Dessutom måste utvecklare lämna transparenta upplysningar om användningen av Anthropics AI i sina applikationer.
För att förstärka dessa säkra områden inför Anthropic krav på att utvecklare ska integrera appar riktade till minderåriga med en ”barnsäkerhetsprompt” för att säkerställa en barnvänlig upplevelse. Ett strikt efterlevnad av lagar om barnsäkerhet och integritet, som COPPA i USA, är obligatoriskt för utvecklare som använder Anthropics AI-modeller.
Företaget har lovat att genomföra periodiska granskningar av applikationer som använder dess teknologi och är beredda att genomföra efterlevnad genom att vid behov avstänga eller avsluta konton. Tydlig offentlig kommunikation som anger efterlevnaden av reglerna för barnsäkerhet är också obligatorisk.
Denna förändring i Anthropics policy harmoniserar med den ökande engagemanget från ungdomar inom generativ AI för utbildningsstöd och personlig tillväxt. Det erkänner AI: s potential att gynna minderåriga i miljöer såsom akademisk förberedelse och emotionellt välbefinnande, samtidigt som det också hanterar oro gällande missbruk av AI.
Av intresse är den bredare kontexten där konkurrenter som OpenAI och Google utvidgar AI-tjänster för yngre användare och till och med samarbetar om att skapa ungdomsvänliga AI-ramverk. När AI blir mer sammanflätad med utbildning och personlig utveckling, betonar initiativ från enheter som UNESCO behovet av noggrann reglering och etiska överväganden gällande användningen av AI av barn och tonåringar.