Forklart: OpenAIs nye foreldrekontroll for ChatGPT og hva de gjør

OpenAI har avduket robust ny foreldrekontroll for flaggskipet chatbot, ChatGPT, som markerer et sentralt skritt mot å beskytte tenåringer på nettet.

Initiativet kommer på bakgrunn av økende bekymring over AIs innflytelse på ungdom, spesielt etter at et høyprofilert søksmål påsto at ChatGPT spilte en rolle i en tenårings selvmord.

Foreldre, lærere og regulatorer har vært høylytte om behovet for at teknologiselskaper gjør mer for å beskytte unge brukere mot eksplisitt innhold og psykiske helserisikoer.

Med AI-drevne chatbots som blir stadig mer integrert i tenåringers digitale liv, blir OpenAIs siste tiltak både betimelige og nøye gransket.

De nye kontrollene tar sikte på å gi foreldre meningsfull oversikt over hvordan barna deres samhandler med ChatGPT, samtidig som de signaliserer OpenAIs intensjon om å balansere innovasjon, sikkerhet og personvern i en tid med økende digital kompleksitet.

Hva gjør OpenAIs foreldrekontroll?

Den nye foreldrekontrollen lar foreldre aktivt veilede tenåringens opplevelse på ChatGPT gjennom en rekke alternativer.

Foreldre kan nå koble kontoene sine til tenåringene sine via en enkel invitasjon, noe som gjør det mulig å kontrollere hvilke funksjoner som er tilgjengelige, når chatboten kan brukes, og til og med hvordan AI reagerer på spesielt sensitive spørsmål.

Spesielt kan foreldre angi "blackout-vinduer", blokkere ChatGPT-bruk i spesifiserte perioder som leggetid eller studietid, og de kan deaktivere minne- og chathistorikkfunksjoner for ekstra personvern.

Avgjørende er at OpenAIs sikkerhetsprotokoller har utvidet seg til å inkludere sanntidsvarsler for foreldre hvis en tenårings samtale antyder følelsesmessig nød eller selvskading, selv om faktiske chat-transkripsjoner ikke deles av personvernhensyn.

I slike tilfeller av akutt krise kan OpenAI involvere både en menneskelig moderator og, når det er nødvendig, rettshåndhevelse.

Ytterligere trinn inkluderer å begrense eksplisitt og seksuelt innhold for brukere under 18 år, og snart forventer selskapet å implementere forbedret aldersverifisering samt prediktiv aldersmodellering for å beskytte mindreårige ytterligere.

OpenAI sier at disse kontrollene er et resultat av måneder med konsultasjoner med talsmenn for barns sikkerhet, psykisk helsepersonell og personverneksperter, og at deres tilnærming vil fortsette å utvikle seg etter hvert som nye risikoer dukker opp i det raskt skiftende AI-landskapet.

Et oppgjør med barns sikkerhet, teknologi og tenåringers velvære

Innsatsen for disse foreldrekontrollene strekker seg langt utover ChatGPT, og berører et økende samfunnsoppgjør med teknologiens innvirkning på barns velvære.

De siste årene har det vært en alarmerende økning i rapporter om tenåringsangst, nettmobbing og til og med selvmord knyttet til ufiltrerte nettopplevelser.

Det tragiske selvmordet til 16 år gamle Adam Raine, for eksempel, førte til en bølge av gransking, og til slutt søksmålet som fremskyndet OpenAIs respons.

Både foreldre og lovgivere hevder at teknologiselskaper må spille en aktiv rolle i å beskytte sårbare mindreårige, spesielt når AI begynner å påta seg roller i vennskap og rådgivning.

Foreldrekontroll som disse blir sett på som et nødvendig første skritt, men politiske talsmenn advarer om at de ikke er noen erstatning for bredere støttesystemer: psykiske helseressurser, familiekommunikasjon og etiske standarder innen teknologidesign.

OpenAI innrømmer åpent at disse verktøyene bare er begynnelsen og sier at de vil fortsette å foredle sikkerhetstiltak, veiledet av ekspertinnspill og resultater fra den virkelige verden.

Etter hvert som «AI-innfødte» blir voksne, vil debatten om sikkerhet og autonomi bare intensiveres.

Foreløpig signaliserer OpenAIs utrulling bransjeanerkjennelse av at med stor makt følger stort ansvar, en leksjon den digitale tidsalderen fortsatt lærer, noen ganger til store kostnader.