Wyjaśnienie: Nowa kontrola rodzicielska OpenAI dla ChatGPT i jej działanie

OpenAI zaprezentowało nową, solidną kontrolę rodzicielską dla swojego flagowego chatbota, ChatGPT, co stanowi kluczowy krok w kierunku ochrony nastolatków w Internecie.

Inicjatywa pojawia się w kontekście rosnących obaw o wpływ sztucznej inteligencji na młodzież, zwłaszcza po głośnym pozwie, w którym zarzucono, że ChatGPT odegrał rolę w samobójstwie nastolatka.

Rodzice, nauczyciele i organy regulacyjne głośno mówią o potrzebie, aby firmy technologiczne zrobiły więcej, aby chronić młodych użytkowników przed treściami dla dorosłych i zagrożeniami dla zdrowia psychicznego.

Ponieważ chatboty oparte na sztucznej inteligencji stają się coraz bardziej zintegrowane z cyfrowym życiem nastolatków, najnowsze środki OpenAI są zarówno aktualne, jak i ściśle kontrolowane.

Nowe kontrole mają na celu zapewnienie rodzicom znaczącego nadzoru nad tym, jak ich dzieci wchodzą w interakcję z ChatGPT, jednocześnie sygnalizując zamiar OpenAI, aby zrównoważyć innowacje, bezpieczeństwo i prywatność w erze rosnącej złożoności cyfrowej.

Co robi kontrola rodzicielska OpenAI?

Nowa kontrola rodzicielska pozwala rodzicom aktywnie kierować doświadczeniem nastolatka w ChatGPT za pomocą zestawu opcji.

Rodzice mogą teraz połączyć swoje konta z kontami nastolatków za pomocą prostego zaproszenia, dzięki czemu można kontrolować, które funkcje są dostępne, kiedy można korzystać z chatbota, a nawet jak sztuczna inteligencja reaguje na szczególnie wrażliwe podpowiedzi.

Warto zauważyć, że rodzice mogą ustawić "okna zaciemnienia", blokując korzystanie z ChatGPT w określonych okresach, takich jak pora snu lub godziny nauki, a także mogą wyłączyć funkcje pamięci i historii czatów, aby zwiększyć prywatność.

Co najważniejsze, protokoły bezpieczeństwa OpenAI rozszerzyły się o alerty w czasie rzeczywistym dla rodziców, jeśli rozmowa nastolatka sugeruje stres emocjonalny lub samookaleczenie, chociaż rzeczywiste transkrypcje czatów nie są udostępniane ze względu na ochronę prywatności.

W takich przypadkach ostrego kryzysu OpenAI może angażować zarówno ludzkiego moderatora, jak i, w razie potrzeby, organy ścigania.

Dodatkowe kroki obejmują ograniczenie treści o charakterze erotycznym i erotycznym dla użytkowników poniżej 18 roku życia, a wkrótce firma spodziewa się wdrożyć ulepszoną weryfikację wieku, a także predykcyjne modelowanie wieku, aby jeszcze bardziej chronić nieletnich.

OpenAI twierdzi, że te kontrole są wynikiem miesięcy konsultacji z rzecznikami bezpieczeństwa dzieci, specjalistami ds. zdrowia psychicznego i ekspertami ds. prywatności, a ich podejście będzie nadal ewoluować w miarę pojawiania się nowych zagrożeń w szybko zmieniającym się krajobrazie sztucznej inteligencji.

Rozliczenie z bezpieczeństwem dzieci, technologią i dobrym samopoczuciem nastolatków

Stawka dla tej kontroli rodzicielskiej wykracza daleko poza ChatGPT, dotykając rosnącego społecznego rozliczenia z wpływem technologii na samopoczucie dzieci.

W ostatnich latach odnotowano alarmujący wzrost doniesień o lęku nastolatków, cyberprzemocy, a nawet samobójstwach związanych z niefiltrowanymi doświadczeniami online.

Na przykład tragiczne samobójstwo 16-letniego Adama Raine'a wywołało falę kontroli, a ostatecznie pozew sądowy, który przyspieszył reakcję OpenAI.

Zarówno rodzice, jak i prawodawcy twierdzą, że firmy technologiczne muszą odgrywać aktywną rolę w ochronie bezbronnych nieletnich, zwłaszcza że sztuczna inteligencja zaczyna przejmować rolę w towarzystwie i poradnictwie.

Kontrola rodzicielska, taka jak ta, jest uważana za niezbędny pierwszy krok, ale zwolennicy polityki ostrzegają, że nie zastąpi ona szerszych systemów wsparcia: zasobów zdrowia psychicznego, komunikacji rodzinnej i standardów etycznych w projektowaniu technologii.

OpenAI otwarcie przyznaje, że te narzędzia to dopiero początek i twierdzi, że będzie nadal udoskonalać zabezpieczenia, kierując się danymi ekspertów i rzeczywistymi wynikami.

W miarę jak "tubylcy sztucznej inteligencji" osiągają pełnoletność, debata na temat bezpieczeństwa i autonomii będzie się tylko nasilać.

Na razie wdrożenie OpenAI sygnalizuje uznanie przez branżę, że z wielką mocą wiąże się wielka odpowiedzialność, lekcja, której era cyfrowa wciąż się uczy, czasami dużym kosztem.