OpenAI wprowadza ostrzejsze ograniczenia dla nastoletnich użytkowników ChatGPT. Chatbot ma wstrzymywać się z praktycznymi informacjami o broni i systemach zabezpieczeń, nawet jeśli pytanie wygląda niewinnie. Część nowych zasad obejmie też dorosłych.

Co zmienia się dla nastolatków

Firma opisała zmiany w najnowszym wpisie. Przypomniała, że ChatGPT już wcześniej nie powinien pomagać w przemocy ani w zdobywaniu broni przez nastolatków. Teraz granice mają być wyraźnie ostrzejsze: w przypadku kont nastolatków model ma ograniczać praktyczne informacje o broni i zabezpieczeniach, które mogłyby posłużyć do ułatwienia przemocy. Dotyczy to także sytuacji, w których nic nie wskazuje na złe zamiary.

W praktyce ChatGPT może więc odmówić odpowiedzi na pytanie, które w innym kontekście uchodziłoby za zwykłą ciekawość.

Temat nie zostaje jednak całkiem zamknięty. Nastolatki nadal mogą korzystać z chatbota, aby:

• zapobiegać przemocy lub łagodzić napiętą sytuację,
• szukać wsparcia,
• nawiązać kontakt z zaufaną dorosłą osobą.

Zmiany także dla pozostałych użytkowników

OpenAI wzmacnia również zasady obowiązujące wszystkich. Chodzi zwłaszcza o prośby o rekonstrukcje dawnych zamachów masowych, czyli szczegóły dotyczące użytej broni i sprzętu oraz sposobu ich zdobycia. Ograniczenia obejmą też szczegółowe porównania skali szkód, które mogłyby zwiększać rozgłos sprawcy.

Kontrola rodzicielska i tło decyzji

Nowe ograniczenia mają działać razem z kontrolą rodzicielską, którą firma uruchomiła w zeszłym roku. Rodzice dostają powiadomienia, jeśli powiązane konto ich dziecka naruszy zasady dotyczące gróźb lub aktów przemocy.

Zaostrzenie polityki pojawia się po serii trudnych dla firmy wydarzeń. W zeszłym roku OpenAI został pozwany w sprawie o bezprawne spowodowanie śmierci. Szef firmy, Sam Altman, przeprosił publicznie za to, że nie zawiadomiono policji o niepokojących zapisach rozmów związanych ze strzelaniną w Tumbler Ridge. Do zdarzenia doszło na początku tego roku. OpenAI zapowiada ponadto pierwszy Community Safety Report na początek 2027 roku, a kolejne mają ukazywać się co sześć miesięcy.

Co to oznacza dla polskich rodziców

Z komunikatu nie wynika, jak i kiedy zmiany będą wdrażane w poszczególnych krajach, więc trudno powiedzieć, od kiedy odczują je użytkownicy w Polsce. Nie ma jednak powodu zakładać, że nas ominą. Z ChatGPT korzystają także polskie nastolatki, a pytania o broń mogą pojawiać się z ciekawości, po obejrzeniu filmu albo gry, a nie z realnych zamiarów. Dostęp do broni palnej jest u nas ściśle regulowany i wymaga pozwolenia, więc nastolatek nie zdobędzie jej legalnie. Mimo to ograniczanie szczegółowych instrukcji przez chatbota wpisuje się w szersze starania o bezpieczeństwo małoletnich w sieci.

Warto pamiętać, że narzędzia takie jak powiadomienia dla rodziców działają na kontach powiązanych ze sobą, więc same z siebie niczego nie załatwią. Rodzic, który chce z nich korzystać, musi skonfigurować je wspólnie z dzieckiem. Takie ustawienia nie zastąpią rozmowy o tym, po co młodzi ludzie pytają chatbota o trudne tematy i dokąd mogą zwrócić się po pomoc, gdy czują złość albo bezradność. Same limity techniczne nie rozwiążą też problemu, bo modele AI to tylko jedno z wielu źródeł informacji dostępnych w internecie.

Źródło: Engadget – „OpenAI adds stricter limits for teens asking about firearms”