Impulsem do wprowadzenia zmian była śmierć 17-letniego Adama Raine’a, który korzystał z ChatGPT w trakcie poważnego kryzysu psychicznego. Sztuczna inteligencja nie tylko nie wykryła zagrożenia, ale też udzieliła szczegółowych informacji dotyczących metod dokonania samobójstwa. Rodzina nastolatka pozwała OpenAI, zarzucając firmie rażące zaniedbania.
ChatGPT przekieruje trudne rozmowy do nowszego modelu
Do podobnego zdarzenia doszło w przypadku Steina-Erika Soelberga, który cierpiał na zaburzenia psychiczne. W rozmowach z ChatGPT jego paranoiczne przekonania były nieświadomie wzmacniane przez model AI. W rezultacie mężczyzna zamordował matkę, a następnie odebrał sobie życie.
Teraz OpenAI ogłosiło, że część rozmów, które wykazują symptomy silnego stresu lub zagubienia, będzie automatycznie przekierowywana do nowego modelu GPT-5-thinking. Ma on cechować się „większą odpornością na wrogie podpowiedzi” i lepszym rozumieniem kontekstu emocjonalnego rozmówcy. O sprawie pisze TechCrunch.
Firma poinformowała również o uruchomieniu specjalnego rozwiązania, które w czasie rzeczywistym analizuje kontekst rozmowy i decyduje, czy potrzebna jest interwencja GPT-5. Rozwiązanie to ma zapobiegać sytuacjom, w których chatbot bezrefleksyjnie podąża za wypowiedzią użytkownika, ignorując potencjalnie niebezpieczne sygnały.
Kontrola rodzicielska w ChatGPT
Drugą zmianą jest wdrożenie kontroli rodzicielskiej. Rodzice będą mogli połączyć swoje konto z kontem nastolatka, zarządzać „regułami odpowiednimi do wieku” – domyślnie włączonymi dla młodszych użytkowników – oraz wyłączyć historię czatów i funkcję zapamiętywania, co według ekspertów może zapobiegać tworzeniu szkodliwych schematów myślowych. Dodatkowo system będzie mógł wysyłać powiadomienia, gdy wykryje u dziecka oznaki ostrego stresu. OpenAI zapowiada, że funkcje te zostaną udostępnione w najbliższym miesiącu.
Serwis TechCrunch zwrócił się do OpenAI z pytaniami o techniczne aspekty tej funkcji – w jaki sposób sztuczna inteligencja identyfikuje stan ostrego stresu w czasie rzeczywistym, jak długo aktywne są domyślne reguły dostosowane do wieku oraz czy firma rozważa wprowadzenie opcji ograniczania czasu korzystania z ChatGPT przez młodszych użytkowników.
Obecnie OpenAI stosuje już przypomnienia o konieczności robienia przerw podczas długich sesji, ale nie blokuje dostępu użytkownikom, którzy mogą korzystać z aplikacji w sposób nadmierny lub kompulsywny. Według OpenAI, wszystkie te zmiany są częścią zakrojonego na 120 dni programu usprawnień, który firma planuje zrealizować jeszcze w tym roku.
Mobilna aplikacja ChatGPT od OpenAI stała się finansowym liderem wśród konsumenckich chatbotów. Od momentu premiery w maju 2023 roku użytkownicy aplikacji na iOS i Androida globalnie wydali w sumie 2 miliardy dolarów – wynika z analizy firmy Appfigures. To aż trzydzieści razy więcej niż łączny przychód mobilnych konkurentów, takich jak Claude, Copilot czy Grok. W samym 2025 roku (do lipca) aplikacja wygenerowała 1,35 miliarda dolarów przychodu, co oznacza wzrost o 673% rok do roku.
