Američka kompanija za razvoj veštačke inteligencije OpenAI uvela je niz novih pravila za korisnike četbotova mlađe od 18 godina, koja podrazumevaju i ograničavanje razgovora o seksualnim temama i samopovređivanju.
To je saopštio izvršni direktor OpenAI Sem Altman.
Firma ističe da je “bezbednost važnija od privatnosti i slobode za tinejdžere” i da maloletni korisnici treba da budu dodatno zaštićeni, prenosi TechCrunch.
Altman je istakao da će OpenAI razvijati dugoročni sistem za razlikovanje korisnika starijih i mlađih od 18 godina, uz standard da se u nejasnim slučajevima primenjuju stroža pravila.
Prema novim pravilima, alat ChatGPT više neće učestvovati u “flertujućim razgovorima” sa tinejdžerima, a dodatne sigurnosne mere uvedene su u razgovore o scenarijima samoubistva.
Ako maloletnik koristi ChatGPT za zamišljanje suicidalnih situacija, sistem će pokušati da kontaktira roditelje, a u posebno ozbiljnim slučajevima i lokalnu policiju.
Roditelji koji povežu nalog deteta sa svojim nalogom dobijaju mogućnost da podešavaju “vreme blokade” kada ChatGPT nije dostupan i da budu obavešteni ako sistem veštačke inteligencije proceni da je tinejdžer u opasnosti.
Nove mere dolaze u kontekstu tužbi zbog smrti maloletnika Adama Rejna koji je izvršio samoubistvo nakon više meseci komunikacije sa alatom ChatGPT.
Izvor: 021
