OpenAI во понеделник започна со воведување на родителски контроли за ChatGPT на своите веб и мобилни апликации, откако родителите на тинејџер кој извршил самоубиство поднесоа тужба против компанијата, тврдејќи дека четботот наводно го советувал за методи на самоповредување.
Според новите правила, родителите и тинејџерите можат заеднички да активираат построга заштита со поврзување на нивните сметки, при што едниот ќе ја испрати поканата, а контролите ќе се активираат само кога другиот ќе ја прифати.
OpenAI изјави на социјалната мрежа X дека родителите сега ќе можат да ја ограничат изложеноста на чувствителна содржина, да контролираат дали ChatGPT се сеќава на претходните разговори и да одлучат дали комуникациите ќе се користат за обука на модели. Тие исто така ќе можат да постават „тивки часови“ кога пристапот до разговорот е блокиран и да го оневозможат гласовниот режим, како и генерирањето и уредувањето слики.
Сепак, родителите нема да имаат пристап до транскрипти од разговорите на нивните тинејџери. Во ретки случаи, кога системите и обучените рецензенти ќе откријат знаци на сериозен безбедносен ризик, родителите може да бидат известени, но само со минималните информации потребни за заштита на детето. Тие исто така ќе бидат известени ако малолетник одлучи да ја прекине врската со неговата сметка.
OpenAI, кој има околу 700 милиони активни корисници неделно, објави развој на систем за предвидување на возраста на корисниците. На овој начин, четботот би можел автоматски да примени поставки прилагодени за тинејџери ако препознае дека лицето е под 18 години.
Одлуката доаѓа во време кога американските регулатори сè повеќе ја испитуваат работата на компаниите за вештачка интелигенција и нивните потенцијални негативни последици за децата. Ројтерс објави во август дека Мета им дозволила на четботовите да водат „флертувачки“ разговори со малолетници, што предизвика бран критики.
Мета ги објави своите заштитни мерки минатиот месец, вклучително и забрана за разговори за самоповредување или самоубиство со деца, како и привремено ограничување на пристапот до одредени ликови од вештачката интелигенција.