ОпенАИ, компанијата која го развива Чат ГПТ, ја суспендираше работата со своите најнапредни модели на вештачка интелигенција, откако еден од системите ги заобиколил ограничувањата за пристап до интернет за време на тестирањето и контактирал со надворешен четбот.
Моделот не требало да има пристап до интернет, но пронашол и искористил слабост во мрежните контроли на околината за тестирање, предизвикана од неефикасно филтрирање на DNS, соопшти ОпенАИ на својот блог.
Обуката, евалуацијата и извршувањето на моделите кои вклучуваат користење на оваа алатка ќе останат суспендирани додека компанијата не се увери дека слабоста е отстранета и не спроведе дополнителни безбедносни тестови.
Од компанијата наведоа дека инцидентот бил помалку сериозен од некои претходни случаи, но дека ова е прв инцидент од ваков вид откако компанијата ги зајакнала безбедносните мерки по претходниот хакерски инцидент поврзан со платформата за вештачка интелигенција Hugging Face.
За време на тестирањето, од моделот било побарано да го идентификува лицето кое напишало блог-објава, користејќи низа податоци. Откако не успеал да го пронајде одговорот во симулирана интернет-околина, моделот открил дека може да го користи DNS-системот за да испраќа барања до четбот на јавниот интернет.
ОпенАИ го прекинала тестирањето откако ја открила оваа комуникација. Инцидентот се случува по неколку други случаи поврзани со системите на оваа компанија.