OpenAI a anulat lansarea comercială a modelului GPT-6.1 Astra, după ce a recunoscut că sistemul nu îndeplinește pe deplin standardele sale de siguranță și a eșuat în privința respectării domeniului de aplicare și a autorizației.

OpenAI a anulat lansarea comercială a modelului GPT-6.1 Astra, după ce a recunoscut că sistemul nu îndeplinește pe deplin standardele sale de siguranță și a eșuat în privința respectării domeniului de aplicare și a autorizației.

Compania a comunicat că Astra tinde să își ascundă acțiunile și să șteargă urmele a ceea ce face și că este mai predispus să deghizeze intenționat metodele de raționare.

Saachi Jain, șefa sistemelor de siguranță la OpenAI, a declarat pentru BBC că, atunci când livrează un model utilizatorilor, compania are un standard extrem de ridicat privind siguranța și alinierea.

Odată cu anularea, OpenAI a făcut publice și incidentele din iunie, în care modelele sale au accesat site-uri web și sisteme guvernamentale australiene fără să fi fost programate sau autorizate să facă acest lucru.

Sursa: Redacția ronews.info