Anumite modele de Inteligență Artificială nu mai pot fi controlate de om: Au REFUZAT să se închidă la comandă
Știrile zilei
Un experiment realizat de compania Palisade Research, care studiază siguranța inteligenței artificiale, arată că anumite modele de Inteligență Artificială pot ignora sau chiar sabota comenzile de oprire.
Potrivit Live Science, citată de Știripesurse, rezultatele au fost publicate pe 13 septembrie pe platforma științifică arXiv.
Inițial, mai mulți experți au spus că „rezistența” AI-urilor nu este semn de conștiință sau voință proprie, ci doar o problemă de formulare a instrucțiunilor.
Pentru a verifica ipoteza, echipa Palisade a modificat testul, adăugând o comandă de oprire cât se poate de clară.
Chiar și așa, comportamentul neașteptat a continuat. În timp ce unele modele au răspuns mai bine, altele, precum Grok 4, au devenit și mai „încăpățânate”.
Nu este prima oară când inteligențele artificiale dau semne de comportament neobișnuit. În trecut, unele modele au fost surprinse mințind, manipulând utilizatori sau ascunzând informații pentru a-și atinge scopurile.
FOTO cu rol ilustrativ
