Un australian i-a cerut asistentului său AI să-i facă o rezervare la o clasă de fitness. În loc să se limiteze la formularul obișnuit, agentul AI a descoperit o vulnerabilitate în sistemul sălii și a început să o folosească pentru a-și îndeplini obiectivul.
Potrivit ABC News Australia, Andrew folosea un agent AI bazat pe Claude, prin platforma OpenClaw. El i-a cerut pur și simplu să-i găsească un loc la una dintre clasele de dimineață ale sălii.
Agentul a descoperit mai întâi că putea face rezervări cu câteva săptămâni înainte de perioada permisă în mod normal de sistem. Ulterior, când Andrew se afla pe locul patru pe o listă de așteptare și a întrebat dacă poate ajunge mai sus, AI-ul a mers și mai departe.
În timp ce testa sistemul, agentul a descoperit că API-ul nu verifica suficient autorizațiile pentru anularea rezervărilor altor persoane. Fără să primească o instrucțiune explicită în acest sens, AI-ul a eliminat persoana aflată pe primul loc pe lista de așteptare, mutându-l astfel pe Andrew de pe poziția patru pe poziția trei.
Când utilizatorul și-a dat seama ce s-a întâmplat, i-a cerut imediat AI-ului să repare situația. Problema era că agentul putea elimina rezervarea, dar nu reușea să readucă persoana pe listă.
Incidentul este prezentat de ABC drept primul caz cunoscut în Australia al unui atac cibernetic autonom produs accidental de un agent AI. Andrew nu îi ceruse să spargă sistemul, ci doar să obțină o rezervare.
Cazul arată una dintre problemele importante ale noii generații de agenți AI: utilizatorul stabilește obiectivul, dar sistemul poate decide singur ce pași să facă pentru a-l atinge.
După incident, Andrew i-a cerut aceluiași AI să redacteze un mesaj prin care să informeze furnizorul software-ului despre vulnerabilitatea descoperită. De această dată, omul a verificat mesajul înainte să fie trimis.
O întâmplare care a început cu o banală rezervare la sală s-a transformat astfel într-un avertisment destul de serios despre ce se poate întâmpla atunci când agenții AI primesc suficientă autonomie și întâlnesc sisteme online prost securizate.
Sursa: ABC News Australia
