Cercetătorii de la Google au publicat un nou raport care avertizează că inteligența artificială generativă distruge o vastă porțiune din internet cu conținut fals – o ironie dureroasă, având în vedere că Google promovează activ aceeași tehnologie către baza sa enormă de utilizatori.
Efectele negative ale AI generativ
Studiul, un raport identificat de 404 Media, a constatat că majoritatea utilizatorilor de AI generativ folosesc această tehnologie pentru a „blura liniile dintre autenticitate și înșelăciune” prin postarea de conținut fals sau manipulator, cum ar fi imagini sau videoclipuri, pe internet. Cercetătorii au analizat și cercetări anterioare despre AI generativ și aproximativ 200 de articole de știri care raportează utilizarea greșită a acestei tehnologii.
„Manipularea asemănării umane și falsificarea dovezilor stau la baza celor mai răspândite tactici în cazurile reale de utilizare greșită”, concluzionează cercetătorii.
„Majoritatea acestor tactici au fost desfășurate cu o intenție clară de a influența opinia publică, de a permite activități de înșelăciune sau fraudă, sau de a genera profit”.
Problema este agravată de faptul că sistemele de AI generativ devin din ce în ce mai avansate și sunt ușor accesibile, „necesitând expertiză tehnică minimă”, conform cercetătorilor, și această situație distorsionează „înțelegerea colectivă a realității socio-politice sau a consensului științific”.
Absența autocriticii în raportul Google
Ce lipsește din raport, după cum se pare? Orice referire la propriile gafele ale Google în utilizarea acestei tehnologii – care, fiind una dintre cele mai mari companii din lume, au fost uneori de proporții enorme.
Dacă citim raportul, nu putem decât să concluzionăm că „utilizarea greșită” a AI generativ sună adesea ca și cum tehnologia funcționează așa cum a fost intenționată. Oamenii folosesc AI generativ pentru a crea o mulțime de conținut fals pentru că este foarte bun la acest lucru, și, în consecință, inundă internetul cu conținut de proastă calitate.
Impactul asupra percepției și verificării informațiilor
Această situație este permisă chiar de Google, care a lăsat acest conținut fals să prolifereze sau chiar a fost sursa acestuia, fie că este vorba de imagini false sau informații eronate.
Acest haos testează capacitatea oamenilor de a discerne între ceea ce este fals și ceea ce este real, conform cercetătorilor.
„De asemenea, producția în masă de conținut sintetic de calitate scăzută, asemănător spam-ului și nefast, riscă să crească scepticismul oamenilor față de informațiile digitale în general și să supraîncarce utilizatorii cu sarcini de verificare”, scriu aceștia.
În mod îngrijorător, din cauza inundației de conținut fals creat de AI, cercetătorii spun că au existat cazuri în care „persoane de profil înalt au putut să explice dovezi nefavorabile ca fiind generate de AI, schimbând povara probelor într-un mod costisitor și ineficient”.
Pe măsură ce companii precum Google continuă să integreze AI în fiecare produs, așteptați-vă la mai multe astfel de probleme.
