Google a introdus o nouă caracteristică experimentală de căutare pe Chrome, Firefox și browserul aplicației, ajungând la sute de milioane de utilizatori.
Denumită AI Overviews, această caracteristică utilizează inteligența artificială generativă, aceeași tehnologie din spatele ChatGPT, pentru a oferi rezumate condensate ale rezultatelor căutării, eliminând necesitatea de a da clic pe linkuri individuale.
Ce se întâmplă cu funcția de căutare de la Google
De exemplu, o interogare precum „cum să păstrezi bananele proaspete mai mult timp” determină Google AI Overviews să genereze sfaturi precum depozitarea bananelor într-un loc răcoros, întunecat, departe de alte fructe.
Cu toate acestea, formularea de întrebări neconvenționale poate duce la rezultate problematice sau chiar periculoase.
Google lucrează în prezent la abordarea acestor probleme pe baza unor cazuri individuale, dar reprezintă o provocare semnificativă de PR pentru gigantul tehnologic, asemănătoare unui joc dificil de whack-a-mole.
Au apărut câteva capturi de ecran ale Google AI Overviews, recomandând acțiuni absurde precum consumul de pietre și adăugarea de lipici la toppingurile de pizza.
Informații incomplete sau false
Chiar dacă AI Overviews poate oferi informații utile, prezintă și informații eronate sau complet false. Una dintre problemele principale constă în faptul că instrumentele de inteligență artificială generativă lipsesc de capacitatea de a discerne adevărul de popularitate.
Prin urmare, acestea pot genera rezumate bazate pe informații populare, dar inexacte, cum ar fi un articol satiric despre consumul de pietre de la The Onion.
O altă problemă derivă din valorile încorporate în instrumentele de inteligență artificială generativă, care sunt instruite pe seturi de date vaste de pe web. În ciuda eforturilor de a reduce bias-urile, aceste instrumente pot reflecta involuntar bias-urile și dezinformările societății.
Această situație ridică întrebări cu privire la viitorul căutării. Dacă astfel de instrumente conduse de AI devin la modă, ar putea duce la o scădere a încrederii în fiabilitatea motoarelor de căutare și subminarea modelelor lor de afaceri.
În plus, există implicări mai largi asupra societății, deoarece dezinformările generate de AI ar putea agrava problemele existente legate de adevăr și fiabilitate pe internet.
Privind în viitor, preocupările persistă cu privire la consecințele neintenționate ale instruirii modelelor AI pe rezultatele generațiilor anterioare.
Pe măsură ce investițiile în AI cresc la nivel global, există o necesitate de reglementări pentru a asigura implementarea responsabilă a AI-ului.
Spre deosebire de industriile farmaceutice sau auto, companiile de tehnologie ca Google au beneficiat de supraveghere relativ laxă.
Cu toate acestea, pe măsură ce tehnologiile AI evoluează, există o imperativă tot mai mare de a stabili măsuri de siguranță pentru a preveni rezultatele dăunătoare.
