Google șterge rezumate AI cu informații greșite
Google a eliminat recent o serie de rezumate pe teme de sănătate generate de inteligența artificială Gemini, după ce o investigație realizată de publicația britanică The Guardian a evidențiat informații periculoase pentru utilizatori.
Informații riscante pentru utilizatori
Investigația a arătat că răspunsurile oferite de AI-ul Gemini pot fi incomplete și pot induce în eroare pacienții. De exemplu, la întrebarea „care este intervalul normal pentru testele de sânge hepatice”, AI-ul a omis detalii esențiale precum sexul și vârsta pacientului. Această lipsă de context poate determina utilizatorii să creadă că rezultatele lor sunt normale, ceea ce ar putea conduce la abandonarea unor investigații medicale necesare.
Măsuri luate de Google
În urma publicării investigației, Google a reacționat prin ștergerea răspunsurilor generate de Gemini care au fost subiectul analizei. Cu toate acestea, gigantul tehnologic nu a oferit detalii suplimentare despre măsurile de moderare a conținutului furnizat de AI, în special în domeniul sănătății.
Riscuri persistente
Deși funcția AI Overviews, care utilizează inteligența artificială pentru a crea rezumate și răspunsuri în motorul de căutare, rămâne activă, există îngrijorări cu privire la posibilele erori care ar putea afecta utilizatorii. Este de așteptat ca astfel de situații să fie abordate cu mai multă seriozitate pentru a proteja sănătatea publicului.
Concluzie
Decizia Google de a șterge rezumatele AI cu informații greșite subliniază importanța responsabilității în utilizarea inteligenței artificiale, în special în domenii sensibile precum sănătatea, unde informațiile eronate pot avea consecințe grave pentru utilizatori.
