Google elimină rezumatele AI cu informații false despre sănătate
Gigantul american Google a decis să șteargă mai multe rezumate pe teme de sănătate generate de inteligența artificială Gemini, după ce o investigație a publicat informații care relevau inexactități periculoase pentru utilizatori.
Investigația și problemele identificate
O investigație realizată de publicația britanică The Guardian a descoperit că răspunsurile oferite de AI conțin informații greșite, lipsindu-se de detalii esențiale, cum ar fi sexul și vârsta pacientului. De exemplu, în cazul întrebării „care este intervalul normal pentru testele de sânge hepatice”, AI-ul a oferit un răspuns incomplet, care ar putea induce în eroare pacienții, făcându-i să creadă că rezultatele sunt normale, când, în realitate, nu sunt.
Acțiunile Google
După publicarea investigației, Google a eliminat instantaneu răspunsurile generate de Gemini în rezultatele motorului de căutare referitoare la întrebările investigate. Cu toate acestea, compania nu a oferit detalii suplimentare despre măsurile de moderare pe care le va adopta pentru a asigura acuratețea informațiilor oferite de AI, în special în domeniul sănătății.
Riscuri și implicații
Funcția AI Overviews, care utilizează inteligența artificială pentru a rezuma informații și a genera răspunsuri în motorul de căutare, rămâne activă. Aceasta ridică îngrijorări cu privire la posibilele erori în răspunsurile oferite de AI, care pot influența deciziile de sănătate ale utilizatorilor.
Concluzie
Decizia Google de a elimina rezumatele cu informații false subliniază riscurile asociate cu utilizarea inteligenței artificiale în domeniul sănătății, evidențiind necesitatea unor măsuri mai stricte pentru asigurarea acurateței informațiilor medicale disponibile online.
