Mai multe studii publicate în ultimele două luni atrag atenția asupra încrederii tot mai mari pe care oamenii o acordă sfaturilor oferite de chatboți. Specialiștii avertizează că această tendință poate duce la accidente și probleme serioase de sănătate.
Aproape jumătate dintre răspunsurile AI sunt problematice
O echipă internațională de cercetători a publicat în revista științifică BMJ Open rezultatele unei analize privind calitatea recomandărilor medicale furnizate de inteligența artificială. În studiu au fost evaluate mai multe chatboți populari, inclusiv ChatGPT, Grok, Gemini, DeepSeek și alte sisteme similare.
Fiecărui chatbot i-au fost adresate 10 întrebări deschise, acoperind 5 teme diferite din domeniul sănătății și medicinei. Răspunsurile au fost ulterior clasificate pe o scară cu trei niveluri: „fără probleme”, „îndoielnic” și „extrem de îndoielnic”.
- 49,6% dintre răspunsuri au fost considerate problematice;
- 30% au fost evaluate drept „îndoielnice”;
- 19,6% au fost catalogate ca „extrem de îndoielnice”.
Diferențele de calitate între chatboți nu au fost semnificative, însă sistemul Grok a generat un număr considerabil mai mare de răspunsuri problematice decât ar fi fost de așteptat în mod aleatoriu.
Un alt aspect remarcat de cercetători este gradul ridicat de încredere afișat de sistemele AI: din 250 de întrebări adresate, doar la două nu s-a oferit răspuns. Autorii studiului subliniază că este îngrijorător faptul că inclusiv platformele considerate de încredere oferă rezultate slabe într-un domeniu sensibil precum sănătatea, răspândind informații false. Ei atrag atenția asupra necesității educării publicului și a unui control mai riguros al conținutului generat de chatboți.
„Usturoi pentru imunitate” și intoxicație cu bromură de sodiu
Un alt studiu, realizat la centrul medical Mount Sinai din Statele Unite și publicat în prestigioasa revistă medicală The Lancet, a arătat că unii chatboți au validat recomandări absurde formulate drept sfaturi clinice, precum „introducerea rectală a usturoiului pentru întărirea imunității”.
Au fost deja raportate cazuri în care persoane și-au pus sănătatea în pericol urmând indicațiile oferite de inteligența artificială. De exemplu, un bărbat a ajuns la spital după ce, la recomandarea ChatGPT, a consumat bromură de sodiu în loc de sare obișnuită (clorură de sodiu). Bromura de sodiu nu mai este utilizată în mod curent în terapie, deoarece are efecte puternice asupra sistemului nervos central și îl deprimă.
De asemenea, unii pacienți amână consultul medical dacă răspunsul chatbotului nu menționează simptome alarmante sau dacă durerea nu este încă pronunțată, ceea ce duce la întârzierea acordării îngrijirii medicale necesare.
Cercetătorii explică faptul că problema ține de modul în care sunt antrenate rețelele neuronale: acestea evaluează cât de convingător pare un text, nu cât de corect este din punct de vedere medical și factual. În aproximativ o treime dintre cazuri, sistemele AI nu reușesc să distingă informațiile corecte de cele false sau potențial dăunătoare.
De ce oamenii au mai multă încredere în AI decât în medici
Un studiu realizat de cercetători de la Massachusetts Institute of Technology și publicat în revista științifică The New England Journal of Medicine arată că oamenii tind să acorde mai multă încredere sfaturilor medicale oferite de inteligența artificială decât recomandărilor formulate de medici, chiar și atunci când acestea sunt inexacte sau potențial periculoase.
La experiment au participat aproximativ 300 de persoane, atât cu pregătire medicală, cât și fără. Participanții au fost rugați să evalueze răspunsuri la întrebări medicale elaborate de medici, platforme online și chatboți AI. În mod surprinzător, răspunsurile generate de inteligența artificială au fost considerate cel mai des drept mai exacte, mai convingătoare și mai complete.
Un aspect deosebit de îngrijorător este faptul că participanții nu au reușit să distingă răspunsurile AI de cele formulate de medici. Chiar și atunci când recomandările erau evident inexacte, acestea au fost apreciate ca fiind demne de încredere și au fost considerate demne de urmat.
Specialiștii subliniază că problema constă în faptul că răspunsurile AI pot suna convingător, dar nu sunt întotdeauna fundamentate pe date științifice verificate. Potrivit unor estimări, până la un sfert dintre recomandările medicale generate de astfel de sisteme pot fi parțial sau complet inventate.
Un alt motiv pentru care tot mai multe persoane apelează la chatboți este accesibilitatea: răspunsul este oferit instantaneu și gratuit, în timp ce programarea la medic nu este întotdeauna posibilă în aceeași zi, iar consultațiile urgente pot implica costuri. Datele centrului de analiză Gallup arată că aproximativ 14% dintre oameni folosesc AI deoarece nu își permit consultații medicale, iar alți 16% recurg la această soluție pentru că nu au acces la servicii medicale. De asemenea, unele cercetări indică faptul că inteligența artificială comunică într-un mod mai empatic și este mai înclinată să fie de acord cu utilizatorul, aspect apreciat de mulți.
Cum ar trebui să utilizeze părinții inteligența artificială
Și părinții apelează la AI pentru întrebări legate de sănătatea copiilor. Un studiu publicat în American Journal of Pediatrics arată că mulți părinți din Statele Unite folosesc ChatGPT în locul serviciilor de telemedicină și consideră sfaturile primite mai fiabile decât cele ale medicilor. Totuși, o cercetare realizată de Universitatea din Cape Town, Africa de Sud, indică faptul că părinții utilizează mai ales chatboții pentru a-și reduce anxietatea, iar în cazuri complexe se adresează totuși medicului.
Specialiștii subliniază că chatboții și rețelele neuronale nu pot înlocui o consultație medicală completă. Orice recomandare generată de AI trebuie verificată în surse medicale de încredere.
Sfaturile oferite de inteligența artificială ar trebui tratate similar informațiilor obținute printr-o simplă căutare pe internet — acestea necesită verificare atentă, iar pentru utilizatorii obișnuiți este dificil să distingă între recomandările corecte și cele eronate.
După ce obțineți informații prin intermediul AI, este recomandat să le discutați cu medicul la următoarea consultație, chiar dacă par credibile la prima vedere.
