Sari la conținut
Halucinațiile unui chatbot: de ce apar și cum verifici un răspuns
Foto: Ron Lach / Pexels
Inteligență artificială

Halucinațiile unui chatbot: de ce apar și cum verifici un răspuns

Cel mai neplăcut lucru la un răspuns greșit venit de la un asistent AI nu e că e greșit. E că arată exact ca unul corect. Aceeași siguranță în ton, aceeași structură ordonată, aceleași detalii aparent verificabile. Nu există ezitare, nu există „cred că”, nu există nicio diferență de suprafață între o informație solidă și una fabricată integral în momentul scrierii.

Fenomenul a primit numele de halucinație, iar termenul e nefericit, pentru că sugerează o defecțiune ocazională. În realitate e o consecință directă a felului în care funcționează aceste sisteme, iar asta înseamnă că nu poate fi eliminată complet — poate fi doar redusă și, mai important, detectată.

Ce înseamnă exact o halucinație

Vorbim de o afirmație prezentată ca fapt, formulată fluent și credibil, care pur și simplu nu corespunde realității. Nu e o greșeală de calcul, nu e o informație depășită și nu e o opinie discutabilă. E o invenție cu formă de adevăr.

Formele întâlnite cel mai des:

  • Surse inexistente. Titluri de cărți plauzibile, autori reali, edituri reale, ani credibili — dar cartea nu există. Este cel mai frecvent tip.
  • Citate atribuite greșit. O frază reală pusă în gura altcuiva, sau o frază inventată atribuită unei persoane reale.
  • Cifre inventate. Procente, prețuri, statistici, date de lansare. Se recunosc după faptul că sunt suspect de rotunde sau suspect de precise.
  • Funcții care nu există. Un meniu într-o aplicație, un buton, o setare — descrise foarte convingător, dar absente.
  • Detalii legislative aproximative. Numere de articole, termene, denumiri de formulare care sună corect, dar nu se verifică.

Cauza de fond ține de obiectivul cu care aceste modele sunt construite: să producă o continuare plauzibilă a textului, nu una verificată. O referință bibliografică falsă are exact aceeași formă statistică cu una autentică, așa că sistemul nu are cum să le distingă. Mecanismul e detaliat pe larg în articolul despre motivele pentru care un chatbot inventează informații, iar înțelegerea lui e primul pas practic.

De unde apar, concret

Din golurile de cunoaștere. Modelul a fost antrenat pe o cantitate uriașă de text, dar acoperirea nu e uniformă. Subiectele de nișă, informațiile locale, denumirile instituțiilor mici, procedurile administrative dintr-o anumită țară — toate sunt slab reprezentate. Acolo unde datele sunt subțiri, sistemul completează cu ce pare probabil.

Din același motiv, riscul crește sensibil când întrebi în română despre realități românești: proporția de text disponibil e mult mai mică decât în engleză, iar procedurile administrative se schimbă des.

Din presiunea de a răspunde. Un model antrenat pe feedback uman învață că răspunsurile complete sunt apreciate, iar „nu știu” e apreciat mai puțin. Rezultatul e o înclinație spre a livra ceva, chiar când baza lipsește.

Din formularea întrebării. Dacă întrebi „care sunt cele cinci studii care demonstrează X”, ai cerut cinci studii, iar sistemul îți va produce cinci. Întrebarea a presupus existența lor, iar modelul nu contestă premisa, ci o continuă. Aceasta e o sursă de erori pe care o controlezi în întregime.

Unde se concentrează riscul

Nu toate răspunsurile sunt la fel de expuse. Merită să-ți construiești un reflex de vigilență diferențiată:

Risc mare: nume proprii de persoane și organizații mai puțin cunoscute; referințe bibliografice și linkuri; cifre, procente și prețuri; date calendaristice; texte de lege și proceduri administrative; instrucțiuni pas cu pas într-o interfață specifică; informații despre evenimente recente.

Risc mic: reformulări ale unui text pe care i l-ai dat tu; rezumate ale unui document furnizat; explicații ale unor concepte generale bine documentate; corectură și structurare; traduceri uzuale; generare de idei și variante.

Tiparul e clar: cu cât sarcina se bazează mai mult pe materialul pe care i-l dai tu și mai puțin pe ce își amintește el, cu atât riscul e mai mic. De aceea, atunci când îi dai un document lung de rezumat, rezultatul e considerabil mai de încredere decât atunci când îi ceri să-ți spună din memorie ce scrie într-un document pe care nu l-a văzut.

Protocolul de verificare, în cinci pași

Verificarea nu trebuie să dureze cât ar dura să faci singur toată munca. Un protocol scurt prinde majoritatea problemelor.

  1. Separă afirmațiile verificabile. Trece rapid peste răspuns și subliniază mental fiecare cifră, nume propriu, dată și trimitere la o sursă. Restul — explicații, structură, reformulări — e mult mai puțin riscant.
  2. Verifică sursele înainte de orice. Caută titlul exact între ghilimele într-un motor de căutare. Dacă nu apare nicăieri, nu există. Dacă apare doar pe site-uri agregatoare fără legătură, e suspectă. Un link care duce la o pagină de eroare e semnalul cel mai clar.
  3. Confirmă la sursa primară. Pentru o procedură administrativă, site-ul instituției. Pentru o funcție dintr-o aplicație, documentația producătorului. Pentru un preț, magazinul. Niciodată un al doilea chatbot.
  4. Pune întrebarea din nou, într-o conversație nouă. Nu în același fir, unde răspunsul anterior influențează continuarea. Dacă primești două variante incompatibile la aceeași întrebare, cel puțin una e inventată, iar subiectul intră automat în categoria de verificat riguros.
  5. Cere-i să-și arate limitele. Întrebări de tipul „ce parte din acest răspuns nu poți confirma?” sau „ce ar trebui verificat independent aici?” produc adesea o listă surprinzător de onestă. Nu e o garanție, dar e un filtru ieftin.

Cum formulezi ca să reduci problema de la început

Câteva obiceiuri scad vizibil rata de invenție:

  • Dă tu materialul. Lipește textul, documentul, pagina. Ancorat în ceva concret, modelul are mult mai puțin loc de improvizat.
  • Spune explicit că preferi „nu știu”. O propoziție de tipul „dacă nu ești sigur, spune că nu ești sigur, nu completa” schimbă real comportamentul.
  • Nu presupune existența. În loc de „dă-mi trei studii care arată X”, întreabă „există studii despre X? dacă da, care?”.
  • Cere raționamentul, nu doar rezultatul. Pașii intermediari sunt mai ușor de verificat decât o concluzie compactă și scot la iveală salturile logice.
  • Folosește modul cu căutare pe internet, când e disponibil, și cere linkuri pe care să le deschizi. Reduce mult problema surselor inventate, deși nu o elimină: rămâne posibil ca sursa să existe, dar să nu spună ce se afirmă despre ea.
  • Împarte sarcinile mari în pași. Un răspuns lung la o cerere vagă are mult mai multe ocazii să derapeze.

Niciunul dintre aceste obiceiuri nu costă timp în plus. Toate mută sarcina modelului dinspre „amintește-ți” înspre „prelucrează ce ți-am dat”, iar acolo el e mult mai de încredere.

Domeniile în care verificarea proprie nu e suficientă

Există subiecte la care protocolul de mai sus e necesar, dar nu suficient, pentru că nu ai cum să evaluezi corectitudinea răspunsului chiar dacă îl citești atent.

Sănătate. Un asistent AI poate explica termeni dintr-o analiză sau te poate ajuta să formulezi întrebările pentru consultație. Nu poate pune un diagnostic și nu poate ajusta un tratament. Interpretarea rezultatelor și orice decizie terapeutică rămân la medic.

Bani și investiții. Poate descrie cum funcționează un instrument financiar în general. Nu poate spune ce ți se potrivește ție. Pentru decizii cu miză, un consultant financiar autorizat.

Legal și fiscal. Aici riscul de invenție e deosebit de mare, pentru că numerele de articole și termenele au exact forma pe care modelul o produce ușor și greșit. Legislația se modifică frecvent. Verifică la sursa oficială și, pentru situații care contează, consultă un avocat sau un contabil.

Siguranță fizică. Instalații electrice, gaz, medicamente, lucrări la înălțime. Un răspuns plauzibil dar greșit are aici consecințe ireversibile.

Merită adăugat că problema autenticității nu se oprește la text: aceleași tehnologii generează astăzi imagini, voce și video, iar semnele după care recunoști un material falsificat fac parte din același set de deprinderi.

Poziția rezonabilă nu e nici încrederea oarbă, nici respingerea. Tratează un asistent AI ca pe un colaborator rapid, cult și ocazional neatent, care nu minte intenționat, dar nici nu verifică. Pentru munca de reformulat, structurat, explicat și rezumat, e un câștig real de timp. Pentru fapte care contează, ce livrează el e o ipoteză bine scrisă, iar sarcina de a o confirma rămâne, în întregime, a ta.

Merită recitite

Tot ce găsești pe Revista Digitală