O halucinație AI este un rezultat al unui model generativ de AI care sună corect, dar nu este: un răspuns sigur pe el, o statistică, un citat sau o sursă pe care modelul le-a produs și care nu corespund niciunui fapt real sau document. Termenul se folosește mai ales pentru modelele generative de limbaj, uneltele care scriu text. Partea grea e că o halucinație se citește la fel de fluent și convins ca un răspuns corect, așa că nu o poți prinde după cum sună. O poți prinde doar verificând.

Cele două feluri în care greșește

Un studiu din 2023 din ACM Computing Surveys a împărțit problema în două feluri, util când decizi cum te aperi de ea. Un model poate contrazice o sursă pe care i-ai dat-o, ceea ce cercetătorii numesc lipsă de fidelitate, sau poate contrazice lumea reală, ceea ce numesc lipsă de factualitate. Primul este un rezumat care adaugă un detaliu pe care documentul tău nu l-a conținut niciodată. Al doilea este un fapt inventat despre lume. Amândouă se citesc convins și amândouă sunt halucinații.

De ce apar

Cauza de fond stă în felul în care funcționează unealta. Un model generativ de limbaj este construit să producă cele mai probabile cuvinte următoare pentru cererea ta, nu să verifice că acele cuvinte sunt adevărate. Când știe răspunsul, cel mai probabil text este și corect. Când nu știe, cel mai probabil text este o ghiceală sigură pe ea care se potrivește cu tiparul, iar modelul nu are niciun semnal intern care să-i spună în care dintre situații se află.

Mai există un motiv, mai puțin evident. Cercetătorii OpenAI au argumentat într-o lucrare din 2025 că felul în care modelele sunt antrenate și testate răsplătește ghicitul în locul onestității. La un test obișnuit, un răspuns greșit și un „nu știu” primesc amândouă zero, în timp ce o ghiceală norocoasă primește un punct. Un elev care ghicește la fiecare întrebare iese mai bine decât unul care lasă spații goale, așa că modelul învață același obicei: când nu e sigur, răspunde oricum. Soluția pe care o indică este să nu mai penalizezi incertitudinea cinstită, ceea ce ajută, dar nu scoate comportamentul.

Un caz real, cu urmări reale

În 2023, o instanță federală din New York a sancționat doi avocați care depuseseră un memoriu ce cita șase decizii de instanță inexistente. Referințele veneau de la ChatGPT, care produsese numele dosarelor și citatele și, întrebat, a confirmat că sunt reale. Instanța a impus o amendă de 5.000 de dolari în Opinia și ordinul din Mata v. Avianca (S.D.N.Y., 22 iunie 2023).

Pentru orice companie, concluzia e directă: unealta nu te avertizează când inventează ceva, iar profesionistul care îi trimite rezultatul neverificat își asumă greșeala. A simțit-o prima o firmă de avocatură, dar o cifră inventată într-un raport financiar sau o politică închipuită într-un răspuns către client fac același rău.

Unde lovește companiile

Halucinațiile fac cel mai mare rău acolo unde rezultatul arată autoritar și pleacă fără o verificare suplimentară:

  • O cifră sau un procent dintr-un raport pe care modelul l-a inventat ca să umple un gol.
  • O referință juridică, fiscală sau de politică internă care trimite la o regulă ce nu spune ce pretinde modelul.
  • Un răspuns către client care promite o funcție, un preț sau o politică de retur pe care compania nu le-a oferit niciodată.
  • Cod care apelează o funcție sau o bibliotecă ce sună real, dar nu există.

Fiecare dintre acestea e ieftin de prins devreme și scump de reparat târziu, așa că un obicei de verificare face mai mult decât o reparație de după.

Cum reduci riscul

Nu poți scoate halucinațiile, dar le poți tăia până la un nivel cu care afacerea ta poate trăi. Pașii care funcționează sunt practici și se întăresc unul pe altul:

  • Ancorează modelul în propriile documente. O unealtă care răspunde din fișierele tale și le citează halucinează mult mai puțin decât una care răspunde doar din memorie.
  • Cere surse, apoi verifică-le. Tratează orice referință, cifră sau citat ca neverificat până nu ai văzut originalul.
  • Păstrează un om implicat în orice contează. Deciziile despre bani, oameni, lege sau clienți primesc confirmare umană înainte să plece din firmă.
  • Începe unde miza e mică. Folosește AI întâi la schițe și la munca internă, unde o eroare e prinsă și corectată, nu trimisă mai departe.
  • Pregătește echipa să verifice. Oamenii care înțeleg de ce inventează unealta știu ce părți să verifice, iar asta e ce predă alfabetizarea AI.

Cine deține aceste reguli contează la fel de mult ca regulile în sine, de aceea riscul de halucinație aparține guvernanței AI mai largi, nu judecății fiecăruia în parte.

Întrebări frecvente

Ce este o halucinație AI, pe scurt?
O halucinație AI este un rezultat al unui model generativ de AI care sună corect, dar nu este: un răspuns sigur pe el, o statistică, un citat sau o sursă pe care modelul le-a produs și care nu corespund niciunui fapt real sau document. Textul se citește fluent și convins, exact ce îl face greu de prins.

De ce halucinează modelele AI?
Un model generativ de limbaj este construit să producă cele mai probabile cuvinte următoare, nu să verifice dacă sunt adevărate. Cercetătorii OpenAI au argumentat în 2025 că felul în care modelele sunt antrenate și testate răsplătește și ghicitul sigur pe el în locul recunoașterii incertitudinii, pentru că un răspuns greșit și un „nu știu” cinstit primesc amândouă zero la un test obișnuit, așa că modelul învață să ghicească.

Halucinațiile AI pot fi eliminate complet?
Nu. Pot fi reduse mult prin ancorarea în documente de încredere, prin verificarea surselor și prin revizuire umană, dar nu pot fi eliminate, pentru că generarea de text plauzibil este chiar modul în care funcționează modelul. Cel mai prudent e să tratezi orice rezultat important ca pe unul care poate conține o halucinație până când un om îl verifică.

Surse