Jev este un model AI de decizie creat de TypeSafe AI. Îi dai o intrare și un set fix de răspunsuri posibile, iar el întoarce unul dintre acele răspunsuri ca valoare tipizată, structurată, cu o probabilitate atașată. Spre deosebire de un model generativ de limbaj precum ChatGPT sau Claude, nu scrie text liber. Alege, punctează sau răspunde da/nu în forma pe care o definești dinainte, iar rezultatul intră direct în software.
Ce înseamnă aici "System One"
TypeSafe AI încadrează modele precum Jev într-o categorie pe care o numește modele System One, descrise ca "o nouă clasă de modele de frontieră, construite să ia decizii rapide și structurate pe care software-ul le poate folosi direct". Numele face trimitere la ideea de gândire rapidă, automată, dar este eticheta de produs a furnizorului, nu o taxonomie științifică consacrată și nici o afirmație că modelul gândește așa cum o face un om. Compania spune că Jev este primul său model public din această categorie și, la momentul scrierii, îl oferă în early access (acces timpuriu).
Cele trei lucruri pe care Jev le poate întoarce
Conform documentației lui, Jev răspunde în una dintre trei forme, pe care TypeSafe AI le numește primitive:
- Choice (alegere) alege o singură opțiune dintr-un set definit. Documentația pune limita la până la 255 de opțiuni, iar răspunsul vine ca opțiunea cea mai probabilă, distribuția completă de probabilitate pe toate opțiunile și un scor de încredere.
- Score (scor) evaluează ceva pe niveluri ordonate, descriptive, de exemplu o severitate de la 0 la 2. Rezultatul poate cădea între niveluri, cum ar fi 1,43, și poartă și el probabilități pe fiecare nivel și o valoare de încredere.
- Noul răspunde la o întrebare da/nu printr-un singur număr între 0 și 1, probabilitatea ca răspunsul să fie "da". Spre deosebire de Choice și Score, vine ca această singură probabilitate, fără un câmp separat de încredere. Documentația dă exemplul unei întrebări is_human_escalation care întoarce 0,99 pentru un client care a cerut de trei ori să vorbească cu o persoană.
Un exemplu de rutare a tichetelor
O coadă de tichete de suport arată bine unde se potrivește un astfel de model. Să zicem că sosește un mesaj: "Pantofii de alergare mi-au venit la mărime greșită." Definești un Choice cu trei opțiuni, retur, livrare și facturare, și îi trimiți lui Jev mesajul. El întoarce opțiunea aleasă, distribuția și un scor de încredere.
Un rezultat ilustrativ, cu numere ipotetice, ar putea fi: retur 0,82, livrare 0,13, facturare 0,05, deci opțiunea aleasă este retur, la o probabilitate de 0,82. Încrederea este aici un număr separat, nu același lucru cu acea probabilitate maximă: documentația o calculează din cât de împrăștiată este distribuția, cu formula (p_max − 1/n) / (1 − 1/n), așa că trei opțiuni cu o probabilitate maximă de 0,82 dau aproximativ 0,73 încredere. Codul tău decide apoi ce face cu asta: rutează tichetul automat când încrederea depășește un prag pe care îl stabilești și îl trimite la o persoană când nu îl depășește. Numerele de aici sunt inventate ca să arate forma rezultatului, nu valori măsurate.
Cum se compară cu un LLM generativ
| LLM generativ | Jev (un model System One) | |
|---|---|---|
| Rezultat principal | Text liber sau rezultat constrâns la o schemă, dacă îl ceri | O valoare tipizată: o alegere, un scor sau o probabilitate |
| Setul de răspunsuri | Deschis sau fixat când constrângi rezultatul | Fixat de tine dinainte |
| Poate produce text în afara opțiunilor? | Da, implicit; poate fi constrâns să nu o facă | Nu are deloc mod de text liber |
| Incertitudine | Depinde de model, de API și de tehnică | Probabilități la fiecare răspuns; un scor de încredere separat pentru Choice și Score |
| Se potrivește cel mai bine pentru | Redactare, rezumare, conversație deschisă | Clasificare, rutare, punctare, verificări da/nu în software |
Linia nu este absolută. Și LLM-urile generative pot fi puse să întoarcă rezultate structurate, prin mod JSON, apeluri de funcții sau "structured outputs" constrânse. Diferența pe care o trasează TypeSafe AI este că Jev produce mereu doar o valoare tipizată și nu are un mod de text liber la care să recurgă.
Ce face bine și unde poate totuși greși
Pentru că Jev poate întoarce doar una dintre opțiunile pe care le-ai definit sau un număr din intervalul pe care l-ai stabilit, nu poate inventa un răspuns din afara acelui set și nici nu poate produce text fluent, dar greșit. TypeSafe AI o spune apăsat: modelul "nu poate halucina", pentru că "potrivirea cu schema este garantată". Afirmația este despre forma rezultatului, nu despre adevărul lui. Un răspuns bine format poate fi totuși răspunsul greșit: să etichetezi o problemă de livrare drept facturare este o greșeală corectă ca tip.
Numărul de încredere cere aceeași prudență. Furnizorul spune că antrenează pentru calibrare, cu o metodă pe care o numește Reinforcement Learning for Calibrated Decisions, și afirmă că o încredere mai mare înseamnă o acuratețe mai mare. Propria documentație este mai prudentă: încrederea este "o modalitate rezonabilă de a rezuma o distribuție", pragurile potrivite "depind de domeniul tău", iar tu ar trebui să "testezi pe datele tale". Validează scorul de încredere pe propriile cazuri înainte să îl legi de o decizie automată. Ca în cazul oricărui sistem AI, rezultatul este un punct de pornire pe care un om îl verifică acolo unde contează.
Întrebări frecvente
Ce este Jev, pe scurt?
Jev este un model AI de decizie de la TypeSafe AI. Îi dai o intrare, iar el întoarce o valoare tipizată, structurată: o alegere dintr-un set fix, un scor sau o probabilitate de tip da/nu, în loc să scrie text liber. Este construit pentru decizii mici și repetabile, pe care software-ul le poate folosi direct.
Prin ce diferă Jev de un AI generativ precum ChatGPT?
Un model generativ produce text liber și poate, în principiu, spune orice. Jev întoarce doar o valoare dintr-un set pe care îl definești dinainte: o alegere, un scor sau o probabilitate de tip da/nu. Și modelele generative pot fi constrânse să întoarcă rezultate structurate, dar Jev nu are deloc un mod de text liber, iar asta este diferența principală pe care o trasează TypeSafe AI.
Poate greși Jev, dacă nu poate halucina?
Da. Afirmația TypeSafe AI că modelul nu poate halucina înseamnă că rezultatul se potrivește mereu cu schema cerută, deci nu poate inventa text sau o opțiune din afara setului tău. Nu înseamnă că decizia este corectă. Un răspuns corect ca tip poate fi totuși greșit, iar scorul de încredere este un semnal de validat pe datele tale, nu o garanție.
Surse
- TypeSafe AI, Introducing System One Models and Jev.
- TypeSafe AI, Documentație: primitiva Choice.
- TypeSafe AI, Documentație: primitiva Score.
- TypeSafe AI, Documentație: primitiva Noul.
- TypeSafe AI, Documentație: încrederea (confidence).