System One Models: Jev and Laya Explained for Developers

Per un decennio il progresso dell’intelligenza artificiale si è misurato in frasi. Ogni benchmark che contava chiedeva a un modello di produrre testo, e ogni dimostrazione che contava finiva con il modello che produceva testo migliore. Poi, nello spazio di una settimana di settembre 2026, i due modelli nuovi più interessanti del settore sono arrivati con la stessa caratteristica distintiva: non producono frasi, punto. Uno è venduto da una startup che ha passato due anni nel più totale silenzio. L’altro è un download. Entrambi appartengono a una categoria che i venditori chiamano System One models, e capirli significa capire la prima interfaccia davvero nuova che l’IA abbia offerto da quando esiste la chat.

Che cos’è realmente un System One model

Il nome prende in prestito Thinking, Fast and Slow di Daniel Kahneman: il Sistema 1 è la mente veloce, automatica, che riconosce pattern; il Sistema 2 è quella lenta e deliberata che ragiona a parole. Un large language model è, in questa tassonomia, una macchina del Sistema 2. Chiedete se un ticket di supporto è urgente e il modello lo ragiona, token dopo token, e risponde in prosa che il vostro codice deve poi leggere e interpretare, al prezzo di una frase per domanda.

Un System One model, o modello decisionale, fa qualcosa di più piccolo e più strano. Gli si passa un testo e un insieme di domande tipate, e restituisce una probabilità per ogni opzione di ogni domanda in un solo forward pass. Non genera mai. Non c’è una frase da interpretare, perché non c’è una frase.

Le domande hanno tre forme. Una domanda choice propone opzioni con nome e descrizione, e il modello ne sceglie una con la sua confidenza. Una domanda score propone livelli ordinati, dal minore al maggiore, e il modello restituisce una posizione graduata su quella scala. Una domanda sì/no, che Laya chiama noul, restituisce la probabilità che la risposta sia vera. Fatele tutte e tre sullo stesso testo e ottenete un unico oggetto di risposta: una decisione, non un saggio.

Siccome la grammatica dell’output è fissata in anticipo, il modello non può rispondere fuori schema. Non può inventarsi una quarta opzione, divagare, o travestire un’ipotesi da paragrafo. TypeSafe, l’azienda dietro il modello commerciale di questa storia, lo dice senza girarci intorno: rinunciando alla generazione di testo, il suo modello è ottimizzato per output strutturati e non può allucinare, in quel senso limitato ma reale per cui ogni risposta è un valore dello schema con una probabilità attaccata.^[1]

Jev, il prodotto

A metà settembre 2026, TypeSafe AI è uscita da due anni di silenzio con Jev, il suo primo modello pubblico, disponibile in early access.^[1] Il post di lancio è insolitamente citabile per un comunicato: «Pensate a Jev come a una function call con intelligenza di frontiera: stato non strutturato in ingresso, decisioni probabilistiche tipate in uscita». La pretesa attaccata alla metafora è grande. Jev, dice TypeSafe, raggiunge un’intelligenza simile a quella dei LLM di frontiera sui compiti a forma di decisione, restando due ordini di grandezza più veloce ed efficiente, con latenza end-to-end tra 70 e 500 millisecondi dove un modello di frontiera che risponde in prosa alla stessa query impiega da secondi a minuti.

Il meccanismo, come descritto, è la parte interessante. Jev non emette la risposta un token alla volta. Produce tutti gli output di una query in parallelo, in un colpo solo, come fa un classificatore. Il modello è stato addestrato con un metodo che TypeSafe chiama RLCD, reinforcement learning for calibrated decisions, che ottimizza non frasi piacevoli ma probabilità epistemicamente oneste: quando il modello dice 80 per cento, le cose devono andare come dice all’incirca nell’80 per cento dei casi. Il prezzo vi dice quanto vale questa interfaccia: token in ingresso a una frazione di centesimo per milione, e token in uscita gratuiti, «too cheap to meter», perché un output è una manciata di numeri.^[1]

A loro onore, TypeSafe stampa gli avvertimenti accanto ai numeri. I benchmark sui flussi di lavoro che mostrano guadagni di quasi duecento volte sono «all’estremità alta dei guadagni reali», per ammissione loro, e sul prezzo: «Non possiamo dimostrare che non sia sovvenzionato». Jev è chiuso, solo API, e dietro una waitlist. Mandate il vostro testo sul loro server, e aspettate che la waitlist vi raggiunga.^[1]

Laya, i pesi

Tre giorni dopo il lancio di Jev, è apparso su GitHub un repository di nome laya, sotto licenza Apache-2.0, pubblicato da Nandakishor M di Convai Innovations: un motore decisionale multilingue e non autoregressivo, da 322 a 421 milioni di parametri a seconda del checkpoint, che risponde alle stesse tre tipologie di domanda in un solo forward pass.^[2] Si installa con pip install laya, si caricano i pesi una volta sola, e gira dentro il vostro processo, offline, su una GPU da laptop, nell’ordine dei millisecondi. Una decisione non vi costa nulla e i vostri dati non vanno da nessuna parte.

import laya

agent = laya.load("convaiinnovations/laya")
result = agent.predict(
    {"subject": "Addebito doppio", "body": "Rimborsate il duplicato oggi o disdico."},
    {
        "department": {
            "type": "choice",
            "instructions": "Quale reparto dovrebbe gestire questa richiesta?",
            "criteria": {
                "billing": "fatture, pagamenti, rimborsi",
                "technical": "bug, guasti, errori di sistema",
                "other": "tutto il resto",
            },
        },
        "churn_risk": {
            "type": "noul",
            "instructions": "L'utente minaccia di annullare o andarsene?",
        },
    },
)

Come se la cava lo sfidante aperto contro l’incumbent finanziato? Un benchmark indipendente, condotto da terzi e non dai venditori, ha passato entrambi i modelli sugli stessi 500 esempi etichettati senza alcun tuning. Il verdetto è stato doppio e onesto: Jev è più accurato out of the box; Laya lo eguaglia sulle domande semplici, risponde più volte più veloce da una scrivania qualunque, circa 21 millisecondi per decisione misurati su un laptop Apple, ed è vostro da eseguire, ispezionare e fare fine-tuning.^[3]

La stessa valutazione indipendente ha tracciato dove cade il confine, e il confine conta. Sulle categorie nette Laya è davvero buono: 96 per cento sullo spam SMS, alla pari di un modello commerciale in hosting. Sulle domande graduate e sottili non lo è: 35 per cento su una scala a cinque livelli, dove il modello in hosting arriva al 70 per cento. L’errore di calibrazione segue lo stesso schema, quasi trascurabile sui compiti facili, severo su quelli difficili.^[3] Un modello decisionale non è un LLM piccolo. È uno strumento diverso, forte esattamente dove le domande hanno risposte pulite e debole dove non le hanno.

C’è anche una storia che la narrazione del lancio appiattisce. L’autore di Laya pubblicava su questa linea di lavoro da marzo 2025, diciotto mesi prima del lancio di Jev; il modello aperto non ha rincorso quello chiuso, per quanto potesse suggerirlo la cronaca dei lanci.^[3] E dove l’architettura di Jev non è divulgata, il metodo di addestramento di Laya è documentato, il suo notebook di fine-tuning gira su GPU gratuite nel cloud, e il fine-tuning sulle decisioni del vostro dominio è dove i numeri saltano: da 0,362 a 0,766 sul benchmark del modello per il checkpoint specializzato.^[2]

Le ragioni contro

Le obiezioni oneste vengono su tre livelli. Primo: la metafora fa lavoro di marketing. Il Sistema 1 di Kahneman è una descrizione della cognizione umana, non uno schema di architettura, e un venditore che battezza il prodotto con il titolo di un bestseller di psicologia sta vendendo intuizione, non prove. Considerate l’inquadramento un aiuto mnemonico, non una dimostrazione.

Secondo: rinunciare alla generazione è una perdita vera, non una caratteristica. La maggior parte dei carichi di lavoro ha ancora bisogno di prosa: spiegazioni, riassunti, bozze. L’architettura onesta è una cascata, il modello decisionale risponde a ciò che sa e passa la coda difficile a un LLM, il che significa mantenere due sistemi e misurare il tasso di escalation, perché è su quel tasso che pagate la latenza della frontiera.

Terzo: le prove dei benchmark sono precoci e sottili. Cinquecento esempi etichettati sono uno smoke test decente e una fondazione piccola. I numeri testimoniali dei venditori vengono da valutazioni scelti da loro. La categoria ha un mese di vita mentre scrivo; chi ci costruisce sopra dovrebbe misurare sui propri dati, che è esattamente ciò che fa il prossimo articolo di questa serie con un vero bot di moderazione.

Perché conta

Tolta l’insegna, la svolta si dice semplice. L’industria ha passato anni a rendere migliori nel parlare persone simulate. Un binario parallelo ha reso in silenza migliori nel decidere modelli piccoli, e a settembre 2026 quel binario si è preso un nome, un flagship chiuso e un’alternativa aperta nella stessa settimana. Per qualsiasi cosa tra i due, l’economia non è in discussione: una decisione tipata con la sua probabilità costa frazioni di centesimo di millisecondo e non trapela nulla, dove una risposta in prosa costa una frase, un secondo e un viaggio di andata e ritorno sul computer di qualcun altro.^[4]

Ho costruito un bot di moderazione Telegram esattamente su questo scambio, ed è l’argomento del prossimo articolo della serie. Gira con un modello decisionale sul mio hardware, giudica i messaggi in qualsiasi lingua, e non invia un solo byte delle conversazioni di nessuno a un venditore. La frase più importante che un modello possa produrre, a quanto pare, è niente affatto.

TypeSafe AI, Introducing System One Models & Jev (settembre 2026). Citazioni: «una function call con intelligenza di frontiera: stato non strutturato in ingresso, decisioni probabilistiche tipate in uscita»; «due ordini di grandezza più veloce ed efficiente»; latenza da 70 a 500 ms contro 3-329 secondi dei modelli di frontiera sulle stesse query; RLCD, reinforcement learning for calibrated decisions; token in uscita «FREE (too cheap to meter)»; «Non possiamo dimostrare che non sia sovvenzionato»; guadagni sui flussi di lavoro di 193,6x in velocità e 444,6x in costo descritti come «all’estremità alta dei guadagni reali»; rinunciando alla generazione di stringhe il modello è ottimizzato per output strutturati e non può allucinare; Jev disponibile in early access, pesi chiusi, solo API.
NandhaKishorM/laya, Apache-2.0. «Motore decisionale System 1 multilingue e non autoregressivo. Decisioni tipate su oltre 100 lingue in un solo forward pass». Checkpoint convaiinnovations/laya (inglese, 421M di parametri) e convaiinnovations/laya-multilingual (322M); tipi di domanda choice, score, noul; addestramento RLCD contro regole di punteggio strettamente proper; notebook di fine-tuning per Kaggle; il checkpoint typed-decisions fa 0,766 contro 0,362 del modello inglese base.
Laya: open-source alternative to TypeSafe Jev, il benchmark e il playground indipendenti di brain function collapse. Stessi 500 esempi etichettati, senza tuning: «Jev è più accurato out of the box. Laya lo eguaglia sulle domande semplici, risponde più volte più veloce da questa scrivania, ed è vostro da eseguire e fare fine-tuning». 21 ms per decisione su un Apple M1 Max contro circa 4 secondi di un LLM in hosting. Dettaglio per compito: 96% sullo spam SMS e 93% sulla classificazione di notizie per Laya, contro 45% su emozioni a sei vie, 65% sul rilevamento di prompt injection e 35% su una valutazione a cinque livelli, dove il modello in hosting ha fatto 53%, 71% e 70%; errore di calibrazione 0,05-0,06 sui compiti facili e 0,34-0,40 su quelli difficili. L’autore di Laya pubblica su questa linea di lavoro da marzo 2025.
Il bersaglio morbido, su perché la capacità continua a condensarsi in modelli più piccoli, e L’AI Act regola le fatture. I pesi aperti non ne emettono., su perché i pesi aperti non si possono richiamare.

Enrico·rubbo.li