LLM

Come funziona

Un LLM riceve una sequenza di token come input e calcola, passo dopo passo, quali token sono più plausibili come continuazione. Durante l’uso il modello combina il messaggio dell’utente, le istruzioni di sistema, l’eventuale cronologia e il contesto recuperato da fonti esterne per produrre la risposta.

Esempio pratico

Quando un utente chiede a un Esperto AI di sintetizzare un documento o a un chatbot di rispondere a una domanda, l’LLM è il motore che interpreta il contesto e genera il testo finale. Le informazioni specifiche dell’azienda possono essere aggiunte tramite Knowledge Base e RAG invece di dipendere soltanto dalla conoscenza generale del modello.

Quando usarlo

È il componente di base quando servono comprensione e generazione del linguaggio, classificazione, sintesi, estrazione di informazioni o interazione conversazionale.

Perché è importante

Capire il ruolo dell’LLM aiuta a distinguere il modello dalla soluzione completa: qualità, costi e affidabilità dipendono anche da prompt, contesto, fonti, strumenti e workflow che circondano il modello.

In Quantiq

In Quantiq gli LLM sono utilizzati all’interno di Esperti AI, Agenti AI e chatbot. La piattaforma separa il modello scelto dalla configurazione operativa, dalla conoscenza e dal ruolo assegnato al sistema.

Differenze e confronto

LLM e Modello AI non sono sempre sinonimi: LLM indica specificamente un modello orientato al linguaggio, mentre “Modello AI” è un termine più ampio che può includere anche modelli per immagini, audio, embedding o altri compiti.