Large language model, spiegati
I large language model, spesso abbreviati in LLM, sono alla base di molti strumenti di scrittura, risposta a domande e AI conversazionale. Trasformano il testo in token e lavorano con le relazioni tra questi token.
Un large language model è un modello di deep learning addestrato su grandi quantità di dati per comprendere i prompt e generare linguaggio naturale e altri contenuti.
Un LLM prevede il token successivo
Un LLM non prepara una risposta completa prima di iniziare a scrivere. Prevede un token, aggiunge quel token alla sequenza e ripete il processo.
La previsione si basa su schemi appresi durante l'addestramento e sul materiale nel prompt attuale. Questo processo può produrre risposte fluenti senza garantire che ogni affermazione sia vera.
L'applicazione circostante aggiunge controllo
Il modello è solo una parte di un'applicazione AI. L'applicazione può aggiungere istruzioni, fornire documenti aziendali, limitare le azioni disponibili o chiedere a una persona di approvare un risultato.
Questi controlli modificano quali informazioni riceve il modello e cosa può accadere dopo che risponde. Non alterano il processo di base del token successivo all'interno del modello.
Termini sui large language model
- Token
- Un'unità di testo, come una parola, parte di una parola o un segno di punteggiatura, che un modello elabora.
- Transformer
- L'architettura di rete neurale che aiuta un modello a tracciare le relazioni in una sequenza di testo.
- Inference
- Il processo di utilizzo di un modello addestrato per produrre una risposta da un nuovo prompt.
Cosa determina la risposta di un LLM
Il prompt
Le istruzioni e il contesto attuali indicano al modello quale risposta tentare.
L'addestramento
Gli schemi appresi dai dati di addestramento determinano quali parole il modello prevede.
Il limite di contesto
Il modello può considerare solo il materiale che rientra nella sua finestra di contesto.
Domande sui large language model
Elabora un prompt e genera una sequenza di token. Questo supporta attività come la stesura, il riassunto, la classificazione del testo e la risposta a domande.
Un LLM utilizza relazioni statistiche apprese dai dati. Il suo linguaggio fluente non dimostra comprensione umana o conoscenza fattuale.
Prevede testo probabile piuttosto che verificare ogni affermazione rispetto a una fonte. Un'applicazione può aggiungere informazioni affidabili e passaggi di revisione per ridurre questo rischio.
Termini correlati del glossario
Metti al lavoro un linguaggio chiaro
Le app Caffeine girano sull'Internet Computer, una rete pubblica pensata per questo.