Cos’è la finestra di contesto? Perché l’AI a volte dimentica
Finestra di contesto La quantità di testo che l’AI riesce a tenere davanti in una conversazione, tra richieste, documenti e risposte. Oltre il limite, parte di ciò che è stato detto può non contare più.
Redazione SpaccioAI15 ottobre 20261 min di letturaLivello intermedio
La finestra di contesto è lo spazio di lavoro dell’AI. Contiene tutto ciò che l’assistente ha davanti in quel momento, cioè le tue richieste, i documenti che hai allegato e le sue risposte. Si misura in token. Se la conversazione è molto lunga o il documento è molto grande, si supera il limite e una parte di ciò che è stato detto può non essere più considerata. Per questo, dopo molti scambi, un assistente sembra «dimenticare» un’indicazione data all’inizio.
Un esempio
Un geometra incolla molte mail di un cantiere e chiede un riepilogo delle decisioni. In una conversazione lunga le prime mail possono finire fuori dalla finestra. Meglio dividere il lavoro. Prima si chiede un riepilogo per gruppi di mail, poi un riepilogo dei riepiloghi. Oppure si apre una nuova conversazione, ripetendo le istruzioni importanti.
Da non confondere con
Non è la memoria. La finestra riguarda solo la conversazione in corso. La memoria riguarda ciò che resta da una conversazione all’altra.