Alessandro Mengoli

Osservabilità in Semantic Kernel: comprendere il comportamento dell’AI

In un'applicazione tradizionale, comprendere cosa accade nel codice è relativamente semplice. Ma cosa succede quando integriamo modelli AI? Come possiamo ispezionare ciò che avviene "sotto il cofano"? Questa sessione esplora l'architettura di osservabilità di Semantic Kernel, rivelando come rendere trasparente l'interazione tra il vostro codice e i modelli AI. Scopriremo: - Come tracciare il flusso completo delle richieste AI dalla vostra applicazione al modello e ritorno - L'implementazione pratica di logging, metriche e tracciamento in Semantic Kernel - Come visualizzare il consumo di token, i tempi di risposta e le prestazioni dei modelli - Tecniche per analizzare e diagnosticare problemi nelle applicazioni AI Attraverso esempi concreti in .NET, la sessione offre l'opportunità di esplorare la configurazione della telemetria con OpenTelemetry e l'interpretazione dei dati raccolti per ottenere informazioni preziose sul comportamento delle applicazioni AI. Alla fine della sessione, saranno disponibili gli strumenti necessari per eliminare il mistero dal funzionamento interno delle soluzioni basate su Semantic Kernel.