Corso Sviluppo Applicazioni LLM per Aziende

API LLM Cloud

• Utilizzo del Motore di Linguaggio (Core LLM): Concetti fondamentali di interazione, modelli, e parametri chiave.
• Streaming: Implementazione dell’output in tempo reale, token per token, per una migliore esperienza utente.
• Multimedialità (Multimodality): Lavorare con modelli multimodali (come Gemini) per elaborare e generare contenuti da testo, immagini e, se applicabile, audio/video.
• Utilizzo dei Tool (Function/Tool Calling): Programmare gli LLM per decidere in modo autonomo quando e come chiamare funzioni o API esterne (es. ricerca meteo, interazione con database).
• Grounding (Ancoraggio): Tecniche per “ancorare” le risposte del modello a informazioni specifiche, aggiornate o proprietarie, riducendo le allucinazioni..

Esecuzione Locale di Modelli Open-Source

• Installazione e Configurazione: Setup e configurazione di Ollama e/o LM Studio per l’esecuzione locale di popolari (es. Llama, Mistral).
• Interazione tramite API Locale: Eseguire e interagire con un LLM locale tramite un endpoint API standard, replicando l’esperienza delle API cloud.

Retrieval-Augmented Generation (RAG)

• Database Vettoriali (Vector DB): Introduzione agli embedding vettoriali e al loro ruolo nella ricerca semantica. Utilizzo pratico di un database vettoriale (es. ChromaDB, Pinecone o equivalente) per l’archiviazione dei dati.
• Retrieval (Recupero): Implementazione del processo di ricerca nel DB vettoriale per recuperare il contesto più rilevante.
• Generation (Generazione): Integrazione del contesto recuperato nel prompt dell’LLM per una generazione di risposte accurata e “grounded”.

Sviluppo di Agenti AI

• Google AI Development Kit (ADK) / Framework Equivalente: Installazione e setup del framework scelto (es. Google ADK o framework come LangChain) per la creazione di flussi di lavoro per agenti.
• Architettura e Utilizzo degli Agenti: Comprensione dei componenti chiave: Esecutore, Memoria, Tool (Strumenti) e Planner. Progettazione di agenti per obiettivi specifici.
• Flussi (Flows) e Orchestrazione: Sviluppo e gestione di flussi di lavoro multi-step in cui l’agente utilizza i suoi strumenti e la sua memoria per completare un obiettivo complesso.

Protocollo MCP (Se Applicabile/Avanzato)

• • • Concetti Fondamentali: Struttura del protocollo, tipi di messaggi e procedure di handshake.
    • Scrittura di un Server: Sviluppo di un server MCP base in grado di ricevere, analizzare e rispondere ai messaggi del client.
    • Scrittura di un Client: Sviluppo di un client MCP per stabilire una connessione e scambiare dati con il server.