Sistemi che ho costruito e da cui dipendono persone vere

Un motore di invio massivo per campagne sanitarie nazionali

Contesto Programmi di sanità pubblica dovevano raggiungere milioni di persone su WhatsApp, in fretta, senza subire throttling e senza perdere traccia di chi aveva ricevuto cosa.

• Ho progettato e costruito il motore di invio ad alto throughput, con rate limiting, backpressure, tracciamento delle consegne e retry.
• Usato per campagne nazionali di salute pubblica, una delle quali ha raggiunto 14,7 milioni di persone, e per i promemoria nazionali delle vaccinazioni.
• Elixir e Phoenix su Google Cloud e Kubernetes.

La piattaforma di agenti dietro l’AI su WhatsApp

Contesto Le organizzazioni volevano far girare agenti AI su WhatsApp in sicurezza, collegarli ai propri sistemi e passare la conversazione a un operatore quando serve.

• Ho progettato e costruito l’harness agentico: l’agent loop con tool use, orchestrazione, guardrail e handover tra agenti e verso operatori umani.
• Ho collegato il motore di app Lua al blocco Agent, così gli agenti eseguono tool e codice dentro una sandbox. I clienti lo usano per collegare gli agenti a cartelle cliniche e API esterne senza poter rompere la piattaforma.
• Ho integrato i modelli di Anthropic, OpenAI e Gemini, con RAG sulle knowledge base dei clienti.
• Ho costruito le chiamate vocali real-time su WhatsApp con i modelli vocali di ElevenLabs e LLM piccoli e veloci, con una latenza abbastanza bassa da rendere la conversazione naturale.

Eval, dalla simulazione alla produzione

Contesto I team che fanno triage clinico dovevano conoscere il tasso di errore dei loro bot prima che li usassero pazienti veri, e continuare a misurarlo dopo il lancio.

• Ho costruito eval in simulazione multi-turno: un LLM interpreta l’utente a partire da una persona e un obiettivo, parla con il bot vero, e dei giudici LLM valutano la trascrizione rispetto a criteri definiti dal cliente.
• Ho implementato la raccolta e l’export OpenTelemetry GenAI di tutto il traffico AI, rendendo semplice integrare Comet Opik, LangSmith e LangWatch per le eval online.
• Ho costruito il ciclo che porta i risultati delle eval nel copilot AI di Turn per la costruzione dei chatbot. Un criterio fallito diventa una modifica concreta al bot, e chi lo costruisce rilancia le eval per verificarla.

Agenti AI per il triage e le linee guida cliniche

Contesto Organizzazioni di medicina di base in Africa volevano un’AI che aiutasse pazienti e infermieri senza mai improvvisare consigli medici.

• Ho condotto la discovery per mappare i percorsi di triage, costruito un dataset di vignette cliniche e progettato un’architettura a due agenti con un motore di regole deterministico per le decisioni ad alto rischio.
• Ho costruito le eval in simulazione che misurano sensibilità ed errori di omissione.
• Ho trasformato le linee guida cliniche in un agente che guida gli infermieri nella diagnostica e nel triage e risponde solo sulla base di linee guida validate. È stato testato con 107 infermieri ed è ora in uso nelle cliniche.
• Ho integrato il sistema con la cartella clinica elettronica di una clinica, in modo che i riepiloghi di accettazione generati dall’AI a partire dalla conversazione WhatsApp finiscano direttamente nella cartella.

Un LLM medico self-hosted, pagato a consumo

Contesto Un modello medico open può fare bene quanto i modelli frontier su conversazioni di triage reali, costando meno?

• Ho confrontato MedGemma con i modelli OpenAI e Claude che i clienti usano in produzione, con eval in simulazione sui loro bot reali invece che con benchmark.
• Ho quantizzato MedGemma 27B in FP8 con llm-compressor e l’ho pubblicato su Hugging Face, dove viene scaricato centinaia di volte al mese.
• Ho costruito un deployment vLLM su Modal che scala a zero, con tool calling compatibile OpenAI. Snapshot della memoria GPU e sleep mode di vLLM hanno ridotto i cold start da ~100 s a ~21 s, così i clienti pagano a consumo invece di tenere GPU sempre accese. I risultati guidano ora una policy di routing tra modelli.

Articolo: servire MedGemma su Modal ↗Il modello su Hugging Face ↗

PostgreSQL ed Elasticsearch su larga scala

Contesto I dati dei messaggi crescevano di milioni di righe al giorno, e le tabelle e gli indici più grandi stavano diventando il collo di bottiglia.

• Ho partizionato tabelle PostgreSQL di produzione da oltre 1 TB per recuperare le performance.
• Ho fatto lo stesso con indici Elasticsearch in produzione, con policy di index lifecycle che spostano i dati più vecchi su storage a freddo.

Job, pipeline e automazioni

Contesto Una piattaforma in crescita aveva bisogno di job in background affidabili e di un modo per permettere ai clienti di automatizzare i propri flussi.

• Ho costruito l’infrastruttura di job e pipeline dati di Turn su Oban Pro.
• Ho costruito un sistema di trigger in stile IFTTT con un motore di regole.
• Ho parlato a ElixirConf EU 2023 dell’architettura del chatbot builder low-code di Turn.

Agentic coding per il team di sviluppo

Contesto I coding agent ripagano solo quando un team impara a usarli bene.

• Guido l’adozione dell’agentic coding in Turn: ho portato Claude Code al team di sviluppo, gestisco le licenze e aiuto gli sviluppatori a ottenere risultati concreti.
• Ho scritto le skill di PR review basate su Claude che il team usa sulle proprie pull request.
• Faccio da mentor AI in ogni edizione degli acceleratori di Turn (con OpenAI nel 2025, con Anthropic ed ElevenLabs nel 2026), aiutando ogni team a progettare il proprio agente, costruire le eval e arrivare a un servizio live.