Trasparenza, Silicio ed Energia: Perché l’AI nel Trading è un’Utopia Economica (Per Ora)

Abbiamo domato Dragon.Local.
Le prime restituzioni sono pronte, e a breve andranno a regime. Ma non ci fermiamo qui.

Sono in lavorazione altri due modelli progressivamente ancora più evoluti.
Ma qui dobbiamo tener conto di costi operativi non trascurabili. I modelli girano in Rust, macinano dati in pochissimi millisecondi sfruttando le CPU server (Threadripper & Epyc), ma il vero collo di bottiglia è altrove.

Vi spiego.

Il vero collo di bottiglia è energetico ed è il motivo per cui abbiamo scelto di forzare l’output su modelli stand-alone, in Rust, direttamente nei PC consumer.

Ecco i numeri energetici dell’infrastruttura aziendale che sostiene le nostre analisi. Spesso si pensa che lo sforzo maggiore sia calcolare i modelli matematici, ma la realtà tecnica è molto diversa ed è bene fare chiarezza su cosa consuma davvero nel nostro cluster HPC da 280GB di VRAM (che è persino piccolino per gestire un LLM evoluto).

I nostri modelli di analisi pura sono scritti in Rust: sono incredibilmente efficienti, generano flussi continui di numeri e anomalie geometriche in pochi istanti e consumano pochissimo. Il vero “salasso” energetico non è il calcolo matematico, ma la trasformazione di quei dati in articoli comprensibili.

Quando quei flussi numerici giganti vengono dati in pasto agli LLM (con contesti che arrivano a 2.5M di token) per generare i report, i commenti e i ragionamenti logici in linguaggio naturale, il consumo di corrente della sezione Generative AI schizza alle stelle. La generazione di testo sequenziale tiene il cluster sotto sforzo massimo per minuti, ed è questo che impatta violentemente sulla nostra rete.

🚀 La Roadmap dei Modelli e la gestione dei Report

1. Modello FREE (Utenti Generici) – A regime entro poche settimane

Il motore di mappatura geometrica di base.

• Come funziona: Genera flussi numerici semplici e l’LLM di output è tarato su un contesto ridotto per produrre articoli snelli sul blog.
• Impatto istantaneo: 0.6 kW (600W) su singola 4090 per 12 secondi.
• Rilascio: Arriva a regime nelle prossime settimane, in concomitanza con il rilascio di STS V2 Easy e poco prima della STS V1 PRO. È l’unico livello totalmente coperto, in qualsiasi momento, dai nostri 15.0 kW di autoproduzione solare.

2. Modello LOGGED (Iscritti) – A regime con scadenze analoghe

L’analizzatore complesso multimodale.

• Il carico reale: Qui l’LLM deve elaborare la montagna di dati dei 2.5M di token. L’analisi in Rust è immediata, ma la “scrittura” del report finale richiede 26 secondi di inferenza pesante. Un calcolo da circa 800W.
• Operatività: Per renderlo sostenibile, facciamo il fine-tuning matematico di notte (30 minuti, 5 kWh) e lanciamo la generazione degli articoli scritti dall’LLM solo al mattino, sfruttando il picco del fotovoltaico.
• Il Training: Questo modello deve eseguire un training di circa 50 ore ogni 45-60 giorni. Un training richiede circa 250 kWh di lavoro. In pratica, il consumo mensile medio di un utente domestico.

🔬 Perché non pubblichiamo subito i report Light e Premium?

Molti potrebbero pensare: “Visto che fate già le analisi Light e Premium per uso vostro interno, perché non pubblicate i report anche per noi?”

La risposta sta proprio nel costo della traduzione generativa. A noi interni basta leggere il flusso di dati grezzi e i grafici generati in Rust (costo energetico nullo, pochi secondi di un PC consumer, ed è quello che potete leggere voi in STS V1 Mini, potenziato nell’elaborazione e semplificato nella restituzione sul prossimo STS V2 Easy, e per analisi più evolute in STS V1 Pro).

Ma per pubblicarli sul blog per il pubblico, quel flusso deve essere elaborato dall’LLM per diventare un articolo leggibile, con un’analisi pulita e chiara dei dati raw del modello. Ed è qui che i conti non tornano più.

• Modello LIGHT (Analizzatore di Distorsioni, Squilibri e Anomalie): L’inferenza del modello matematico unito alla stesura del report da parte dell’LLM richiede 4.5 kW istantanei costanti. Stiamo lavorando per ottimizzare la sintesi dei dati prima di passarli all’LLM, riducendo il tempo di scrittura per poter rendere la pubblicazione di questi articoli sostenibile sotto la nostra curva solare.
• Il training del Light: Richiede una frequenza di 15-30 giorni per mantenere i pesi dei tensori in equilibrio con le curve dei mercati. Ogni training carica il nostro HPC al 100% per 100 ore circa. Siamo intorno ai 600-650 kWh di consumo. Il Fine Tuning quotidiano deve essere specifico per ogni asset (per comprendere lo storico e le fasi transizionali specifiche) e richiede un paio di ore a piena potenza del sistema, ovvero circa 30 kWh. Le singole inferenze vengono gestite entro il minuto e si possono considerare trascurabili.
• Modello PREMIUM (Retrain Intensivo): È il nostro laboratorio centrale. Generare costantemente articoli scritti dall’LLM su questa mole di dati costringerebbe il cluster generativo HPC a girare al 100% h24, a cui bisognerebbe aggiungere un pari nodo attualmente in costruzione. Il consumo energetico di questo “gioco” è di oltre 9.000 kWh al mese. In sostanza, il consumo di un intero condominio. Significherebbe bruciare centinaia di kWh commerciali non appena tramonta il sole solo per “scrivere” report avanzatissimi. Rimane quindi un sistema esclusivamente interno finché non loderemo algoritmi di compressione linguistica più efficienti, capaci di gestire bucket di quasi 6M di token per singola richiesta senza per questo dover depauperare le risorse energetiche europee.

🎯 Qual è l’obiettivo finale?

Creare una AI generativa altamente specifica che ignora la ricetta della carbonara o quali siano le attrazioni di Parigi, ma che conosce ogni virgola di dato, variabile e parametro di ogni singola candela a ogni timeframe di ogni asset. Che riesca a mappare il comportamento tipico e centrato per fornire, a richiesta, un’analisi attuale e strutturale approfondita.

Un secondo cervello, incredibilmente efficiente a condensare milioni di dati in 5-6 output operativi concreti e una manciata di Edge specifici, per dare a tutti la possibilità di costruire con immediatezza e semplicità un modello aziendale per il proprio trading quotidiano.

Il vantaggio (e anche l’obbligo) dell’uso di un LLM è dovuto al fatto che, su richiesta dell’utente, deve anche essere bravo a spiegare il senso e il significato di quel dato, di quella variabile e di quel parametro. La mission rimane la stessa: nessuna black box.

🧱 Creare un modello del genere a uso pubblico è utopia?

Al momento sì. Permettere al pubblico di usare Dragon.Local in tempo reale come se fosse Gemini o Claude è un’utopia economica. Ogni singola richiesta generativa su 6 milioni di token sarebbe un salasso insostenibile, o per noi o per l’utente retail.

Far gestire un portafoglio a un’intelligenza artificiale di questa portata è assolutamente pensabile e fattibile, ma richiede capitali di partenza importanti, altrimenti i guadagni potenziali delle operazioni verrebbero interamente assorbiti e azzerati dai costi della corrente elettrica.

Iniziammo a progettare l’architettura di questa macchina 8 anni fa. All’epoca la materia prima energia era a livelli radicalmente diversi e viaggiava tra i 5 e i 9 centesimi di euro al kWh all’ingrosso. Già al tempo i costi di Safe-elaborazione complessivi erano elevati, ma decisamente più sopportabili. Oggi, tra inflazione, oneri e tasse, il costo finito della bolletta commerciale si aggira stabilmente tra i 22 e i 26 centesimi di euro al kWh.

E anche se volessimo fare il salto definitivo e scalare l’infrastruttura acquistando hardware industriale come i nodi NVIDIA H100 o B200 Blackwell, il vero muro non sarebbe nemmeno il costo astronomico dell’hardware in sé. Sarebbe la gestione dei flussi: il numero di richieste contemporanee rimarrebbe comunque limitato dalla fisica dei contesti giganti, a fronte di un consumo energetico di questi nodi server che è ancora più mostruoso, punitivo ed energivoro del nostro cluster attuale.

📊 Il Calcolo dei Costi Vivi per 10 Utenti Premium Contemporanei

Per servire 10 utenti contemporaneamente sul modello Premium (6 milioni di token, retrain H24 e 1.7 minuti di risposta garantiti per tutti senza code), avremmo bisogno di un’infrastruttura industriale da circa 30 kW costanti (tra server HGX, switch InfiniBand ad altissima velocità e condizionamento dedicato).

1. Il Salasso della Corrente Elettrica

• Consumo mensile del cluster: 30 kW x 24 ore x 30 giorni = 21.600 kWh al mese.
• Costo in bolletta mensile: 21.600 kWh x 0,24 euro = 5.184 euro al mese di pura corrente.
• Quota per singolo utente: Diviso per i 10 utenti, significa che ognuno di loro costerebbe 518,40 euro al mese solo di elettricità Enel.

2. Il Muro dell’Ammortamento Hardware (Reintegrazione a 3 anni)

Un’infrastruttura del genere (3 nodi HGX completi con 24 schede H100, storage enterprise, licenze software e installazione) ha un costo hardware reale di circa 900.000 euro.

• Considerando una reintegrazione a 3 anni (che in questo settore equivale a 2 ere geologiche, visto il ritmo con cui l’hardware diventa obsoleto): 900.000 euro diviso 36 mesi corrisponde a 25.000 euro al mese di puro ammortamento macchina.
• Quota per singolo utente: Diviso per i 10 utenti, sarebbero altri 2.500,00 euro al mese a testa solo per pagare l’esistenza fisica del computer.

📉 Il Bollettino della Realtà (Per soli 10 utenti)

Se unissimo la bolletta elettrica e la quota di ammortamento hardware per questi 10 utenti, il quadro finale sarebbe questo:

• Costo reale dell’infrastruttura (Corrente + Ammortamento): 30.184 euro al mese.
• Costo mensile per singolo utente: 3.018,40 euro al mese.

E tutto questo senza contare: l’assistenza tecnica specializzata, i contratti di manutenzione, l’assicurazione sui server contro i guasti, l’affitto dei locali condizionati, gli stipendi degli ingegneri che supervisionano la macchina e, ovviamente, il margine di profitto aziendale.

Con oltre 3.000 euro al mese di costi vivi strutturali a persona, qualsiasi profitto generato dall’AI sui mercati verrebbe interamente bruciato per mantenere accesa la macchina. Questo è il motivo per cui Dragon.Local Premium resta e rimarrà un sistema centralizzato per uso esclusivamente interno.

⚡ L’evoluzione e l’alternativa che stiamo studiando

L’idea alternativa è utilizzare la nostra infrastruttura per il retrain costante e abilitare un cloud distribuito solo per la risposta in tempo reale alle richieste utente. Il passaggio non è lineare e l’ingegneria di base di questo modello ibrido e non continuo è tutt’altro che semplice da implementare. Ci stiamo lavorando sodo. Non vi posso ancora garantire che ci riusciremo, ma sono tendenzialmente ottimista.

Qui il fattore è meramente numerico. Usare l’infrastruttura cloud pay-per-use per fornire le risposte agli utenti e calcolare i pesi computazionali in-house diluirebbe sensibilmente i costi.

Si passerebbe dagli oltre 3.000 euro al mese per utente, a circa 550 euro.

Ma sarebbe sempre un costo eccessivo che potrebbe ridursi ancora (ma non in maniera così evidente) a scalare su 1.000, 10.000 o 100.000 utenti. Tuttavia, difficilmente scenderebbe sotto i 450-480 euro al mese. E questo risultato richiederebbe di limitare rigidamente il numero di richieste a un massimo di 2-3 al giorno per utente. Non di più.

Capite da soli che è un piano suicida e inaccettabile.

L’alternativa sensata è quella di scriversi da soli le sciarpe di Trading Plan, imparare l’uso di strumenti quantitativi ed econometrici e le teorie di base. E quei 400-500 euro usarli come margine di rischio per operare con coscienza, conoscenza ed esperienza, imparando al contempo a leggere e lavorare sui report che riusciamo a produrre con la sola nostra infrastruttura energeticamente autoportante.

Poi aspetteremo che le tecnologie future evolvano verso potenze di calcolo più vantaggiose, o che io mi compri un fiume dove installare una centrale idroelettrica. Sapete se qualcuno vende un fiume? 🤣

🛑 Perché vi dico tutto questo?

Perché almeno avete una prospettiva reale del motivo — altrettanto reale — per cui un trading bot, o un attualmente paventato trading bot che “usa l’intelligenza artificiale”, non è ad oggi possibile, pensabile né sostenibile.

Oppure, nella migliore delle ipotesi, si tratta di un rimescolamento algoritmico instabile di vecchie strategie che ciclicamente tornano a splendere per due o tre mesi. Li affittate a 80-100 euro al mese, pagate la retta per tre mesi e guadagnate. Poi un paio di mesi vanno in drawdown e aspettate (continuando a pagare), poi magari un mese riprendono, e pagate ancora. Poi smettono di funzionare per 6-9 mesi, e qui di solito si smette di pagare.

Alla fine ritirate un capitale eroso rispetto a quello versato, mentre il “venditore” del bot si è intascato otto-dieci mesi di retta da 400-500 utenti. Ecco svelato il vero ed unico business dei bot automatici privati.