Per far girare modelli linguistici in locale, il parametro che decide cosa puoi caricare è la quantità di memoria video, più della potenza di calcolo pura. Questo cambia completamente la convenienza dell'usato: schede di generazioni precedenti con molta memoria costano una frazione delle nuove e fanno benissimo il lavoro.
Perché la memoria conta più della potenza
Se un modello entra interamente nella memoria video, gira veloce. Se non ci entra, viene diviso fra scheda e RAM di sistema e la velocità crolla in modo drastico, indipendentemente da quanto sia potente la GPU.
In pratica: una scheda vecchia con 24 GB fa girare modelli che una scheda nuova con 12 GB non può nemmeno caricare. La prima sarà più lenta nel produrre le parole, ma funzionerà; la seconda non parte proprio, o va a passo d'uomo.
Da qui la regola: a parità di budget, prendi più memoria.
Quali schede guardare
Senza fare nomi di modelli specifici, i criteri sono questi:
- Almeno 16 GB, meglio 24 GB, per un uso professionale serio.
- Supporto driver ancora attivo: una scheda troppo vecchia può non essere supportata dalle librerie di calcolo attuali, e questo la rende inutilizzabile per lo scopo indipendentemente dalla memoria.
- Ecosistema software: la maggior parte degli strumenti per l'AI è nata e testata su un'architettura specifica. Le alternative funzionano, ma richiedono più lavoro di configurazione e alcune funzioni arrivano dopo. Se non vuoi passare tempo a risolvere problemi, tienilo presente.
- Schede professionali dismesse: spesso hanno molta memoria e prezzi interessanti, ma verifica raffreddamento e alimentazione, perché alcune sono progettate per server con flusso d'aria forzato e in un case normale si surriscaldano.
I controlli da fare
- Provenienza. Chiedi da quanto la possiede e a cosa è servita. Le schede provenienti da attività di calcolo intensivo continuo hanno ventole consumate e pasta termica esaurita.
- Aspetto: polvere eccessiva, tracce di ossidazione, segni di riparazioni sul circuito stampato, viti rovinate. Uno smontaggio dichiarato per manutenzione non è un problema; uno nascosto sì.
- Ventole: falle girare, ascolta rumori metallici o ronzii. Si sostituiscono, ma è lavoro.
- Corrispondenza del modello: verifica con uno strumento diagnostico che chip e quantità di memoria dichiarati corrispondano davvero. Circolano schede rimarchiate.
- Prova sotto sforzo: almeno quindici minuti di carico pieno controllando temperature e assenza di artefatti a schermo.
- Test della memoria: esistono strumenti che verificano l'integrità della memoria video. È il test più importante per questo uso, perché la memoria è esattamente ciò che ti serve.
La prova che conta davvero
Oltre ai test sintetici, se puoi, carica un modello e fallo girare. È il test più significativo perché replica l'uso reale: verifica che la memoria dichiarata sia effettivamente disponibile, che la scheda regga il carico prolungato e che le prestazioni siano nell'ordine di grandezza atteso.
Le insidie pratiche
- Alimentazione: le schede con molta memoria consumano parecchio. Verifica che l'alimentatore abbia potenza sufficiente con margine e i connettori giusti, senza adattatori improvvisati.
- Ingombro: misura lo spazio nel case, in lunghezza e in numero di slot occupati.
- Raffreddamento: alcune schede professionali non hanno ventole proprie e contano sul flusso d'aria del server. In un case desktop vanno in protezione termica in pochi minuti.
- Due schede insieme: si può, per sommare la memoria, ma serve una scheda madre con abbastanza linee PCIe, un alimentatore adeguato e spazio fisico. E non tutti i software gestiscono bene la suddivisione.
Il conto della convenienza
Prima di comprare, fai due conti onesti:
- Consumo elettrico: una scheda vecchia e affamata accesa tutto il giorno costa in bolletta. Su due o tre anni la differenza rispetto a una scheda recente più efficiente può erodere il risparmio iniziale.
- Nessuna garanzia: metti in conto il rischio.
- Tempo di configurazione: se scegli una piattaforma meno supportata, il tempo speso a far funzionare le cose ha un costo.
Conclusione
Per l'AI locale l'usato ha senso, perché il parametro decisivo — la memoria — non si degrada con l'uso e le schede vecchie con tanta VRAM sono sottovalutate dal mercato del gioco. Ma vanno verificate con attenzione, testando la memoria e provando un carico reale. Se stai valutando una macchina per l'AI e vuoi un parere sul rapporto fra spesa e risultato, ti aiutiamo volentieri a fare il conto.