Marco Guastavigna

AI in locale

Ecco uno schema chiaro e sintetico dei requisiti minimi per usare Ollama (o un modello LLM simile) in locale e in cloud:

✅ In Cloud (via API o servizio web)

Non hai bisogno di installare nulla, ma devi avere:

RequisitoDettagli
Connessione InternetStabile, preferibilmente banda larga.
AccountSu piattaforma che offre accesso a LLM (es. OpenAI, Google AI, Azure, ecc.).
API KeySe usi API (es. OpenAI API), ti serve una chiave valida.
Software clientBrowser web, oppure script/programma che chiama l’API (Python, curl, ecc.).
Sistema operativoQualsiasi (Windows, macOS, Linux, persino mobile).

✅ In Locale (modello open-source, es. Llama 3, Mistral, ecc.)

Hai bisogno di hardware e software adeguati.

RequisitoDettagli
Hardware minimoCPU: 4-core+ (preferibilmente Intel/AMD recente)
RAM: 8 GB (per modelli piccoli, es. 7B in 4-bit)
GPU: Opzionale ma consigliata (es. NVIDIA con 6+ GB VRAM per modelli 7B-13B)
Storage3–10 GB per modello (dipende dalla dimensione)
Sistema operativoWindows, macOS, Linux (Linux preferito per compatibilità)
SoftwareOllama (semplice, via terminale)LM Studio (GUI, facile)llama.cpp (leggero, via CLI)Python + Transformers (più flessibile, ma più complesso)
ModelloScaricato localmente (es. llama3.2:3b, mistral:7b)

🔍 Confronto rapido

FunzionalitàCloudLocale
PrivacyBassa (dati su server esterno)Alta (tutto rimane in locale)
CostoA pagamento dopo i limiti gratuitiGratuito (dopo setup)
VelocitàDipende da connessioneDipende da hardware
SetupImmediatoRichiede installazione e risorse
PersonalizzazioneLimitataTotale (puoi usare modelli fine-tuned)

✅ Conclusione

  • Cloud: ideale per test rapidi, sviluppatori, chi non ha hardware potente.
  • Locale: ideale per privacy, controllo totale, offline, ma richiede un minimo di hardware.

Avatar di Sconosciuto

Pubblicato da Marco Guastavigna

Posizionamento dell’autore Sono un ex insegnante in pensione, con pluridecennale esperienza di formazione del personale della scuola a proposito dell’impiego di dispositivi digitali. Mi definisco ricercatore inopportuno e libero dall’opportunismo, perché non faccio sconti a nessuno e perché la mia condizione anagrafica e socio-economica mi consente di non dover rispondere a una qualche struttura di potere relativa alla logistica della conoscenza, in particolare accademia ed enti analoghi. Ho una posizione politica radicale, fondata sull’ostinato riconoscimento delle ingiustizie e delle distruzioni implicate dal modello capitalistico e sulla caparbia convinzione che sia pertanto necessario (e sempre più urgente) collocarsi nell’area del conflitto esplicito con la situazione data, per modificarla profondamente. Affinché questa scelta possa aspirare ad avere dimensione collettiva, nel caso dell’istruzione e della scuola sono prioritarie da una parte la denuncia della colonizzazione messa in atto dall’oligopolio del capitalismo di piattaforma, che agisce in nome del valore economico, e dall’altra la ricerca di alleanze con tutti i soggetti che si pongano l’obiettivo di uno sviluppo umano equo, con particolare riferimento alla condivisione cooperativa e mutualistica della conoscenza.