Programmare con un agente AI senza cloud: Ollama e MLX sul Mac

Perché in locale

• Il codice resta tuo: niente viene inviato fuori dal Mac. Conta per i progetti dei clienti, per il codice sotto accordo di riservatezza e per chi semplicemente preferisce così.
• Nessun costo a consumo e nessuna chiave API da gestire.
• Funziona offline, in treno o con una connessione scarsa.

Il prezzo da pagare è la potenza: un modello che sta nella memoria di un portatile è meno capace dei modelli più grandi in cloud, ed è più lento. Per molti compiti però basta, se è usato nel modo giusto.

Quale modello per quale Mac

La regola principale è la memoria: il modello deve starci tutto, insieme al contesto della conversazione. Questi sono i modelli che Ollocode usa come agente in base al Mac, misurati su 14 progetti reali da costruire o correggere (Go, Python, Node.js, TypeScript, Rust, web), superati solo quando passano i test automatici:

Un dato utile: modelli specializzati nel codice ma pensati per completare, come qwen2.5-coder 7B e 14B, in questi test si sono rivelati inaffidabili come agenti, perché sbagliano l'uso degli strumenti. Per il completamento in linea nell'editor invece un modello minuscolo come qwen2.5-coder:1.5b (1 GB) va benissimo.

MLX è il framework di Apple per eseguire modelli sul chip del Mac: le versioni MLX dei modelli sfruttano meglio l'hardware Apple, ed è quella usata sui Mac con più memoria.

Installare Ollama e un modello

1. Scarica Ollama da ollama.com, installalo e aprilo.
2. Dal Terminale scarica il modello adatto al tuo Mac e provalo:

ollama pull qwen3.5:9b    # per un Mac con 16 GB
ollama run qwen3.5:9b     # una chat nel Terminale, per provarlo
ollama list               # i modelli scaricati e quanto pesano

A questo punto hai un modello che risponde. Ma una chat non basta per programmare: ti dà un pezzo di codice e tocca a te incollarlo, eseguirlo, leggere l'errore e tornare a chiedere.

Dalla chat all'agente

Un agente fa quel giro da solo: legge il progetto, scrive nei file, esegue test e programmi, legge gli errori e corregge finché il lavoro non funziona davvero. Con i modelli locali è ancora più importante, perché sbagliano più spesso: un agente che verifica ogni passo trova e corregge i propri errori.

Ollocode è un ambiente di sviluppo gratuito per macOS costruito intorno a questa idea, con modelli solo locali (Ollama o MLX):

• non si accontenta: non considera finito un lavoro se i test falliscono o se l'ultima modifica non è mai stata eseguita;
• si adatta al tuo Mac: legge chip e memoria, sceglie modello e contesto misurati per quella classe di Mac e, se manca, propone di scaricarlo;
• modalità Piano: prima di toccare un file propone i passi, e li correggi finché ti convincono;
• progetti remoti via SSH: lavora direttamente su un server Linux, per esempio con PHP e MySQL;
• editor, differenze, Git e terminale integrati, con il completamento in linea da un modello locale.

Sicurezza: un agente che esegue comandi

Un agente che esegue programmi va tenuto sotto controllo. In Ollocode i comandi girano in una sandbox di macOS che permette di scrivere solo nella cartella del progetto, nelle cartelle temporanee e nelle cache degli strumenti; prima di ogni turno che modifica file crea un punto di ripristino; e i comandi di sistema, come installare un programma o usare sudo, partono solo quando premi Esegui. Anche l'accesso al web per leggere documentazione aggiornata chiede ogni volta il permesso.

Cosa aspettarsi, onestamente

Con 16 GB un agente locale gestisce bene compiti piccoli e medi: una funzione, un endpoint, un bug circoscritto, un progetto nuovo semplice. Con 32 GB o più il modello più grande completa quasi tutti i progetti di prova, ma è lento (circa 10 token al secondo su un M1 Max). Non sostituisce i modelli più grandi in cloud sui lavori più ampi; in cambio il tuo codice non lascia mai il Mac. Ollocode richiede un Mac Apple Silicon con almeno 16 GB e si scarica dalla sua pagina.