In breve: GGUF e il formato in cui molti modelli locali come Llama, Mistral e Phi vengono distribuiti. Local AI Chat ti permette di importare file GGUF compatibili tramite URL per scegliere il modello ed eseguirlo localmente sul dispositivo.
Perche importare GGUF
Importare il tuo GGUF da controllo: scegli il modello, la dimensione e il livello di quantizzazione in base al tuo iPhone. Un file piu piccolo e quantizzato e piu veloce e occupa meno spazio; uno piu grande risponde meglio ma richiede un dispositivo piu recente.
Scelta del modelloImporta modelli compatibili come Llama, Mistral o Phi in formato GGUF.
Dimensione e velocitaPreferisci la quantizzazione a 4 bit (Q4) per bilanciare qualita, memoria e spazio.
Privato e offlineDopo l'importazione, la chat compatibile viene eseguita sul dispositivo e funziona senza connessione.
Lingue e alternative
Download: Scarica Local AI Chat dall'App Store e importa un modello GGUF compatibile sul tuo iPhone.