Em resumo: GGUF e o formato em que muitos modelos locais como Llama, Mistral e Phi sao distribuidos. O Local AI Chat permite importar arquivos GGUF compativeis por URL para escolher o modelo e roda-lo localmente no dispositivo.
Por que importar GGUF
Importar seu proprio GGUF da controle: voce escolhe o modelo, o tamanho e o nivel de quantizacao conforme o seu iPhone. Um arquivo menor e quantizado roda mais rapido e ocupa menos; um maior responde melhor, mas exige um dispositivo mais recente.
Escolha do modeloImporte modelos compativeis como Llama, Mistral ou Phi em formato GGUF.
Tamanho e velocidadePrefira quantizacao de 4 bits (Q4) para equilibrar qualidade, memoria e espaco.
Privado e offlineApos importar, o chat compativel roda no dispositivo e funciona sem conexao.
Idiomas e alternativas
Download: Baixe o Local AI Chat na App Store e importe um modelo GGUF compativel no seu iPhone.