GGUF en el iPhone

Importa modelos GGUF en el iPhone.

GGUF es un formato habitual para modelos de lenguaje locales. Con Local AI Chat puedes importar archivos GGUF compatibles por URL y tener mas control sobre que modelo se ejecuta en tu iPhone o iPad.

Importacion de un modelo GGUF en el iPhone.

En resumen: GGUF es el formato de archivo en el que se distribuyen muchos modelos locales como Llama, Mistral o Phi. Local AI Chat te deja importar archivos GGUF compatibles por URL para elegir el modelo y ejecutarlo localmente en tu dispositivo.

Por que importar GGUF

Importar tu propio GGUF te da control: eliges el modelo, el tamano y el nivel de cuantizacion segun tu iPhone. Un archivo mas pequeno y cuantizado va mas rapido y ocupa menos; uno mas grande responde mejor pero exige un dispositivo mas reciente.

Eleccion de modeloImporta modelos compatibles como Llama, Mistral o Phi en formato GGUF.
Tamano y velocidadPrefiere cuantizacion de 4 bits (Q4) para equilibrar calidad, memoria y espacio.
Privado y offlineTras importarlo, el chat compatible se ejecuta en el dispositivo y funciona sin conexion.

Idiomas y alternativas

Descarga: Descarga Local AI Chat en el App Store e importa un modelo GGUF compatible en tu iPhone.