Olá,

Eu fiz um app que faz exatamente isso: https://paulocoutinho.pages.dev/aikit/apple/

Dentro dele tem Llama.Cpp, Whisper, GGML, StableDiffusion.Cpp, FFmpeg.

Tudo offline.