Bacana!

Tem essa outra opção tb que roda direto no browser, usando webworkers e webassembly

https://huggingface.co/spaces/webml-community/kokoro-webgpu

Olá, verdade. Essa versão web tem suporte apenas para o inglês.

O suporte a webgpu ainda é bem limitado. Aqui tem mais informações: https://huggingface.co/blog/transformersjs-v3

Mas é bacana a ideia de rodar o core da iA moderna no navegador usando a GPU via browser. Com certeza tem muitos projetos bacanas com o tf.js.