Hola: tienes un programa ui (grafico) para ejecutar e instalar modelos se llama ( LM Studio ) tienes: llama ,granite,deepseek ,gema,etc .
es en local ,pero creo que también lo puedes poner en red,en 4 o 5 minutos lo tienes instalado (depende velocidad de red )
si quiere ver como es, esta en el hilo ( IA en local con gpu AMD con pocos recursos)
Saludos