GKE AI/ML Inferentie

Implementeert en optimaliseert AI/ML-inferentiewerklasten op GKE, met behulp van GPU's, TPU's en modelservers. Gebruik dit wanneer u GKE-inferentieservers implementeert, GPU-resources van GKE voor inferentie configureert of LLM's op GKE implementeert. Niet gebruiken voor generieke batchjobs of HPC-taakwachtrijen (gebruik in plaats daarvan gke-batch-hpc).

Bron: github.com/google/skills/tree/HEAD/skills/cloud/gke-inference · Licentie: Apache-2.0