DevOps en CI/CD automatiseren build, test, evaluatie, securitychecks en deployment. Wijzigingen aan model, prompt, retrieval en evals moeten gecontroleerde release-gates passeren.
Infrastructuur en deployment bestrijken omgevingen, containers, compute, networking, schaling, veerkracht en rollback. Managed API’s, self-hosted modellen en hybride setups hebben verschillende operationele lasten.
Observability gebruikt logs, metrics en traces om de gezondheid van het systeem te begrijpen en incidenten te onderzoeken. AI-traces breiden observability uit naar prompts, retrieval en toolbeslissingen. Performance-engineering meet en verbetert latency, throughput, resourcegebruik en kosten onder realistische load.
