【RT-DETR涨点改进】35 RT-DETR部署实战:从Docker Compose到Kubernetes,自动扩缩容与蓝绿发布
35 RT-DETR部署实战:从Docker Compose到Kubernetes,自动扩缩容与蓝绿发布
开篇故事
老张上周五晚上差点把手机摔了——他的RT-DETR推理服务在Docker Compose里跑得好好的,P99延迟92ms,吞吐110 QPS,自动熔断也正常。
结果双十一预热流量突然涨了3倍,Docker Compose里的三个容器全部被打满,CPU 100%,新请求排队到超时。他手忙脚乱地手动扩容,结果误操作把生产容器删了,服务中断了8分钟。
“Docker Compose是玩具,生产环境必须上Kubernetes。”老张咬着牙说。我递给他一杯咖啡:“别急,今天我就带你从Docker Compose平滑迁移到K8s,实现自动扩缩容和蓝绿发布,让RT-DETR真正扛住生产级流量。”
痛点拆解
常见错误:把Docker Compose当K8s用
很多团队(包括早期的我)犯过一个致命错误:在Docker Compose里手动管理多个副本,用Nginx做负载均衡。看起来“够用”,但实际坑很多:
# 错误示例:docker-compose.yml里手动定义多副本version