Machine Learning/MLOps

MLOps - 마켓 조사 (모델 배포 서버)

MLOps 중 모델을 배포하는 부분에 대해 공부를 진행하며 현재 마켓에서 사용중인 다른 플랫폼에 대해서 조사를 진행했다. 크게 KServe / Seldon Core / Seldon Deploy 제품이 존재했다. 그 중 KServe와 Seldon Core 제품은 무료로 사용가능한 제품이고 Seldon Deploy의 경우는 엔터프라이즈의 제품이었다. 앞선 두 무료 제품의 경우 모델의 CRD 구현의 경우 구현이 잘 되어있지만, 배포 이후의 관리적인 측면에서 한계가 존재했다. 먼저 조사하기에 앞서 모델의 배포 서버가 존재해야하는 이유와 왜 생겨났는지를 조사하고 생각해보았다. MLOps가 생겨난 이유는 처음에 생각했을때 DevOps와 같은 이유로 배포를 자동화하는 과정을 통해 비싼 리소스(장비, 인건비 등)들을 ..