DevOps의 다음은 MLOps입니다.

‍여러분, ‘DevOps’ 또는 ‘MLOps’를 들어보신 적 있나요? 아마 IT업계에 종사하시는 분들에게도 생소한 단어일 텐데요. 소프트웨어의 시대였던 지난 10여년 간, DevOps 도구들은 소프트웨어 개발과 운영의 생산성에 조용하지만 크게 기여해왔습니다. 그리고 다가오는 인공지능 시대에서는, MLOps 가 그 역할을 이어받을 것으로 주목받고 있죠.

슈퍼브 플랫폼 또한 단순한 라벨링 툴 이상의, 머신러닝 개발 과정에서의 생산성을 돕기 위한 ‘MLOps’ 도구입니다. 최근에는 MLOps 저변 확장을 위해 모인 글로벌 인공지능 기업 연합 ‘AI 인프라스트럭쳐 얼라이언스(AI Infrastructure Alliance)’에 슈퍼브에이아이가 합류하기도 했습니다. 이처럼 뜨거운 관심을 받고 있는 DevOps와 MLOps가 무엇인지, 그리고 미래 산업에서의 역할과 중요도에 대해 이야기해보고자 합니다.

이번 포스팅은 슈퍼브에이아이 김현수 대표가 9월 17일 2020 세계지식포럼의 ‘인공지능의 현재와 미래’ 세션에서 발표한 내용을 토대로 재구성된 내용입니다. 세계지식포럼은 매년 세계 최고의 각 분야 전문가들이 모여 지식을 공유하는 아시아 최대 글로벌 비즈니스 포럼인데요, 9월 16일부터 3일간 개최된 2020 세계지식포럼에는 존 헤네시 알파벳 회장, 케빈 스니더 맥킨지앤컴퍼니 회장, 영국의 테리사 메이 총리, 이탈리아의 엔리코 레타 총리 등 글로벌 컴퍼니 CEO와 각국 정상들이 연사로 참여했습니다. 슈퍼브에이아이 김현수 대표도 초청되어 뜻깊은 행사에 함께했습니다.

‍‍Software 시장의 성장

지난 수 십년동안, 컴퓨터와 인터넷의 발전으로 소프트웨어 산업이 비약적으로 성장했습니다. 현재 우리 삶의 곳곳에 소프트웨어가 없는 곳이 없을 정도로요. 그만큼 소프트웨어 개발 속도도 빨라져, 실생활에 유용한 다양한 서비스들이 쉴새없이 쏟아져나오고 있습니다.

하지만 20년쯤 전인 2000년~2010년의 소프트웨어 개발 방식은 비효율적이었다는 평가가 많습니다. 그럴 수밖에 없었던 가장 큰 이유 중 하나는, 소프트웨어 개발 조직과 그 서비스(또는 제품)를 운영하는 조직이 완전히 분리되어 있었기 때문입니다.

예를 들어 어떤 소프트웨어 회사에 개발팀과 운영팀이 있다고 가정해봅시다. 개발팀에서는 열심히 밤새워 제품을 만들어 고객에게 제공하고, 운영팀에서는 해당 제품을 관리하고 고객을 응대하는 등의 업무를 맡게 됩니다. 이 때 서비스를 받아보는 고객의 피드백이나 시장 변화 등은 운영팀에 전달되는데, 이 정보들이 개발팀과 유연하게 공유되지 못하는 경우가 많았습니다. 때문에 제품이 시장의 변화나 고객의 니즈를 빠르게 반영하지 못하는 비효율이 생기게 됐죠. 이런 소통 비용 외에도, 생산성을 저하시키는 다양한 비효율이 있었습니다.

DevOps의 등장과 성장

‍비효율을 해결하기 위한 방법으로, 지난 10년동안 ‘DevOps’가 소프트웨어 산업의 주목을 받았습니다. DevOps는 소프트웨어 개발을 뜻하는 Development와 서비스 운영을 뜻하는 Operation의 합성어입니다. 즉 소프트웨어를 보다 빠르게 개발하고, 고객에게 서비스를 빠르게 제공하고, 피드백이나 시장 변화에 더 빠르게 대응할 수 있도록 해주는 업무 방식이자 철학, 문화 또는 이를 돕는 개발자도구입니다.

기업이나 개발팀에서 DevOps를 사용하면 얻을 수 있는 이점은 무엇일까요? 다양한 이점 중 가장 큰 것은 개발의 속도가 빨라진다는 것입니다. 하나의 팀에서 소프트웨어 개발과 운영을 유기적으로 다루게 되면 시장 변화나 고객 니즈에 더 빠르게 대응하고, 결과적으로 전체 개발 프로세스의 가속화가 가능해집니다.

실제 조사에 따르면, 전세계 개발자의 72%가 DevOps 도구를 적극적으로 활용하고 있으며, DevOps를 도입한 회사가 그렇지 않은 회사보다 코드 업데이트 빈도는 200배 이상, 오류 대응 속도는 24배 이상 차이가 난다고 합니다.

‍

‍위 그래프는 지난 10년 간 DevOps 도구 관련 스타트업의 성장 그래프입니다. DevOps가 지난 10년 간 시장에 끼친 영향력을 볼 수 있죠. 대표적인 DevOps 회사인 GitHub, Datadog, Docker, Pagerduty 등의 회사들이 처음 설립된 시점부터 수조 원, 수십조 원의 기업 가치를 인정받을 때까지 걸린 시간은 10년 밖에 되지 않습니다.

실리콘밸리의 전설적인 투자자인 앤더슨 호로이츠가 2011년 월스트리트 저널에 기고하면서 남긴 유명한 말이 있습니다. “Software is eating the world.” 말 그대로 소프트웨어가 세계를 집어삼키고 있다는 뜻인데요, 그만큼 지난 10년간 소프트웨어는 우리 삶의 모든 곳에 녹아들었음이 분명합니다. 그리고 그 소프트웨어 회사들이 보다 효율적으로 제품 및 서비스를 개발할 수 있도록 도와주는 기업들이 위와 같은 DevOps 회사들입니다.

DevOps 도구 관련 기업 생태계를 간단히 그려보았습니다. 소프트웨어 개발의 핵심인 ‘코딩 플랫폼’을 중심으로 리소스 모니터링, 배포관리, 협업 도구, 위기 대응 도구 등 다양한 기업들이 포진되어 있습니다. 개발자들의 성지라고 불리는 ‘깃허브(GitHub)’는 무려 4천만 개의 개발자 계정을 갖고 있고, 협업 도구를 제공하는 아틀라시안은 17만개의 고객사를 보유하고 있습니다. 이렇게 숫자로 표현하니 DevOps 기업들의 영향력이 더 실감나네요.

Machine learning과 인공지능

머신러닝은 인공지능의 한 갈래로, 컴퓨터에 학습할 데이터를 주고 스스로 공부할 수 있게 하는 기술을 연구하는 분야입니다. 2000년대가 소프트웨어 시장의 태동단계였다면, 2010년대는 머신러닝 기술과 인공지능이 등장한 시기라고 할 수 있죠. 하지만 20년 전의 소프트웨어 개발이 비효율적이었던 것처럼, 지난 10년 간 머신러닝 개발 방법론도 굉장히 비효율적이었습니다.

소프트웨어 개발의 원자재가 ‘코드’였다면, 머신러닝 개발의 원자재는 ‘코드’와 ‘데이터’라고 할 수 있습니다. 때문에 코드와 데이터 사이의 장벽이 없어야 하며, 이 둘의 조합으로 탄생하는 서비스를 운영하는 조직도 유기적으로 작동되어야 합니다. 데이터, 개발, 운영이 분리될 경우 데이터 사일로(Data Silo)가 발생하면서 변화 대응이 느려지고 속도 저하 요소가 생기며 비효율이 크게 발생하게 되죠.

예를 들어 자율주행 모델을 개발하는 경우, 자율주행 기능이 특정 조건, 상황에서 성능이 떨어졌다는 것을 발견하면 즉각적으로 해당 상황에 해당하는 알고리즘 업데이트 뿐 아니라 데이터도 수집하고 가공해야 합니다. 결국, 이 사이에 시간이 얼마나 걸리는지가 인공지능 개발의 효율, 속도를 좌우한다고 할 수 있습니다.

MLOps의 등장

인공지능, 머신러닝 개발의 효율화를 위해 등장한 것이 MLOps입니다. DevOps와 비슷하게 Machine Learning의 약자인 ML과 Operation의 약자인 Op의 합성어로, 머신러닝 개발, 서비스를 최대한 빠르게 고객에게 전달하고 개선해나가는 업무 방식, 철학 또는 이를 돕는 도구를 총칭합니다.

머신러닝 개발 프로세스에는 다양한 영역이 있습니다. 머신러닝 알고리즘을 이루는 코드, 소프트웨어 뿐 아니라 데이터를 가공, 정제, 분석할 수 있어야 하고, 인공지능 서비스의 성능을 점검하고 서버를 관리하는 등 다양한 영역에서의 협업이 필요하고, 그만큼 이를 돕는 도구들의 필요성도 큽니다.

‍

현재는 위와 같은 MLOps 도구들이 있습니다. DevOps 생태계에서 코드 플랫폼이 중심이 되었다면, MLOps 생태계는 슈퍼브에이아이와 같은 데이터플랫폼을 만드는 회사를 중심으로 형성될 것입니다. 그리고 모델 배포/관리, 분석, 학습, 라벨링, 데이터 분석 등의 영역에서 다양한 회사들이 생겨날 것으로 예상하고 있죠.

DevOps 도구 관련 스타트업의 성장 그래프와, 지난 10년 간 MLOps 관련 스타트업의 성장 그래프를 겹쳐보았습니다. DevOps 스타트업들의 2000년대 기업가치 흐름과, MLOps 스타트업들의 2010년대 흐름이 비슷해보입니다. 결국 지난 10년 동안 소프트웨어 산업이 비약적으로 성장했고, 그 중심에는 DevOps 회사들이 있었다면, 향후 10년 동안은 MLOps 회사들을 중심으로 머신러닝, 인공지능의 시대가 될 것이라고 예상할 수 있습니다. 즉 소프트웨어 시대에는 소프트웨어를 더 효율적으로 개발하는 회사가 기업 경쟁력을 갖출 수 있었다면, 머신러닝 시대에서는 인공지능을 얼마나 빠르게 개발하고 개선시킬 수 있는지가 기업 경쟁력과 직결되는 요소가 되는 것이죠.

마치며

향후 10년은 인공지능의 시대가 될 것입니다. 지난 10년 간 소프트웨어의 발달이 우리 생활에 깊숙이 들어왔듯이, 향후 10년 동안에는 상상할 수 있는 삶의 모든 영역에 인공지능이 적용될 것입니다. 이런 인공지능 시대에 기업이 경쟁력을 갖추기 위해서는 유기적인 협업 시스템과 문화, 즉 MLOps를 갖춰야 합니다.

모든 서비스와 제품에 인공지능이 탑재될 것이기 때문에, 고객은 당연히 제품 및 서비스 비교 시 인공지능의 성능을 기준으로 평가하게 될 것이기 때문이죠. 인공지능 성능을 지속적으로 향상시키기 위해서는 기업이 MLOps라고 하는 문화와 철학을 받아들이고, 관련 도구를 얼마나 잘 활용하는지로 판가름 날 것입니다.