가트너는 기업에서 원하는 AI를 ‘생산성에 중점을 둔 일상적 AI(Everyday AI)’와 ‘창의성에 중점을 둔 게임 체인징 AI(Game-changing AI)’로 정의한다. 그리고 각각의 AI를 내부용과 외부용으로 나누어 4가지 영역으로 구분한 ‘AI 기회 레이더(AI Opportunity Radar)’를 통해, 각각의 기업이 현재의 상황에서 추구하고 모색할 수 있는 AI 도입과 구축 기회를 가지고 있다고 설명한다.
즉, 내부에서 일상적으로 사용할 수 있는 AI, 외부에서 일상적으로 사용할 수 있는 AI, 내부에서 게임 체인저가 될 수 있는 AI, 외부에서 게임 체인저가 될 AI로 나눈 것이다. 각각의 영역은 백 오피스 생산성 향상, 프런트 오피스 생산성 향상, 신규 역량 개발, 이전에 없던 새로운 제품 및 서비스 개발과 연결 지을 수 있다. 이 네 가지가 기업에서 필요로 하거나 원하는 AI가 ‘왜’ 그래야 하는지를 가늠할 수 있도록 해주는 이정표가 될 수 있다.
기업에서 활용할 수 있는 AI 범주는 크게 Machine Learning, Deep Learning으로 바라볼 수 있다. 머신러닝은 통계적인 방법이나 알고리즘을 사용하고, 패턴 인식이나 비즈니스 인텔리전스와 규칙 기반 의사 결정에 적합하다. 머신러닝의 하위집합으로서 수백만에서 수십억 개의 매개 변수를 가진 모델을 사용하는 딥러닝은 비디오나 음성 등 구조화되지 않은 데이터에서 의미를 추출할 때 유용하다.
전 세계를 단숨에 AI 광풍으로 몰아넣은 생성형 AI는 딥러닝에 속하는 기술이다. 거대 언어 모델 등을 기반으로 한 챗봇이나 문서 작성, 요약, 이미지나 동영상 등의 다양한 콘텐츠 생성에 활용되고 있고, 50억에서 1조 개 이상의 매개 변수를 사용하는 모델을 기반으로 한다. 기업에서 AI 인프라를 통해 ‘무엇’을 할 수 있는지는 대부분이 세 가지에 뿌리를 두고 뻗어 나간다.
‘왜’ AI가 필요하고 ‘무엇’을 AI를 통해 혁신할 것인지를 좀 더 구체화하고 나면, 이제 ‘어떻게’를 결정하는 것이 좀 수월해진다. 첫째는 기업용 소프트웨어 업체에서 통합해서 제공하는 AI를 사용하는 것이다. 둘째는 사용한 만큼 비용을 지불하는 ‘서비스로서 AI(AI as-a-Service)’를 선택할 수 있다. 셋째는 API를 통해 맞춤형 워크 플로우를 구축한다. 넷째는 기존 모델을 재훈련하거나 Fine Tuning(미세 조정)을 활용한다. 다섯째는 AI 모델을 자체적으로 구축하는 것이다.
일반적인 기업이라면 대부분 이러한 방법으로 AI를 구축 또는 활용하게 되고, 상황에 따라 클라우드를 이용할 수도 있고 자체적으로 서버를 구축할 수도 있다. 어떤 경우든 우선적이면서 깊이 있게 고려해야 하는 항목은 ‘비용’이다. 여기에는 총 소유비용(TCO)을 비롯해 자본 지출(Capex)과 운영 지출(Opex)이 포함되며, 현재와 같은 여건에서 무조건 GPU 기반의 서버나 서비스만을 고집하기에는 가성비(PPR)의 간극이 적지 않다.
