기업이 AI를 도입하는 절차와 그 어려움에 대하여
smartmind
2024년 9월 7일
기업이 AI를 도입하는 절차와 그 어려움에 대하여
"우리 회사에 AI를 도입하려면 어떻게 해야 할까?"
지난 게시글 에서는 기업들이 AI 도입을 어려워하는 가장 큰 원인은 무엇이고 어떻게 하면 해결할 수 있는지 살펴보았습니다.
– 기업 AI 도입의 걸림돌은 무엇일까?
여기서는 지난 글에 이어서 실제로 기업들이 AI 앱이나 서비스를 도입하는 절차가 어떻게 되고 그 과정에서 어떤 어려움들이 있는지를 알아보겠습니다.
기업 내의 세일즈나 마케팅 부서의 실무 담당자는 아래와 같은 니즈가 있을 수 있습니다.
이러한 실무 담당자의 필요나 요청에 의해 AI 앱 또는 AI 서비스를 도입하려고 할 때, 일반적인 기업들에서 일어나는 업무 처리 흐름과 각 조직별 역할은 아래 그림과 많이 다르지 않을 것입니다.
실제 개발을 시작하기까지도 적지 않은 시간이 소요될 뿐 아니라 실무자 입장에서 수 개월 후에 확인한 결과물이 만족스럽지 못한 경우도 상당히 많습니다.
도대체 AI 도입은 왜 이렇게 오래 걸리고 결과도 실망스러울까요?
AI 어플리케이션의 개발이나 서비스 도입을 위해서는 비정형 데이터에 대한 처리와 분석이 필수적입니다. 오늘날 기업 데이터의 90% 이상이 비정형 데이터인 것으로 추정되기 때문입니다. 그러나 대부분의 조직에게 텍스트, 오디오, 비디오, 센서 및 기타 형식의 데이터는 활용하기 어려운 존재입니다. 파운드리의 조사에 따르면 IT 리더의 61%가 비정형 데이터 관리가 조직에게 골칫거리라고 답했으며, 24%는 비정형 데이터를 분석 목록에 올리지도 않는다고 답했습니다.
이러한 비정형 데이터 분석을 위하여 필요한 수집 및 사전 처리를 위한 도구들은 아래 그림과 같이 매우 다양합니다.
기존 방식의 경우 이러한 도구들 중에서 필요한 것들을 선정하여 설치/실행하고 데이터를 연결하여 파이프라인을 구축해야 합니다. 각 도구별로 전문가가 필요하고 그것들의 유기적인 연계와 구축된 파이프라인의 관리도 굉장히 어려운 작업입니다. 또한 많은 기업들은 정형 데이터 처리를 위해 구축된 기존 데이터 파이프라인을 보유하고 있는데, 새롭게 구축되는 비정형 데이터 파이프라인과는 어떻게 통합할지도 고민해야 합니다.
최근 많은 기업들이 LLM을 기반으로 하는 서비스를 도입하는 추세인데, 이러한 비정형 데이터의 수집 및 사전 처리가 LLM 아키텍처를 프로토타입에서 실행이나 운영 레벨로 옮기는데 심각한 병목 현상을 일으키고 있습니다.
LLM 기반의 AI 서비스를 위해서는 비정형 데이터를 LLM에 적합한 형태로 변환하고 추론 시점에 모델이 필요한 데이터를 잘 찾을 수 있도록 사전 처리를 잘하는 것이 중요하기 때문입니다.
그렇다면 이런 어려움들을 극복할 수 있는 방법은 없을까요? 만약 기업이 ThanoSQL을 도입했거나 도입할 계획이라면 상황은 크게 달라집니다. 아래 그림은 ThanoSQL을 도입하였을 때의 업무 처리 흐름과 담당자별 역할을 나타냅니다.
위의 일반적인 기업들의 경우와 비교해보면 절차도 매우 단순하고 구매나 외주 업체 같은 다른 조직과의 협업도 필요가 없다는 것을 알 수 있습니다. 심지어 하루이틀 만에 실무자가 원하는 다양한 분석을 시도해보고 결과도 즉시 확인할 수가 있습니다.
위의 그림에서는 분석하고자 하는 데이터의 흐름과 처리 방식을 간단하게 개념적으로 나타내었습니다. 허깅페이스의 SOTA 모델을 가져와서 활용하는 방법은 별도의 게시글(허깅페이스의 SOTA 모델을 가져와서 활용하는 가장 쉬운 방법)에서 소개하겠습니다.
다음 그림에서는 실제로 어떤 질문과 쿼리들이 실행되는지 간단한 예를 들어 살펴보겠습니다.
이 글에서 예로 든 실무 담당자의 니즈처럼, 비정형 데이터인 고객 리뷰를 AI 모델로 분류하고 판매 데이터와 연결하면 고객 감정과 제품 성공과의 상관 관계를 이해하는 데 도움이 되는 인사이트를 발견할 수 있습니다. 이러한 방식의 분석은 마케팅 전략 수립이나 제품 개발 및 고객 서비스에 도움을 줄 수 있을 뿐만 아니라 궁극적으로 고객 만족도 향상과 사업 성장에 기여할 수 있습니다.
스마트마인드의 ThanoSQL은 기업내의 모든 정형/비정형 데이터를 데이터베이스의 테이블에 저장하고 최신의 AI 모델을 불러와서 대화형 인터페이스로 분석할 수 있는 올인원 플랫폼입니다. ThanoSQL을 도입하면 일반적인 방식으로 AI 앱이나 서비스를 도입할 때의 많은 어려움들을 고민하지 않아도 됩니다.
기업이 AI를 도입하는 절차와 그 어려움에 대하여
"우리 회사에 AI를 도입하려면 어떻게 해야 할까?"
지난 게시글 에서는 기업들이 AI 도입을 어려워하는 가장 큰 원인은 무엇이고 어떻게 하면 해결할 수 있는지 살펴보았습니다.
– 기업 AI 도입의 걸림돌은 무엇일까?
여기서는 지난 글에 이어서 실제로 기업들이 AI 앱이나 서비스를 도입하는 절차가 어떻게 되고 그 과정에서 어떤 어려움들이 있는지를 알아보겠습니다.
기업 내의 세일즈나 마케팅 부서의 실무 담당자는 아래와 같은 니즈가 있을 수 있습니다.
이러한 실무 담당자의 필요나 요청에 의해 AI 앱 또는 AI 서비스를 도입하려고 할 때, 일반적인 기업들에서 일어나는 업무 처리 흐름과 각 조직별 역할은 아래 그림과 많이 다르지 않을 것입니다.
실제 개발을 시작하기까지도 적지 않은 시간이 소요될 뿐 아니라 실무자 입장에서 수 개월 후에 확인한 결과물이 만족스럽지 못한 경우도 상당히 많습니다.
도대체 AI 도입은 왜 이렇게 오래 걸리고 결과도 실망스러울까요?
AI 어플리케이션의 개발이나 서비스 도입을 위해서는 비정형 데이터에 대한 처리와 분석이 필수적입니다. 오늘날 기업 데이터의 90% 이상이 비정형 데이터인 것으로 추정되기 때문입니다. 그러나 대부분의 조직에게 텍스트, 오디오, 비디오, 센서 및 기타 형식의 데이터는 활용하기 어려운 존재입니다. 파운드리의 조사에 따르면 IT 리더의 61%가 비정형 데이터 관리가 조직에게 골칫거리라고 답했으며, 24%는 비정형 데이터를 분석 목록에 올리지도 않는다고 답했습니다.
이러한 비정형 데이터 분석을 위하여 필요한 수집 및 사전 처리를 위한 도구들은 아래 그림과 같이 매우 다양합니다.
기존 방식의 경우 이러한 도구들 중에서 필요한 것들을 선정하여 설치/실행하고 데이터를 연결하여 파이프라인을 구축해야 합니다. 각 도구별로 전문가가 필요하고 그것들의 유기적인 연계와 구축된 파이프라인의 관리도 굉장히 어려운 작업입니다. 또한 많은 기업들은 정형 데이터 처리를 위해 구축된 기존 데이터 파이프라인을 보유하고 있는데, 새롭게 구축되는 비정형 데이터 파이프라인과는 어떻게 통합할지도 고민해야 합니다.
최근 많은 기업들이 LLM을 기반으로 하는 서비스를 도입하는 추세인데, 이러한 비정형 데이터의 수집 및 사전 처리가 LLM 아키텍처를 프로토타입에서 실행이나 운영 레벨로 옮기는데 심각한 병목 현상을 일으키고 있습니다.
LLM 기반의 AI 서비스를 위해서는 비정형 데이터를 LLM에 적합한 형태로 변환하고 추론 시점에 모델이 필요한 데이터를 잘 찾을 수 있도록 사전 처리를 잘하는 것이 중요하기 때문입니다.
그렇다면 이런 어려움들을 극복할 수 있는 방법은 없을까요? 만약 기업이 ThanoSQL을 도입했거나 도입할 계획이라면 상황은 크게 달라집니다. 아래 그림은 ThanoSQL을 도입하였을 때의 업무 처리 흐름과 담당자별 역할을 나타냅니다.
위의 일반적인 기업들의 경우와 비교해보면 절차도 매우 단순하고 구매나 외주 업체 같은 다른 조직과의 협업도 필요가 없다는 것을 알 수 있습니다. 심지어 하루이틀 만에 실무자가 원하는 다양한 분석을 시도해보고 결과도 즉시 확인할 수가 있습니다.
위의 그림에서는 분석하고자 하는 데이터의 흐름과 처리 방식을 간단하게 개념적으로 나타내었습니다. 허깅페이스의 SOTA 모델을 가져와서 활용하는 방법은 별도의 게시글(허깅페이스의 SOTA 모델을 가져와서 활용하는 가장 쉬운 방법)에서 소개하겠습니다.
다음 그림에서는 실제로 어떤 질문과 쿼리들이 실행되는지 간단한 예를 들어 살펴보겠습니다.
이 글에서 예로 든 실무 담당자의 니즈처럼, 비정형 데이터인 고객 리뷰를 AI 모델로 분류하고 판매 데이터와 연결하면 고객 감정과 제품 성공과의 상관 관계를 이해하는 데 도움이 되는 인사이트를 발견할 수 있습니다. 이러한 방식의 분석은 마케팅 전략 수립이나 제품 개발 및 고객 서비스에 도움을 줄 수 있을 뿐만 아니라 궁극적으로 고객 만족도 향상과 사업 성장에 기여할 수 있습니다.
스마트마인드의 ThanoSQL은 기업내의 모든 정형/비정형 데이터를 데이터베이스의 테이블에 저장하고 최신의 AI 모델을 불러와서 대화형 인터페이스로 분석할 수 있는 올인원 플랫폼입니다. ThanoSQL을 도입하면 일반적인 방식으로 AI 앱이나 서비스를 도입할 때의 많은 어려움들을 고민하지 않아도 됩니다.