기업이 AI를 도입하는 절차와 그 어려움에 대하여
smartmind
2024년 9월 7일
기업이 AI를 도입하는 절차와 그 어려움에 대하여
"우리 회사에 AI를 도입하려면 어떻게 해야 할까?"
지난 게시글 에서는 기업들이 AI 도입을 어려워하는 가장 큰 원인은 무엇이고 어떻게 하면 해결할 수 있는지 살펴보았습니다.
– 기업 AI 도입의 걸림돌은 무엇일까?
이러한 실무 담당자의 필요나 요청에 의해 AI 앱 또는 AI 서비스를 도입하려고 할 때, 일반적인 기업들에서 일어나는 업무 처리 흐름과 각 조직별 역할은 아래 그림과 많이 다르지 않을 것입니다.
도대체 AI 도입은 왜 이렇게 오래 걸리고 결과도 실망스러울까요?
AI 어플리케이션의 개발이나 서비스 도입을 위해서는 비정형 데이터에 대한 처리와 분석이 필수적입니다. 오늘날 기업 데이터의 90% 이상이 비정형 데이터인 것으로 추정되기 때문입니다. 그러나 대부분의 조직에게 텍스트, 오디오, 비디오, 센서 및 기타 형식의 데이터는 활용하기 어려운 존재입니다. 파운드리의 조사에 따르면 IT 리더의 61%가 비정형 데이터 관리가 조직에게 골칫거리라고 답했으며, 24%는 비정형 데이터를 분석 목록에 올리지도 않는다고 답했습니다.
이러한 비정형 데이터 분석을 위하여 필요한 수집 및 사전 처리를 위한 도구들은 아래 그림과 같이 매우 다양합니다.
기존 방식의 경우 이러한 도구들 중에서 필요한 것들을 선정하여 설치/실행하고 데이터를 연결하여 파이프라인을 구축해야 합니다. 각 도구별로 전문가가 필요하고 그것들의 유기적인 연계와 구축된 파이프라인의 관리도 굉장히 어려운 작업입니다. 또한 많은 기업들은 정형 데이터 처리를 위해 구축된 기존 데이터 파이프라인을 보유하고 있는데, 새롭게 구축되는 비정형 데이터 파이프라인과는 어떻게 통합할지도 고민해야 합니다.
최근 많은 기업들이 LLM을 기반으로 하는 서비스를 도입하는 추세인데, 이러한 비정형 데이터의 수집 및 사전 처리가 LLM 아키텍처를 프로토타입에서 실행이나 운영 레벨로 옮기는데 심각한 병목 현상을 일으키고 있습니다.
위의 일반적인 기업들의 경우와 비교해보면 절차도 매우 단순하고 구매나 외주 업체 같은 다른 조직과의 협업도 필요가 없다는 것을 알 수 있습니다. 심지어 하루이틀 만에 실무자가 원하는 다양한 분석을 시도해보고 결과도 즉시 확인할 수가 있습니다.
위의 그림에서는 분석하고자 하는 데이터의 흐름과 처리 방식을 간단하게 개념적으로 나타내었습니다. 허깅페이스의 SOTA 모델을 가져와서 활용하는 방법은 별도의 게시글(허깅페이스의 SOTA 모델을 가져와서 활용하는 가장 쉬운 방법)에서 소개하겠습니다.
다음 그림에서는 실제로 어떤 질문과 쿼리들이 실행되는지 간단한 예를 들어 살펴보겠습니다.
스마트마인드의 ThanoSQL은 기업내의 모든 정형/비정형 데이터를 데이터베이스의 테이블에 저장하고 최신의 AI 모델을 불러와서 대화형 인터페이스로 분석할 수 있는 올인원 플랫폼입니다. ThanoSQL을 도입하면 일반적인 방식으로 AI 앱이나 서비스를 도입할 때의 많은 어려움들을 고민하지 않아도 됩니다.
기업이 AI를 도입하는 절차와 그 어려움에 대하여
"우리 회사에 AI를 도입하려면 어떻게 해야 할까?"
지난 게시글 에서는 기업들이 AI 도입을 어려워하는 가장 큰 원인은 무엇이고 어떻게 하면 해결할 수 있는지 살펴보았습니다.
– 기업 AI 도입의 걸림돌은 무엇일까?
이러한 실무 담당자의 필요나 요청에 의해 AI 앱 또는 AI 서비스를 도입하려고 할 때, 일반적인 기업들에서 일어나는 업무 처리 흐름과 각 조직별 역할은 아래 그림과 많이 다르지 않을 것입니다.
도대체 AI 도입은 왜 이렇게 오래 걸리고 결과도 실망스러울까요?
AI 어플리케이션의 개발이나 서비스 도입을 위해서는 비정형 데이터에 대한 처리와 분석이 필수적입니다. 오늘날 기업 데이터의 90% 이상이 비정형 데이터인 것으로 추정되기 때문입니다. 그러나 대부분의 조직에게 텍스트, 오디오, 비디오, 센서 및 기타 형식의 데이터는 활용하기 어려운 존재입니다. 파운드리의 조사에 따르면 IT 리더의 61%가 비정형 데이터 관리가 조직에게 골칫거리라고 답했으며, 24%는 비정형 데이터를 분석 목록에 올리지도 않는다고 답했습니다.
이러한 비정형 데이터 분석을 위하여 필요한 수집 및 사전 처리를 위한 도구들은 아래 그림과 같이 매우 다양합니다.
기존 방식의 경우 이러한 도구들 중에서 필요한 것들을 선정하여 설치/실행하고 데이터를 연결하여 파이프라인을 구축해야 합니다. 각 도구별로 전문가가 필요하고 그것들의 유기적인 연계와 구축된 파이프라인의 관리도 굉장히 어려운 작업입니다. 또한 많은 기업들은 정형 데이터 처리를 위해 구축된 기존 데이터 파이프라인을 보유하고 있는데, 새롭게 구축되는 비정형 데이터 파이프라인과는 어떻게 통합할지도 고민해야 합니다.
최근 많은 기업들이 LLM을 기반으로 하는 서비스를 도입하는 추세인데, 이러한 비정형 데이터의 수집 및 사전 처리가 LLM 아키텍처를 프로토타입에서 실행이나 운영 레벨로 옮기는데 심각한 병목 현상을 일으키고 있습니다.
위의 일반적인 기업들의 경우와 비교해보면 절차도 매우 단순하고 구매나 외주 업체 같은 다른 조직과의 협업도 필요가 없다는 것을 알 수 있습니다. 심지어 하루이틀 만에 실무자가 원하는 다양한 분석을 시도해보고 결과도 즉시 확인할 수가 있습니다.
위의 그림에서는 분석하고자 하는 데이터의 흐름과 처리 방식을 간단하게 개념적으로 나타내었습니다. 허깅페이스의 SOTA 모델을 가져와서 활용하는 방법은 별도의 게시글(허깅페이스의 SOTA 모델을 가져와서 활용하는 가장 쉬운 방법)에서 소개하겠습니다.
다음 그림에서는 실제로 어떤 질문과 쿼리들이 실행되는지 간단한 예를 들어 살펴보겠습니다.
스마트마인드의 ThanoSQL은 기업내의 모든 정형/비정형 데이터를 데이터베이스의 테이블에 저장하고 최신의 AI 모델을 불러와서 대화형 인터페이스로 분석할 수 있는 올인원 플랫폼입니다. ThanoSQL을 도입하면 일반적인 방식으로 AI 앱이나 서비스를 도입할 때의 많은 어려움들을 고민하지 않아도 됩니다.