기업이 생성형 AI를 도입하고자 할 때 발생하는 문제점과 해결방안

생성형 AI의 시대

2016년 Google Deepmind의 알파고(AlphaGo)가 이세돌 9단과의 바둑 대결에서 승리한 구글 딥마인드 챌린지 매치를 기억하시나요? 당시 컴퓨터에게는 불가능한 영역이라고 여겨지던 바둑에서 세계 최고의 바둑 기사 이세돌을 4승 1패로 이기면서 인공지능(AI)에 대한 놀라움과 경각심을 동시에 불러 일으킨 시대의 빅 이벤트였습니다.

알파고 이후 뜸하던 AI 시장에 2022년 말 혜성같이 등장한 AI가 있었으니, 바로 지금은 누구나 알고 있는 OpenAI의 ChatGPT입니다. 발표 당시 ChatGPT는 사람과 같은 언어로 대화를 할 수 있고, 마치 사람과 같이 생각할 수 있다는 착각을 불러일으킬 정도로 커다란 임팩트를 남겼습니다. ChatGPT와 같은 생성형 AI의 등장으로 빠른 시일 안에 인간을 대체할 것이라는 불안감과 인류의 생산성을 한 단계 업그레이드할 수 있을 것이라는 기대감이 공존하고 있습니다.

생성형 AI가 산업 현장에 실제로 많이 도입되고 있나?

올해 1분기에 실적발표를 한 기업(전세계 85,000개 이상의 기업 대상) 중 32%가 생성형 AI를 한번 이상 언급했는데 이는 전년 동기 대비 150% 증가한 수준입니다 (출처: IoT Analytics Research 2024). 생성형 AI가 여전히 시장의 뜨거운 이슈로 자리매김하고 있음을 알 수 있습니다.

그렇다면 이렇게 많은 관심과 기대를 받은 생성형 AI는 실제로 기업에 많이 도입되고 있을까요?

AI를 직접 개발하고 운영하는 IT 부문에서는 생성형 AI의 도입이 활성화되고 있습니다. Capgemini research에 따르면 향후 2년 내 IT 부문에서 생성형 AI를 도입하겠다고 밝히 비중이 85%에 이릅니다. 하지만 비IT 부문, 즉 마케팅, 세일즈, 재무 등의 영역에서는 다른 결과를 보여줍니다. Coatue가 CEO 600명을 대상으로 설문 조사한 결과, 실제로 AI를 완전히 채택한 비율은 9%에 불과하며, 이마저도 60~75%는 여전히 초기 검증단계에 머물러 있다고 응답했습니다.

생성형 AI의 도입 시 문제점들

1) 내부 원천 데이터의 외부 유출

기업의 매출 성장과 직결되는 이러한 비IT 부문에서의 부진은 어떤 이유에서 비롯된 것일까요? 가장 큰 원인은 보안 이슈입니다. 대다수의 기업, 특히 대기업을 중심으로 생성형 AI 모델을 사용하기 위해 외부 클라우드로 기업 내부의 데이터를 내보내야만 하는 상황이 도입을 가로막고 있는 가장 큰 장애물이라고 할 수 있습니다. 실제로 지난 7월에는 Snowflake 클라우드에 대한 해커 공격으로 AT&T의 고객 1.1억 명에 대한 통화와 메시지 기록이 유출되는 충격적인 사건이 미국에서 벌어지기도 했었죠. 이러한 이유로 많은 기업에서는 외부 LLM을 사용하지 못하게 막고, 내부적으로 자체 LLM을 구축하고자 하는 시도를 하고 있습니다.

2) 높은 도입 비용과 시간

이렇게 내부적으로 자체 LLM을 구축하고자 하는 경우에는 내부 데이터의 외부 유출 문제를 해결할 수 있습니다. 하지만 또다른 문제가 발생하게 되는데 바로 비용과 시간의 문제입니다. SI 형식으로 직접 구축해야 하다 보니 이러한 문제가 발생하는 것이지요. 특히 LLM과 더불어 이를 활용할 수 있는 데이터 분석을 위한 플랫폼까지 구축하려고 하는 경우에는 비용과 시간의 진입 장벽이 더욱 커질 것입니다. 현실적으로는 투자의 여력이 있는 대기업을 제외하고 중소기업에서 생성형 AI를 도입하기 어려운 이유가 되는 것이죠. 이를 해결하고자 퍼블릭 클라우드를 이용하게 되면 또다시 데이터 유출의 문제가 발생하게 되는 것입니다.

스마트하게 생성형 AI를 도입하기

생성형 AI는 기업의 생산성 향상에 많은 도움을 줄 수 있는 파워풀한 도구입니다. 어떻게 하면 이러한 생성형 AI를 기업에서 쉽고 빠르게 도입할 수 있을까요? 기업의 상황에 따라 다르지만 가장 쉬운 방법은 앞서 살펴본 두가지 커다란 진입장벽을 없애 주면 될 것입니다. 즉, 내부의 원천 데이터를 외부로 유출하지 않으면서 도입 비용과 시간은 줄일 수 있는 솔루션이 필요합니다.

스마트마인드의 ThanoSQL은 기업의 메타 데이터(테이블 스키마)만을 활용하여 분석하기 때문에 원천 데이터의 외부 유출 문제를 해결합니다. 또한 LLM과 데이터 분석을 하나의 플랫폼에서 제공하므로 도입 비용과 시간을 획기적으로 줄여 줍니다.

자체 개발한 기술력으로 시장의 페인 포인트를 해결해 나가고 있는 스마트마인드의 Secure Enterprise Gen AI, ThanoSQL이 궁금하신가요? 지금 바로 연락주세요.

기업이 생성형 AI를 도입하고자 할 때 발생할 수 있는 문제점과 해결 방안