top of page
bg_news_01.jpg

We are Data Driven

DOUB News

다양한 분야에서 데이터의 가치를 끊임없이 발견하고 미래의 가치를 발굴하는

​데이터 전문기업 두유비의 소식입니다.

돌고 돌아 '소소익선'? 기업용 LLM, 작고 안전해야

조재호 기자 jjh@the-tech.co.kr

Copyright @더테크 (TEC TECH) Corp. All rights reserved.


엔터프라이즈 LLM 경쟁③] 기업용 LLM과 클라우드 시장 융합 대다수 기업은 AI 도입에 긍정적, 시스템 방식과 신뢰성이 관건


▲ [자료 이미지=클립아트코리아] [더테크=조재호 기자] 올해 IT 이슈의 핵심은 단연 생성형 인공지능(AI)이다. 챗GPT 열풍을 시작으로 모든 산업에 AI 융합을 이끌었기 때문이다. 그리고 올 하반기 들어 빅테크 기업들은 기업용 LLM(Large Language Model, 거대언어모델) 시장 공략에 나섰다. 대다수 기업은 AI 전환을 긍정적으로 검토 중이나 산업군이나 기업 문화에 따라 도입 방식은 천차만별인 것으로 알려졌다. LLM 구축 방식으로는 온프레미스(사내구축형)를 가장 선호한다. 다음으로 클라우드 방식은 퍼블릭과 프라이빗 그리고 이를 혼합한 하이브리드형이 있다. (관련 기사: 빅테크의 생성형 AI 경쟁 2라운드 ‘기업용 AI 시장’) (관련 기사: 국내 기업용 AI 시장, 유연한 ‘로컬 서비스’ 강조) 기업용 LLM에 앞서 생성형 AI를 제대로 파악하려면 핵심 기술인 LLM과 이를 구동하는 컴퓨팅 자원에 대한 이해가 필요하다. 챗GPT는 생성형 AI 서비스의 일종으로 대화 형식으로 원하는 답을 받아볼 수 있는데, 그 기반은 LLM이라는 AI 모델에 있다. AI 모델은 데이터를 학습해 텍스트로 답변하거나 이미지 생성, 고도화된 검색 등의 서비스에 활용된다. 이러한 모델을 만들고 학습시키는 과정에서 컴퓨팅 자원이 필요한데, 엔비디아의 반도체인 H100, A100가 대표적이다. 컴퓨팅 자원에 따라 LLM의 성능이라고 말할 수 있는 파라미터 수가 달라진다. 기업들은 최소 수십개에서 수천개의 단위의 칩을 활용한다. 사실상 데이터 센터를 운영하는 셈이다. 이에 따라 엄청난 비용이 발생한다. 그래서 LLM을 만들고 이를 활용할 수 있는 기업은 그리 많지 않은 편이다. 다만 LLM 개발과 서비스하는 것은 별개의 문제다. 당장 챗GPT를 개발한 오픈AI도 LLM인 GPT를 API로 제공해 다양한 서비스로 제작할 수 있도록 지원하면서 자사 LLM 기반의 생태계 확대와 수익을 만든다. API는 클라우드를 통해 서비스를 제작하고 운영된다. 미국 블룸버그 산하 연구기관인 블룸버그 인텔리전스에 따르면 글로벌 생성형 AI 시장 규모는 2023년 400억달러(54조원)에서 2033년에는 1조3000억달러(1754조원) 규모로 연평균 42% 성장할 것으로 전망됐다. 여기서 눈여겨볼 부분은 대다수 빅테크 기업이 클라우드 서비스를 제공하는 업체라는 점이다. 극히 일부 기업을 제외하면 자사 LLM 개발과 기업용 시장 공략은 클라우드 점유율 떼려야 뗄 수 없는 관계이다. 이와 관련 금득규 유한대학교 인공지능융합학과 교수는 “최근 생성형 AI 분야에서 기업용 LLM이 주목받는 이유로는 챗GPT 이후 대중의 이목을 끌만한 킬러 앱이 없기 때문”이라며 “새로운 서비스로 비즈니스 가치를 창출하기 이전에 안정적인 수익원으로 기업용 시장에 눈을 돌린 것”이라고 했다. 아울러 “클라우드 시장에서도 새로운 성장 동력으로 기업용 LLM을 눈여겨보고 있다”고 말했다. 김재은 솔트룩스 AI실랩장은 “자금력이 풍부한 글로벌 빅테크 기업과 달리 국내 기업들은 수익 창출에 적극적인 움직임을 보인다”는 의견을 나타냈다. 업계 선두 주자인 마이크로소프트(MS)와 오픈AI 연합은 Microsoft Azure를 통해 LLM을 제공한다. 아마존웹서비스(AWS)는 타이탄이라는 LLM을 베드록이라는 클라우드 서비스에 접목했고 구글도 자사의 팜2 기반의 서비스 강화를 진행했다. 국내에서도 네이버가 지난 8월 발표한 LLM인 하이퍼클로바X를 기반으로 클라우드와 기업용 서비스 출시를 예고했다.

▲ 네이버의 AI 풀스택 서비스 [이미지=네이버] 엔터프라이즈 LLM 시장이 열리면서 개발사들은 모델의 고도화와 함께 경량화와 파인튜닝(Fine-tuning, 특화된 미세 조정), 보안 지원 등으로 기업 고객에게 자사 서비스를 강조했다. 김 랩장은 “국내 LLM의 경우, 한글 특화 데이터 학습과 동시에 SI(시스템통합) 노하우를 강점”이라며 “솔트룩스는 어플라이언스(기업용 소프트웨어를 서버와 스토리지로 통합한 장비)까지 개발해 기업의 LLM 도입을 지원한다”고 말했다. 기업 고객의 경우, 범용적으로 활용되는 생성형 AI보다 전문적인 기능과 함께 보안을 강조한 서버 구축이 중요한 요소로 자리매김했다. 특히, 국내 기업은 사내 구축형 서버인 온프레미스 선호도가 압도적으로 높은 것으로 알려졌다. 손현곤 두유비 대표는 “기업용 LLM 도입을 망설이는 기업들의 주된 이유는 보안으로 기업 내부에서 운영할 수 있는 작은 크기의 LLM을 선호할 것”이라며 “이와 함께 할루시네이션(환각 효과)문제를 줄이고 데이터의 순도를 높힐 수 있는 RAG(검색 증강 생성)기술이 주목받고 있다”고 말했다. 아울러 손 대표는 “내부에 온프레미스 LLM을 구축하기 어려운 중소기업들은 보안성이 우수한 클라우드 도입을 고려할 것으로 보이지만, 고객센터 구축 사례를 보면 클라우드 서비스로의 전환은 아주 천천히 진행될 것으로 생각한다”고 덧붙였다. 비용과 보안 문제 이슈로 LLM의 경량화는 필연적이라는 의견이다. 최근 루시아를 선보인 솔트룩스나 라마2 업데이트를 발표한 메타도 70억부터 1000억개의 파라미터(매개변수)로 크기를 나눴다. 이에 대해 김 랩장은 “100억 파라미터만 되도 중소기업에서 도입이 힘든 만큼 경량·소형화된 LLM은 하나의 트랜드”라고 설명했다. 최근 생성형 AI 도입과 함께 클라우드 업계에서는 완전히 독립적인 접근 권한을 강조한 ‘프라이빗 클라우드’ 서비스를 다시 한번 강조하고 있다. 일반적인 컴퓨팅 인프라를 제공하면서 다양한 접근 방법과 소유권 구분을 제거한 ‘퍼블릭 클라우드’와 달리 보안성이 뛰어나고 사내구축 서버보다 비용적인 측면에서 유리한 방식이다. 이제 초기 시장 형성 단계에 들어선 생성형 AI와 LLM 모델은 다양한 서비스와 더불어 하나의 생태계를 조성하고 있다. 기업형 LLM도 하나의 갈래로 보인다. 한 가지 확실한 부분은 AI의 시대 초입에서 가장 민감하게 움직일 기업들이 ‘AI 전환’을 서두르고 있으며 이러한 움직임으로 하나의 시장이 열렸다는 점이다. 일반적으로 B2B 시장의 확대는 이후 B2C 시장에도 큰 영향을 미쳤다. 기업용 LLM 시장의 고도화와 더불어 생성형 AI의 혜택을 누릴 수 있는 챗GPT 너머의 서비스 등장을 기대한다.

조회수 38회댓글 0개

Comentarios


bottom of page