“생성형 AI를 비즈니스에 어떻게 접목할 것인가."

전세계적으로 생성형 AI가 산업 전반에 걸쳐 보편화되고 있는 가운데, 기업들마다 이를 자사의 시스템과 마케팅에 접목하는 전략을 둘러싸고 치열한 경쟁을 펼치고 있다. 앞으로 생성형AI가 기업의 생존을 판가름할 것이라는 분석도 나온다.

전문가들은 무엇보다 조직 운영 방식을 어떻게 혁신할 수 있는지 이해하는 것이 중요하다고 지적한다.

최근 IT 전문가들이 벤처비트(VentureBeat)를 통해 생성형AI를 필요에 맞게 조정하는 방법, 실제 사용 사례를 소개해 기업들의 관심을 끌고 있다.

AI 전략은 오랫동안 최고정보관리책임자(CIO)의 고유 영역이었다. 그러나 생성형 AI가 등장하면서 모든 최고 경영진이 이 혁신적 기술에 대해 논의하고 있다.

계속 늘어나는 성공 사례들을 수용하거나 새로운 혁신 방법을 찾으려는 경영진의 노력으로 도입률이 급증하고 있는 상황이다. 또 생성형 AI 솔루션을 더 빠르고 쉽게 개발하고 출시할 수 있다.

프랑스의 다국적 IT 업체인 캡제미니(Capgemini)에서 AI 분석 및 데이터 과학 글로벌 오퍼부문 리더를 맡고 있는 마크 오스트는 "생성형 AI를 사용하면 데이터 접근 방식에서 모델 접근 방식으로 전환할 수 있다"며 "훨씬 적은 데이터를 필요로 하고, 신속한 엔지니어링과 모델 미세 조정을 통해 경영진에게 이러한 솔루션이 얼마나 강력한지 보여줄 수 있다”고 말했다.

이처럼 생성형 AI는 빠르게 산업 전반에서 진정한 경쟁 우위가 됐으며, 기업들은 이 기술을 자체 프로세스 및 제품에 빠르게 통합할 방법을 찾아야 할 것이라고 전문가들은 지적하고 있다.

시작부터 빠르고 쉬운 사용 사례

생성형 AI는 직무 설명, 웹사이트 및 제품 텍스트, CRM 시스템 정보 등과 같은 콘텐츠 생성이라는 영역에서 그 효과가 입증되고 있다. 실시간 생성 AI는 챗봇과 지식 검색 솔루션과 같은 실시간 상호 작용에서 가장 큰 주목을 받고 있다.

리더 오스트는 "이러한 사용 사례의 기반이 되는 아키텍처는 특히 조직 전체에서 가져올 소스 자료가 많은 경우 쉽게 구현할 수 있다"며 "최종 사용자는 채팅과 검색의 조합이 매우 효율적일 뿐만 아니라 자연스러운 대화를 나눌 수 있기 때문에 사용하기가 더 쉽다“고 설명했다.

이어 그는 ”생성형 AI는 기업의 기존 데이터로 실시간 개인화를 매우 쉽게 제공할 수 있다”고 덧붙였다.

예를 들어, 소비자가 온라인 쇼핑을 할 때 다양한 상황, 새로운 각도, 다양한 조명 조건 등으로 제품을 보여 달라고 요청하거나 즉석에서 동영상을 제작할 수도 있다는 것이 리더 오스트의 설명이다.

AI 세대의 보안과 책임

실시간 생성형 AI의 최대 난제는 채팅 봇이 혐오 발언이나 완전히 가상의 답변을 하지 못하도록 하는 등 상당한 보호 장치가 필요하다는 점이다.

이러한 위험의 상당 부분은 오픈 AI(OpenAI)와 같은 상용 대형언어모델(LLM)에서 특정 사용 사례나 산업을 위해 설계된 오픈 소스 모델로 전환함으로써 줄일 수 있다고 전문가들은 제시했다.

특히 금융 기관과 의료 기관은 개인식별정보(PII)에 대해 특히 엄격한 제한이 필요하다. 이는 책임감 있고 윤리적인 AI에 대한 전사적인 정책과 철저한 테스트 전략이 중요하다는 것이다.

리더 오스트는 "문제가 발생하면 모두가 데이터 과학자를 탓하지만, 모델이 출시되기 전에 항상 통제하고 분석하고 테스트하는 사람이 있어야 한다"며 "생성형 AI 결과물의 문제를 정확히 파악하기는 어렵기 때문에 실험 환경에서의 A/B 테스트가 핵심이 될 것“이라고 말했다.

미완의 과실을 넘어선 확장

기업이 성과가 미미한 단계에 도달하면 조직 전체로 확장하는 것이 문제가 될 것이라고 전문가들은 지적했다.

리더 오스트는 ”장벽의 대부분은 비용“이라며 ”더 이상 데이터 붐을 괴롭히는 것은 스토리지 비용이 아니라 거대한 모델의 컴퓨팅 비용“이라고 말했다.

그는 이어 "지금을 빅 모델 시대라고 부른다”며 “서비스형 API를 제공하는 하이퍼스케일러는 컴퓨팅 성능이 충분하지 않거나 확장 비용이 저렴하지 않아 자체 모델을 호스팅하려면 처음부터 컴퓨팅 비용에 큰 지출이 필요”하다고 덧붙였다.

기업들이 기성 모델을 사용하는 대신 자체 모델을 재교육하고 미세 조정하는 방식으로 전환함에 따라 이 문제는 계속 지속될 것이라는 게 전문가들의 입장이다.

그러나 이러한 상황이 발생하면 새로운 플레이어가 이 분야에 진입해 확장할 수 있을 만큼 강력한 클라우드 컴퓨팅 서비스와 작업을 완료할 수 있는 더 저렴한 사내 하드웨어를 제공할 것이다.

한편, 리더 오스트는 “생성형 AI가 제공하는 수익이 상당하기 때문에 컴퓨팅 투자는 가치가 있다”고 주장했다.

생성형 AI의 실제 투자자본수익률(ROI)

생성형 AI는 비용 절감에 있어 정량화할 수 있는 ROI는 없지만, 진정으로 빛을 발하는 부분은 생산성 향상과 고객 서비스 및 만족도라고 전문가들은 말하고 있다.

예전에는 정보를 찾기 위해 몇 시간씩 검색해야 했지만, 이제는 이전에는 불가능했던 방식으로 더 큰 전략적 질문에 답하는 데 필요한 문맥과 함께 손끝으로 정보를 얻을 수 있는 시대가 왔다.

또 최종 고객은 그 어느 때보다도 완벽하고 즉각적인 상호 작용을 기대하며, 이는 생성형 AI가 쉽게 제공할 수 있는 기능일 것이라고 전문가들은 주장했다.

리더 오스트는 "이것이 바로 실시간 생성형 AI 솔루션이 이전의 모든 솔루션과 차별화되는 점"이라며 "훨씬 더 유동적이고, 사용자가 원하는 방식으로 말하고, 거래를 매력적인 경험으로 만들어주며, 마찰 없이 즉각적인 만족을 제공하는 것이 가장 큰 장점"이라고 설명했다.

[위키리크스한국=유 진 기자]

yoojin@wikileaks-kr.org

유 진 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브