인공지능·클라우드 네이티브 전문기업 에이프리카가 오는 10일부터 11일까지 이틀간 코엑스에서 열리는 AI Summit Seoul 2024에 참가해 Private LLM기반 RAG와 LLMOps 솔루션을 선보일 예정이라고 밝혔다.
AI Summit Seoul 2024는 글로벌 기업과 기관, 학계 전문가들이 한자리에 모여 AI와 산업 트렌드에 대한 최신 정보를 공유하는 자리다. 올해로 7회째를 맞이한 이 행사는 국내 최대 규모의 AI 컨퍼런스로로 자리 잡고 있다. 이번 컨퍼런스에는 에이프리카를 비롯하여 구글, DeepL, 코오롱베니트 등 국내외 대표 AI 관련 기업들이 참여해 AI를 활용한 비즈니스 혁신 사례를 공유할 예정이다.
에이프리카는 이번 컨퍼런스에서 전시 부스 운영과 세션 발표를 통해 AI 통합 플랫폼 ‘치타’와 ‘가젤 RAG’를 선보인다. 치타는 기업 맞춤형 LLM 도입을 지원하는 LLMOps 기능이 강화된 플랫폼으로, 경찰청, 현대글로비스, GIST 등 다양한 고객 사례를 통해 검증된 솔루션이다. 전시 부스에서는 LLM 개발과 운용에 필요한 데이터 전처리, 파인튜닝, 추론 모니터링 등 LLM 파이프라인 전 과정을 관리할 수 있는 기능들이 소개될 예정이다. 이와 함께 선보이는 가젤 RAG는 기업 내 데이터를 기반으로 효율적인 데이터 검색과 질의 응답을 지원하는 프라이빗 LLM 솔루션이다. 타사 솔루션 대비 최대 95%에 이르는 높은 검색 정확도를 확보했으며, 폐쇄망 환경에서도 안정적인 운용이 가능해 보안 요구사항이 높은 기업에도 적합한 솔루션으로 평가받고 있다.
에이프리카 인공지능연구소의 주철휘 소장은 ‘기업 폐쇄망에서의 Private LLM 기반 Agentic RAG 구축’을 주제로 발표를 진행한다. 이번 발표에서는 폐쇄망 환경에서 Agentic RAG를 활용해 데이터 보안을 유지하며, 유사도 검색과 벡터 DB를 기반으로 한 효율적인 Private LLM 모델 구축 방안을 제시한다. 특히, 기존 RAG 기술의 한계를 극복하기 위해 에이프리카가 제안하는 혁신적인 접근 방식과 Agentic 워크플로우를 활용해 복잡한 질의를 처리하고 데이터 활용을 고도화한 사례가 중점적으로 다뤄질 예정이다.
에이프리카 강선근 대표는, “이번 AI Summit Seoul 2024를 통해 선보이는 LLMOps 플랫폼 치타와 높은 검색 정확도를 보유한 프라이빗 LLM 솔루션 가젤 RAG는 기업들이 폐쇄망 환경에서도 안정적이고 효율적으로 AI를 도입할 수 있는 최적의 솔루션”이라며, “앞으로도 고객의 요구에 맞춘 혁신적인 AI 솔루션 개발을 통해 다양한 산업 분야에서 디지털 전환을 지원하겠다”고 밝혔다.
- 관련 기사 더 보기
You must be logged in to post a comment.