포티투마루, 검색 증강 생성 기술 적용 ‘RAG42’ 공식 출시

앤서링 AI(Answering AI) 스타트업 포티투마루(42Maru)가 9월25일부터 27일까지 3일간 삼성동 코엑스에서 진행되는 대한민국 디지털 미래혁신대전 2023에서 검색 증강 생성 기술이 적용된 RAG42를 공식 출시한다.

검색 증강 생성 기술인 RAG(Retrieval-Augmented Generation)는 방대한 양의 대규모 원천 데이터로부터 초거대 인공지능이 필요로 하는 특정 정보나 지식만 정확하게 검색(Retrieval)해 내는 기술로서, RAG를 활용하면 초거대 언어 모델은 해당 정보를 기반으로 정확한 답변이나 문장을 생성할 수 있게 된다.

생성형 AI(Generative AI)의 최대 단점으로 지적되는 환각(hallucination) 현상은 잘못된 정보를 마치 사실인 양 그럴싸하게 대답하는 현상으로, 특히 기업 내 의사 결정 과정에서 잘못 활용하게 되면 치명적인 결과를 초래할 수도 있다. 포티투마루의 RAG42는 초거대 언어 모델 활용의 핵심이 되는 스마트 Embedding, 딥러닝 기반의 Retrieval, 인스트럭트 튜닝을 통한 Prompt Engineering 등의 자체 보유 기술로 환각 현상을 제거하여, 답변의 신뢰성을 확보하고 높은 품질과 성능을 보장한다.

ChatGPT, Bard(PaLM), Llama, 하이퍼클로바 X, 엑사원 등의 대규모 LLM(Large Language Model)부터 각 기업이나 연구서에서 자체 개발하고 있는 소규모 sLLM(small LLM)까지, 어떠한 모델의 초거대 인공지능을 사용하더라도 RAG42를 활용한 환각 해소와 품질 고도화가 가능하다.

포티투마루 김동환 대표는 “아무리 훌륭한 레시피가 있어도 재료가 신선하지 않으면 한계가 있다. 원천 데이터에서 최적의 정보를 발굴하고 정제하여 훌륭한 LLM 모델을 만들 수 있도록 도와주는 것이 RAG42의 역할이다”며 “이미 10여곳이 넘는 기업 및 기관과 PoC를 진행하며 20% 이상의 환각 해소와 품질 향상을 견인하고 있다”라고 말했다.

• 관련 기사 더보기