AI 인사이트

AI 인사이트

[논문 리뷰] 자가 수정형 RAG인 'CRAG' 이해하기

LLM의 환각 현상을 해결하기 위해 RAG(검색 증강 생성) 기술을 많이 활용하고 있는데요, RAG도 완벽하지 않는 약점이 있습니다. 엉뚱한 정보를 검색해서 가져오면 답변도 엉망이 된다는 점이죠. 오늘은 RAG의 이러한 문제를 해결하기 위해 제안된 CRAG (Corrective RAG)를 소개하는 논문을 리뷰해보겠습니다 😄. (저희 나두에이아이에서는 CRAG를 구현하여 빌더에 임베드시켜놨는데요, 언제든지 데모를 요청하셔 보세요)

AI 인사이트

AI 에이전트 vs. 워크플로우 자동화

요즘 AI 에이전트 기술이 발전하면서 크게 주목받고 있습니다. 에이전트라는 용어 때문인지 AI가 사람을 대신해서 뭔가 자동적으로 일을 처리해주는 뉘앙스가 있죠. 그래서 때문인지 많은 분들이 워크플로우 자동화 개념과 헷갈려 하십니다. 이번 포스트에서는 이 둘의 차이점에 대해 설명해드릴게요! 워크플로우 자동화 워크플로우는 정해진 규칙대로 반복적인 일을 자동으로 처리합니다. 사람이 ‘이럴 때 이렇게 해라’

AI 인사이트

실수를 스스로 학습하는 AI

지난 포스트에서 AI가 과거 경험을 기억하게 하는 기술에 대해서 배워보았는데요, 이번에는 좀 더 깊은 연구를 구글에서 발표했습니다. 과거 경험을 재사용하여 새로운 추론 전략을 세우고 스스로 진화하는 AI 에이전트에 대한 것인데요, 알아보실까요? 기존 LLM 에이전트의 문제: '건망증' 현재의 대규모 언어 모델(LLM) 기반 에이전트들은 방대한 컨텍스트 창(Context Window)

AI 인사이트

AI가 과거 경험을 기억한다면?

AI는 지금까지 방대한 데이터를 학습하며 발전해 왔지만 인간처럼 경험을 기억하고 재활용하는 능력이 없어, 학습에 한계가 있습니다. 구글 딥마인드에서 새로 발표한 논문에서는 AI에게 경험을 기억하는 방법을 제안하고 있는데요, 이에 대해 알아봅시다. 기존의 LLM은 교과서를 통째로 외우는 매개변수 학습(Parametric Learning)을 통해 지식을 습득해 왔습니다. 방대한 데이터의 패턴과 규칙을 내재화하는 방식이죠.

AI 인사이트

파인튜닝(Fine-tuning): AI 모델을 내 환경에 맞추는 기술

파인튜닝이란? 파인튜닝은 이미 학습된 대형 AI 모델(예: GPT, BERT, GEMINI, LLAMA 등)에 추가 학습을 시켜 특정 목적과 데이터에 최적화하는 것을 의미합니다. 쉽게 말해 공개된 대형AI모델에 우리 회사 또는 우리 도메인 특성에 맞게 커스터마이징하는 작업이에요. 기업이 처음부터 모델을 개발하는 대신, 범용 모델에 자사 데이터와 규칙을 입혀 짧은 시간과 적은

AI 인사이트

AI SQL 생성, 왜 아직도 어려운가?

AI가 자연어로 질문을 이해하는 능력은 눈부시게 발전했지만, 이를 정확하고 실행 가능한 SQL 쿼리로 변환하는 것은 여전히 까다로운 문제입니다. 특히 여러 테이블을 복잡하게 연결하고, 중첩된 논리를 포함하는 질문의 경우, AI가 정확한 쿼리를 만드는 것은 기술적 도전이죠.기존의 대부분의 접근법은 '질문-SQL ' 데이터를 기반으로 AI를 학습시킵니다. 하지만 이러한 방식은 AI가 쿼리를

AI 인사이트

SQLFormer: 자연어 질의를 위한 Text-to-SQL 기술

지난 글에서는 BI(Business Intelligence)의 한계와 이를 보완하는 TAG(Table-Augmented Generation)의 개념에 대해 설명했습니다. TAG가 데이터 분석 과정을 체계적으로 관리하는 통합 시스템이라면, 그 첫 단계인 자연어 질의 처리에서 주요 역할을 하는 기술이 바로 SQLFormer입니다. 이 기술은 자연어 질문을 데이터베이스가 이해하는 SQL 쿼리로 변환하는 Text-to-SQL 모델의 한 종류인데요, 기존의

AI 인사이트

우리 AI가 자꾸 한자를 써요... 왜 그럴까? (feat. vLLM 해결법)

안녕하세요! 나두에이아이 입니다. 👋 요즘 보안이 중요이 커져 폐쇄형 GPT형태로 AI를 구축하는 경우가 많죠? AI와 신나게 대화하고 있는데, 갑자기 얘가 "你好"나 "谢谢" 같은 중국어를 불쑥 내뱉어서 당황한 적 있으신가요? 😱 특히 성능 좋은 Qwen, Deepseek등 중국 AI 모델을 기반으로 우리만의 서비스를 만들 때 종종 일어나는 일인데요. 오늘은

나두에이아이

AI 덕분에 일은 빨라졌는데… 감사팀에서 연락이 왔다고?

한 외국계 글로벌 기업에 근무하는 지인이 내부 문서 해석을 위해 ChatGPT를 이용했는데, 감사팀으로부터 연락이 왔다고 해요. 업로드한 문서 내용이 '기밀 정보 유출'에 해당할 수 있다며, 소명서를 제출하라는 연락이었습니다. 🚨 사실 이런 일은 곳곳에서 일어나고 있어요 대표님이 모르게 수많은 내부 문서, 매뉴얼, 계약서 등이 오늘도 ChatGPT, Claude, Copilot 등에

나두에이아이

CS팀을 위한 AI 에이전트 활용법

우리 회사의 방대한 매뉴얼, AI로 어떻게 대응하지? 고객지원팀은 종종 이렇게 말합니다. “답은 있는데, 찾기가 너무 어렵다.” 특히 보험업계처럼 약관, 상품군, 예외 조건이 복잡한 산업에서는 정보 접근성 문제가 고객 경험 전반을 좌우합니다. 수십 페이지에 달하는 내부 문서와 매뉴얼을 매번 찾고, 확인하고, 설명해야 하죠. 이것도 잘 몰라서 담당자에게 토스하고, 그 과정에서 고객은

AI 인사이트

🕵️‍♂️ 정보 검색의 명탐정, Reranker!

궁금한 것을 인터넷에서 검색할 때, 가장 위에 나오는 결과가 진짜 제일 정확한 답인 경우가 많죠? 이건 마치 명탐정이 범인을 찾아내듯, 검색 시스템이 수많은 정보 중에서 가장 적절한 정보를 찾아주는 과정이에요. 그런데 가끔은 검색 결과가 영 시원찮을 때도 있죠? 예를 들어 "맛있는 라면 레시피"라고 검색했는데, 라면 회사의 광고만