본문 바로가기
AI이야기

SQL 생성 프롬프트의 한계? TAG로 극복하는 LLM의 진화

by logbe1 2024. 11. 6.

LLM이 점점 더 똑똑해지고 있지만, 아직까지 풀어야 할 숙제들이 좀 있어요. 특히, 데이터베이스에 없는 정보를 물어보거나 좀 복잡한 추론이 필요한 질문에는 답변을 잘 못하는 경우가 많죠.

 

예전에는 LLM이 사용자 질문에 답변할 때 주로 텍스트-SQL 방식이나 RAG(Retrieval Augmented Generation) 방식을 사용했어요. 텍스트-SQL 방식은 사용자의 질문을 SQL 쿼리로 바꿔서 데이터베이스에서 답을 찾는 거고, RAG 방식은 다른 데이터베이스에서 데이터를 뒤져서 답변을 만드는 거였죠.

 

근데, 텍스트-SQL 방식은 관계 연산으로만 표현할 수 있는 질문에만 답할 수 있다는 한계가 있었고, RAG 방식은 몇몇 데이터만 가지고 답변을 만들다 보니 정확성이 좀 떨어지는 문제가 있었어요.

 

그런데 최근에 UC 버클리와 스탠포드 대학교 연구진이 이런 문제들을 해결할 수 있는 새로운 기술, 바로 테이블 증강 생성(TAG) 방식을 내놓았어요! 이게 뭐냐면, LLM을 데이터베이스에 직접 연결해서 데이터베이스의 계산 능력과 LLM의 추론 능력을 합쳐버리는 거예요. 덕분에 훨씬 더 복잡한 질문에도 답변할 수 있게 되었죠.

 


테이블 증강 생성(TAG): LLM과 데이터베이스의 만남

**테이블 증강 생성(TAG)**은 LLM이 데이터베이스와 찰떡궁합을 이루는 기술이라고 생각하면 돼요. 텍스트-SQL이나 RAG 방식처럼 단순하게 검색하거나 관계 연산만 하는 게 아니라, 좀 더 복잡한 쿼리에도 대응할 수 있도록 설계되었거든요.

 

TAG는 크게 세 단계로 나눠져 있어요.

 

  • 쿼리 합성: 사용자 질문을 데이터베이스에서 실행할 수 있는 쿼리로 바꿔요.
  • 쿼리 실행: 만들어진 쿼리를 실행해서 관련 데이터를 찾아요.
  • 답변 생성: 찾은 데이터와 쿼리를 사용해서 사람이 이해하기 쉬운 답변을 만들어내요.

TAG의 핵심: 답변 생성과 쿼리 합성의 찰떡궁합 & 쿼리 실행의 효율성

TAG는 단순히 세 단계를 나열한 게 아니라, 답변 생성과 쿼리 합성을 긴밀하게 연결해서 LLM의 추론 능력을 높이는 데 집중했어요. 그리고 RAG 방식의 단점인 비효율성을 해결하기 위해 쿼리를 실행할 때 집계, 수학 계산, 필터링 같은 여러 계산 작업을 수행하죠.

 

이렇게 하니까 의미를 파악하는 능력, 세상에 대한 지식, 그리고 특정 분야에 대한 지식까지 필요한 복잡한 질문에도 척척 답변할 수 있게 된 거예요.

 


TAG의 활용 예시: 고전 로맨스 영화의 리뷰 요약


"고전으로 간주되는 로맨스 영화 중에 가장 높은 수익을 올린 영화의 리뷰를 요약해 줘" 라는 질문을 예로 들어볼게요.

 

이전 방식으로는 데이터베이스에서 가장 높은 수익을 올린 로맨스 영화를 찾는 것 외에도, "고전"이라는 개념을 이해하고 판단해야 했기 때문에 답변하기가 쉽지 않았어요.

 

하지만 TAG는 세 단계를 거쳐 답변을 만들어낼 수 있어요.

 

  • 관련 영화 데이터를 찾는 쿼리를 만들어요.
  • 필터와 LLM을 사용해서 가장 높은 수익을 올린 영화에 대한 테이블을 만들어요.
  • 테이블에서 가장 순위가 높은 영화의 리뷰를 요약해서 답변을 만들어줘요.

TAG: LLM의 미래를 밝히다

TAG는 LLM의 한계를 극복하고 데이터베이스와의 협업을 통해 더욱 정확하고 풍부한 답변을 제공할 수 있는 획기적인 기술이에요. 앞으로 TAG가 더 발전하고 여러 분야에 활용된다면 LLM이 더욱 유용하고 강력한 도구가 될 수 있을 거예요.

 

TAG와 관련된 궁금한 점이 있으신가요?

 

자주 묻는 질문 (FAQ)

 

Q1. TAG는 어떤 점에서 기존 방식보다 뛰어난가요?

 

A1. TAG는 기존의 텍스트-SQL 방식이나 RAG 방식과 달리 LLM과 데이터베이스를 직접 연결하여 복잡한 쿼리에도 효과적으로 대응할 수 있습니다. 또한, 답변 생성과 쿼리 합성을 통합하여 LLM의 추론 능력을 향상시키고, 쿼리 실행 과정에서 다양한 계산 작업을 수행하여 정확성을 높였습니다.

 

Q2. TAG는 어떤 분야에 활용될 수 있나요?

 

A2. TAG는 다양한 분야에서 활용될 수 있습니다. 예를 들어, 고객 서비스, 금융, 의료, 교육 등의 분야에서 복잡한 질문에 대한 답변을 제공하거나, 데이터 분석, 예측, 의사 결정 지원 등에 활용될 수 있습니다.

 

Q3. TAG 기술의 미래는 어떻게 전망되나요?

 

A3. TAG는 아직 초기 단계에 있지만, 앞으로 더욱 발전하고 다양한 분야에 적용될 것으로 예상됩니다. LLM이 더욱 발전하고 데이터베이스 기술과의 융합이 가속화되면서 TAG는 더욱 강력하고 유용한 기술이 될 것으로 기대됩니다.

 

이 포스팅이 도움이 되셨다면 좋아요와 댓글 부탁드려요!

다음에도 유익한 정보로 찾아올게요!

 

LLM, 대규모언어모델, TAG, 테이블증강생성, 데이터베이스, SQL, RAG, 자연어처리, AI, 인공지능, 딥러닝, 머신러닝, 데이터과학, 챗봇, 챗GPT, 구글, 마이크로소프트, 아마존, 메타, 기술, 혁신, 정보검색, 추론, 데이터분석, 데이터베이스연동, 효율성, 정확성, 미래기술, 기술트렌드, IT, 컴퓨터과학, 프로그래밍