LendingTree 대출 비서

요약

• LendingTree는 세 에이전트와 거대언어모델을 연계한 대출 비서를 구축했습니다.
• 상담의 97% 이상을 사람 없이 마쳤고 최근 대화의 절반 이상이 금리 비교와 사전 심사로 향했습니다.
• 계획과 실행을 나누고 상태를 보존해야 복잡한 업무를 믿고 맡길 수 있습니다.

평생 가장 큰 빚을 지는 순간에 필요한 조언

내 집을 마련하기 위해 주택담보대출을 알아보는 일은 평범한 소비자가 일생 동안 내리는 재무 결정 가운데 가장 규모가 큽니다. 주택을 새로 구입하는 대출인지 기존 대출을 갈아타는 재융자인지부터 결정해야 합니다. 일반 대출을 받을지, 미국 연방주택청 보증 대출(FHA)이나 재향군인 대출(VA) 같은 정부 지원 프로그램을 활용할지도 선택해야 합니다. 대출 만기를 15년으로 할지 30년으로 할지, 금리를 고정형으로 묶을지 변동형으로 둘지도 따져보아야 합니다.

여기에 소득 대비 부채 비율(DTI)이나 담보 인정 비율, 금리를 낮추기 위해 미리 지불하는 할인 포인트, 대출 실행 수수료 같은 생소한 금융 용어가 쏟아집니다. 주택담보대출을 처음 탐색하는 대다수 소비자는 이 복잡한 정보 앞에서 극심한 피로를 느낍니다.

25년 넘게 소비자와 대출 기관을 이어 주는 금융 마켓플레이스를 운영해 온 LendingTree는 이 문제를 단순한 질의응답 챗봇으로는 풀 수 없다고 판단했습니다. 소비자의 상황은 저마다 다른데 정적인 서식이나 단일 챗봇은 다각도의 맥락을 파악하지 못하기 때문입니다. 신용 점수가 650점인 참전용사가 30일 안에 Colorado Springs에서 집을 사려고 할 때 필요한 해법은 고정된 안내문 안에 들어 있지 않습니다.

엄격한 금융 규제 환경도 큰 걸림돌이었습니다. 대출 상담 시스템은 개인정보를 철저히 가려야 하고, 모델이 어떤 근거로 해당 답변을 내놓았는지 나중에 감사할 수 있는 경로를 남겨야 합니다. 단일 에이전트에 지식 설명과 내부 대출 시스템 조회를 한꺼번에 몰아넣으면 프롬프트가 지나치게 길어져 엉뚱한 도구를 호출하는 오류가 자주 일어납니다. 대화가 잘못 흘러갔을 때 어느 단계에서 실수가 발생했는지 사후에 추적하기도 불가능합니다.

이 기술적인 도전 과제를 해결한 과정은 AWS 머신러닝 블로그에 실린 기술 사례 글에 상세히 소개되었습니다. LendingTree는 단일 모델의 한계를 넘어 계획과 실행을 엄격하게 분리하는 세 개의 에이전트 아키텍처를 세웠습니다.

세 에이전트가 오케스트라처럼 협력하는 구조

LendingTree가 선택한 해법은 지휘자 역할을 하는 슈퍼바이저 에이전트 하나와 실무를 맡는 두 개의 워커 에이전트로 역할을 나누는 방식이었습니다. 세 에이전트는 모델 컨텍스트 프로토콜(MCP)이라는 표준 규약으로 통신합니다.

지휘자인 슈퍼바이저 에이전트는 프레임워크인 LangGraph를 활용한 상태 기계로 설계되었습니다. 상태 기계는 정해진 규칙과 흐름에 따라 단계별로 상태를 전이시키는 소프트웨어 구조를 뜻합니다. 슈퍼바이저는 계획을 먼저 세우고 실행을 지시하는 패턴을 따릅니다. 의도 분석과 실행 계획 수립, 최종 답변 작성이라는 노드를 거치며, 어떤 워커 에이전트에게 일을 맡길지 엣지에서 결정합니다. 계획과 실행이 명확히 분리되어 있어 나중에 감사 로그를 통해 시스템의 판단 과정을 명확히 추적할 수 있습니다.

작업의 성격에 맞춰 파운데이션 모델도 다르게 배정했습니다. 복잡한 다단계 추론과 실행 계획 수립, 핵심 의도 분류에는 추론 능력이 뛰어난 Amazon Nova Pro를 배치했습니다. 반면 일상적인 대화 답변 작성이나 가벼운 분류 작업에는 Amazon Nova Lite를 연결했습니다. 성능이 꼭 필요한 두뇌 작업과 빠른 속도가 중요한 일상 작업을 나누어 비용 효율과 응답 품질을 동시에 챙겼습니다.

첫 번째 실무자인 교육 워커는 친절한 금융 선생님 역할을 맡습니다. 대출 유형의 차이나 자격 조건, 계약금 규정 같은 개념을 쉽게 풀어 줍니다. 이 에이전트는 관리형 검색 증강 생성(RAG) 서비스인 Amazon Bedrock Knowledge Bases를 기반으로 작동하며, 내부 벡터 저장소로는 Amazon OpenSearch Service를 활용합니다. 지식을 더 잘 찾아내기 위해 문서를 일정한 글자 수로 기계적으로 자르는 대신 의미 단위로 쪼개는 방식을 적용했습니다. 사용자가 짧게 단답형으로 대답하더라도 앞선 대화 맥락을 반영해 완전한 문장의 검색어로 다시 작성하는 기술도 더했습니다. 상품에 관한 구체적인 정보는 LendingTree의 내부 문서를 우선 참조하고, 일반적인 금융 교육 지식은 외부 표준 자료를 우선하도록 설계했습니다.

두 번째 실무자인 매칭 워커는 실제 대출 상품을 찾아 연결해 주는 행동가입니다. 대화 속에서 사용자의 희망 조건과 재무 윤곽이 모이면 LendingTree의 내부 대출 기관 검색 시스템, 실시간 금리 조회, 자격 요건 및 사전 심사(prequalification) 인터페이스를 직접 호출합니다. 이를 통해 사용자 조건에 꼭 맞는 맞춤형 대출 상품 비교 결과를 실시간으로 구성해 냅니다.

지연 없는 안전장치와 기억을 이어 주는 인프라

금융 상담에서는 보안과 안정성이 타협할 수 없는 조건입니다. LendingTree는 응답 속도를 떨어뜨리지 않으면서도 금융 정책을 빈틈없이 지키기 위해 이중 안전 파이프라인을 병렬로 가동했습니다.

한쪽에서는 Amazon Bedrock Guardrails가 개인 식별 정보를 가려내고 유해한 표현을 걸러 내며 악의적인 프롬프트 공격을 막아냅니다. 다른 한쪽에서는 거대언어모델 기반의 대화 정책 분류기가 회사의 대출 상담 기준을 지키고 있는지 검증합니다. 두 검사가 동시에 병렬로 진행되기 때문에 안전장치로 인한 추가 대기 시간이 거의 발생하지 않습니다. 허용 한도를 벗어나는 까다로운 상황이 발생하면 정해진 운영 규칙에 따라 상담 대기열로 대화를 즉시 넘깁니다.

세 에이전트 협동 구조도

사용자가 며칠 뒤에 다시 찾아오거나 시스템 점검으로 서버가 재부팅되더라도 이전 대화 흐름이 끊기면 안 됩니다. LendingTree는 Amazon RDS의 PostgreSQL 데이터베이스를 지속성 체크포인터로 활용했습니다. 대화 상태와 세션 기억이 데이터베이스에 안전하게 기록되기 때문에 대화 턴이 바뀌거나 에이전트 간에 바통을 넘길 때도 문맥이 그대로 보존됩니다.

슈퍼바이저와 워커 에이전트 사이의 통신에는 연결 풀링 기술을 적용해 매번 연결을 새로 맺는 데서 오는 지연을 줄였습니다. 모든 서비스는 Amazon ECS와 AWS Fargate 환경에서 컨테이너로 격리되어 독립적으로 동작합니다. 교육 워커의 지식을 개편하거나 매칭 워커의 연동 방식을 수정할 때 전체 시스템을 멈출 필요 없이 GitLab CI/CD 파이프라인과 Terraform을 통해 개별적으로 배포하거나 이전 상태로 되돌릴 수 있습니다.

실제 시스템 내부에서는 복합 질문이 들어왔을 때 더욱 정교한 분해가 일어났을 것입니다. 예컨대 사용자가 두 대출의 차이점과 자신에게 맞는 상품을 한 번에 물어보면, 슈퍼바이저가 모델을 호출해 사용자의 의도를 지식 설명 작업과 상품 추천 작업으로 쪼개는 구조화된 데이터를 만들었을 것입니다. 이후 비동기 방식으로 교육 워커와 매칭 워커에 동시에 요청을 보냈을 가능성이 높습니다. 교육 워커가 개념 차이를 설명하고 매칭 워커가 추가로 필요한 신용 점수를 묻는 응답을 돌려주면, 슈퍼바이저는 이를 자연스러운 하나의 답변으로 다듬어 사용자에게 전달했을 것입니다.

세 에이전트를 오가는 요청의 흐름은 지표와 로그를 모아 시스템을 감시하는 Amazon CloudWatch와 요청이 여러 서비스를 거치는 경로를 따라가며 기록하는 분산 추적 서비스인 AWS X-Ray로 추적했을 것입니다. 또한 분산 환경에서 장애를 방지하기 위해 사용자의 대화 턴과 에이전트의 사고 단계가 끝날 때마다 세션 식별자를 기준으로 데이터베이스에 상태 그래프를 저장했을 것입니다. 워커 컨테이너에 일시적인 지연이나 재시작이 발생하더라도 오케스트레이터가 마지막 저장 지점에서 상태를 복원해 안전하게 작업을 이어갔을 것입니다. 이때 AWS X-Ray의 추적 식별자를 브라우저 요청부터 내부 인터페이스 호출까지 일관되게 전달하여, 엔지니어링 팀이 세 컨테이너 사이의 지연 병목 지점을 대시보드에서 파악했을 것으로 보입니다.

97%의 상담 완결과 거래 의도로의 전환

2025년 말 상용 출시 이후 2026년 1분기까지 집계된 실제 운영 지표는 다중 에이전트 아키텍처의 효용을 수치로 증명했습니다.

이 기간 동안 시스템은 약 1,960건의 대화와 12,100건의 메시지를 처리했습니다. 대화 한 건당 평균 6.2개의 메시지가 오갔습니다. 가장 고무적인 지표는 상담 완결률이었습니다. 전체 대화의 97% 이상이 사람 상담원의 개입 없이 인공지능 비서 선에서 성공적으로 마무리되었습니다. 복잡한 금융 거래 상담이었음에도 사람 상담원을 직접 요청한 비율은 약 3%에 불과했습니다.

특히 시스템과 적극적으로 대화한 사용자층의 행동 패턴이 인상적이었습니다. 이들은 평균 9분 동안 10개 이상의 메시지를 주고받았습니다. 단순한 일회성 질문 검색에 그치지 않고, 인공지능 비서와 깊이 있는 재무 상담을 진행했음을 보여 줍니다.

대화의 성격도 점차 진화했습니다. 출시 초기에는 전체 대화의 75%가 대출 용어나 조건을 묻는 교육적 성격의 질문이었습니다. 그러나 시스템이 점차 안정화되면서 최근에는 대화의 50% 이상이 실제 금리를 비교하고 사전 심사를 신청하거나 대출 기관을 연결받는 거래 목적의 질문으로 채워졌습니다. 기초 개념을 이해한 소비자가 시스템을 신뢰하고 실제 금융 의사결정 단계로 나아간 셈입니다.

대화 성격의 변화

복잡한 비즈니스 에이전트를 준비하는 조직을 위한 교훈

LendingTree의 사례는 단일 챗봇의 한계를 절감하고 다중 에이전트 도입을 고민하는 기업에게 중요한 실무적 기준을 제시합니다.

첫째, 계획과 실행을 엄격히 분리해야 시스템을 믿고 맡길 수 있습니다. 상태 기계를 통해 의사결정의 경로를 명확히 규정해 두면 대화가 빗나갔을 때 어느 단계에서 문제가 발생했는지 즉각 파악하고 수정할 수 있습니다. 규제가 엄격한 산업일수록 설명 가능성과 감사 가능성이 필수적입니다.

둘째, 검색 증강 생성(RAG)의 성패는 검색 이전의 데이터 처리에 달려 있습니다. 문서를 문맥이 유지되는 의미 단위로 자르고, 사용자의 짧은 단답을 이전 문맥을 반영한 검색어로 다시 풀어내는 전처리 과정이 뒷받침되어야 정확한 정보를 가져올 수 있습니다.

셋째, 모든 작업에 가장 무거운 모델을 쓸 필요는 없습니다. 높은 추론 능력이 필요한 작업과 일상적인 대화 작성을 구분하여 적절한 모델로 작업을 분배하는 것이 엔터프라이즈 환경에서 운영 비용을 통제하는 핵심 방법입니다.

LendingTree는 이번 경험을 발판 삼아 단발성 에이전트를 그때그때 만드는 방식을 벗어나고 있습니다. 공통 맥락 계층과 표준 프로토콜 규약, 공유 구성요소 목록을 사내 표준으로 정립하는 단계로 나아가는 중입니다. 나아가 직접 컨테이너를 관리하고 데이터베이스 체크포인터를 배선하는 운영 부담을 덜기 위해, 완전 관리형 런타임인 Amazon Bedrock AgentCore로 인프라를 이전하는 방안도 검토하고 있습니다.

복잡한 규칙과 방대한 데이터가 얽힌 분야일수록 하나의 만능 모델에 의존하기보다, 역할을 명확히 나눈 에이전트들이 공통의 규칙 속에서 협력하도록 만드는 설계가 현실적인 AX의 출발점입니다.

---

출처

AWS Machine Learning Blog — How LendingTree built a multi-agent mortgage assistant on Amazon Bedrock — https://aws.amazon.com/blogs/machine-learning/how-lendingtree-built-a-multi-agent-mortgage-assistant-on-amazon-bedrock/ — 2026-08-05