AX Field Notes

전체 사례No. 017

Carta, 현금 대사 11분을 수 초로 단축하다

회계사 순서도를 프롬프트로 변환해 매달 3,500시간 이상 절감

사례 번호
017
1차 출처
First Round Review
원문 게시
2025-07-22
팟캐스트 영상 · 26분
AX 필드노트 팟캐스트 · 두 진행자가 이 사례를 풀어 봅니다 · 영상과 음성은 AI로 만들었습니다전체 에피소드 ↗

요약

  • Carta는 회계 전문가의 순서도를 프롬프트로 변환하는 인공지능 에이전트를 구축했습니다.
  • 건당 11분이 걸리던 현금 대사를 수 초로 줄여 매달 3,500시간 이상을 아꼈습니다.
  • 모델 미세조정보다 실무자의 판단 규칙을 맥락으로 연결하는 파이프라인이 핵심입니다.

펀드 수가 늘어날수록 멈춰 서는 회계 장부

미국에서 벤처 투자를 유치한 스타트업 가운데 50% 이상이 Carta의 소프트웨어를 사용해 주주명부와 지분을 관리합니다. 널리 알려진 이 소프트웨어 구독 사업 뒤편에는 또 하나의 거대한 조직이 숨어 있습니다. 바로 펀드 회계와 세무 보고, 법적 규제 준수 업무를 대신 처리해 주는 펀드 어드민 부문입니다. 이곳에서는 약 600명의 전문 인력이 2,500개에 달하는 고객 펀드를 관리합니다.

펀드마다 돈을 다루는 기준은 제각각입니다. 펀드가 결성될 때 만들어지는 법적 계약서인 조합원 계약서(LPA)에는 투자 집행과 수수료 계산에 관한 고유한 규칙이 담겨 있습니다. 이 문서들은 시스템 외부에 정형화되지 않은 파일로 흩어져 있습니다. 담당자 한 명이 펀드 서너 개를 맡을 때는 계약서의 세부 내용을 기억하고 수작업으로 장부를 맞추는 일이 가능합니다. 하지만 한 사람이 10개, 20개, 많게는 40~50개의 펀드를 맡게 되면 일의 흐름은 급격히 막히기 시작합니다.

펀드 수 증가에 따른 업무 병목
010203040503~4개: 수작업10~50개: 병목담당 펀드 수
담당 펀드가 늘어나면 여러 시스템에서 맥락을 파악하느라 대부분의 시간을 쓰게 됩니다. 수작업 방식은 관리 펀드 수가 많아질수록 한계에 부딪힙니다. (출처: First Round Review)

숫자가 틀어지는 문제가 발생하면 정작 계산 자체보다 맥락을 확인하는 데 대부분의 시간이 사라집니다. 여러 내부 시스템을 넘나들며 과거 거래 기록을 뒤지고, 고객별 메모를 찾아 읽고, 외부 계약서를 대조해야 하기 때문입니다. 벤처캐피털 First Round의 인터뷰에서 Carta 경영진이 밝힌 일명 “동적 맥락 문제”가 일상적으로 벌어지던 현장이었습니다.

건당 11분씩 매달 2만 5천 번 반복되던 일

펀드 어드민 업무에서 가장 잦은 병목을 일으킨 작업은 현금 대사였습니다. 현금 대사는 은행 계좌에서 들어오고 나간 실제 입출금 내역을 Carta 내부의 총계정원장 데이터와 하나씩 대조하는 작업입니다. 두 기록 사이에 차이가 발견되면 원인을 파악해 불일치를 해소하고, 올바른 계정에 맞추어 거래를 장부에 적는 분개 작업을 완료해야 합니다.

이 작업은 매달 2만 건에서 2만 5천 건씩 쏟아졌습니다. 거래 한 건을 검토하고 장부에 기록하는 데 걸리는 시간은 평균 11분이었습니다. 한 건당 11분이라는 숫자는 길지 않아 보이지만, 매달 수만 건이 쌓이면 수천 시간의 수작업으로 불어납니다. 원인이 곧바로 드러나지 않는 거래가 나오면 펀드 어드민 팀과 엔지니어링 팀, 고객 지원 팀 사이에 메신저와 이메일이 수없이 오갔습니다.

Carta의 Vrushali Paunikar 최고제품책임자(CPO)는 이 문제의 본질을 맥락 수집의 병목으로 진단했습니다. 실무자가 전후 사정을 파악하지 못하면 지금 무슨 일이 일어났는지, 어떤 조치를 취해야 하는지 알아내는 데 지나치게 긴 시간을 쓸 수밖에 없습니다. 이는 고객 서비스의 지연과 품질 불균형으로 이어집니다.

Carta의 Jayant Tikmani 머신러닝(ML) 디렉터 역시 고객 경험을 해치는 실제 요인은 작업량 자체가 아니라 판단의 지연과 불일치라고 짚었습니다. 그가 제시한 인공지능 도입의 목표는 단순한 인건비 절감이 아니라 실무자의 판단력을 시스템 전반으로 넓혀 서비스 품질을 높이는 것이었습니다.

작은 진단 도구에서 출발해 CEO가 이끈 기동대

Carta는 처음부터 모든 회계 장부를 자동으로 맞추는 거대한 시스템을 설계하지 않았습니다. 기술의 가능성을 증명하기 위해 가장 먼저 만든 것은 내부 “펄스 체크 에이전트”였습니다.

펄스 체크 에이전트는 대차대조표와 손익계산서 사이의 숫자가 어긋날 때 이를 감지하는 시제품이었습니다. 두 재무제표 사이에 불일치가 발생하면 에이전트가 데이터 오류를 분석하고, 문제를 해결해야 할 담당 팀을 찾아 알림을 보내며, 다음에 취해야 할 구체적인 조치를 제안했습니다. 작은 범위에서 기술의 안정성을 확인한 팀은 곧바로 본게임인 현금 대사 업무로 영역을 넓혔습니다.

이 프로젝트를 빠르게 밀어붙이기 위해 Henry Ward 최고경영자(CEO)가 직접 팔을 걷어붙였습니다. 그는 현금 대사 에이전트 시제품 제작을 위해 스스로 제품 관리자(PM) 역할을 맡았습니다. CEO를 중심으로 Thomas Yook, Justin Lin, Titus Peterson이라는 세 명의 엔지니어와 솔루션 도메인 전문가인 Brady Fisher가 단일 팀으로 뭉쳤습니다. 다섯 명의 전담팀이 현금 대사 에이전트 시제품을 민첩하게 만들어 냈습니다.

전문가의 순서도를 프롬프트로 바꾸는 파이프라인

복잡한 회계 판단을 인공지능 모델에 맡기려면 보통 모델 파인튜닝, 즉 사내 데이터를 쏟아부어 모델 매개변수를 직접 미세조정하는 방식을 떠올리기 쉽습니다. 하지만 Carta는 파인튜닝을 과감히 배제했습니다. 대신 일반 상용 기초 모델(OpenAI)을 그대로 두고, 작업에 필요한 사내 지식을 실행 시점에 맥락으로 채워 넣는 인컨텍스트 러닝 방식을 선택했습니다.

Carta가 고안한 가장 독창적인 장치는 도메인 전문가의 머릿속 지식을 프롬프트로 옮겨 오는 방식이었습니다. 펀드 회계 전문가에게 프로그래밍 언어나 복잡한 프롬프트 작성법을 가르치는 대신, 일상적으로 사용하는 업무 시각화 도구인 Lucidchart를 건넸습니다.

회계 전문가들은 특정 조건에서 어떤 데이터를 확인하고 어떤 분개 처리를 해야 하는지, 판단의 흐름을 Lucidchart 순서도로 그렸습니다. 이것이 바로 의사결정 트리였습니다. Carta는 이렇게 그려진 순서도를 읽어 들여 기계가 이해할 수 있는 데이터 형식인 JSON으로 변환하는 자체 프롬프트 생성기를 개발했습니다. 변환된 JSON 구조는 실행 시점에 에이전트의 시스템 프롬프트 안으로 곧바로 주입되었습니다.

실제 시스템에서는 Lucidchart의 프로그래밍 인터페이스를 통해 순서도의 도형과 화살표 연결선, 텍스트 라벨을 추출해 냈을 것입니다. 예를 들어 은행 거래 적요란에 특정 수수료 항목이 포함되어 있는지 확인하는 조건문과, 조건을 만족했을 때 내부 장부 기록용 애플리케이션 프로그래밍 인터페이스(API)를 호출하는 동작 노드로 나누어 구조화된 데이터 규격으로 변환했을 가능성이 높습니다.

에이전트가 거래를 잘못 분류하거나 엉뚱한 판단을 내릴 때마다 개발자가 코드를 고치지 않았습니다. 팀은 회계 전문가들에게 “그 상황을 어떻게 처리했을지, 어떤 단계를 밟을지, 어떤 정보를 확인할지, 어떤 결정을 내릴지”를 집요하게 묻고 그 대답을 바탕으로 순서도를 수정했습니다. 회계사가 Lucidchart의 도형 하나를 고치면, 생성기가 이를 새 JSON으로 컴파일해 에이전트의 논리에 즉각 반영했습니다. 개발팀의 개입 없이도 현장 전문가가 인공지능의 두뇌를 직접 고쳐 쓰는 운영 파이프라인이 완성된 것입니다.

회계 순서도 기반 에이전트 루프
순서도 작성회계사의 의사결정 트리 도식화프롬프트 변환사내 생성기로 JSON 규격화현금 대사 수행은행 내역과 장부 대조 판단오판 검증 및 보완회계팀 확인 후 순서도 수정순서도 수정 및 피드백
회계 전문가가 순서도를 수정하면 에이전트의 판단 논리도 즉시 갱신됩니다. 오답이 발생하면 회계팀의 피드백을 반영해 순서도를 다시 다듬습니다. (출처: First Round Review)

추론 과정을 열어 보이고 틀린 단계만 다시 돌린다

에이전트의 화면을 구성할 때 Jayant Tikmani ML 디렉터는 처음에는 대화형 챗봇 화면에 회의적이었습니다. 하지만 빠른 가설 검증과 오류 수정에는 대화형 환경이 가장 알맞다는 점을 인정하고 이를 채택했습니다. 다만 단순한 문답 창에 머물지 않고 실행 과정을 투명하게 통제할 수 있는 장치들을 덧붙였습니다.

첫째는 추론 과정의 투명한 노출이었습니다. 에이전트가 사내 도구를 호출해 얻어낸 중간 데이터와 모델의 생각 과정을 화면에 단계별로 보여 주었습니다. 실무자는 화면을 보며 시스템이 완전히 틀린 데이터를 가져왔는지, 데이터는 맞는데 회계적 판단의 차이가 있었는지를 단번에 구별할 수 있었습니다.

둘째는 틀린 단계부터 다시 실행하는 기능이었습니다. 처음부터 끝까지 전체 과정을 다시 돌리면 시간이 낭비되고 불필요한 모델 사용 비용이 발생합니다. 에이전트가 다섯 번째 단계에서 분개 계정을 잘못 선택했다면, 사용자는 그 단계만 짚어서 수정 피드백을 주고 다섯 번째 단계부터 이어서 작업을 다시 실행할 수 있었습니다.

이 기능을 매끄럽게 구현하기 위해 시스템 내부에서는 은행 데이터 조회, 고객 메모 확인, 계정 매칭 같은 단계별 상태를 저장소에 기록해 두었을 것입니다. 문제가 생기면 이전 조회 결과는 그대로 재사용하고 판단이 틀렸던 지점부터 계산을 다시 시작하도록 설계했을 가능성이 높습니다.

셋째는 도구 호출의 자율성입니다. 사용자가 일일이 어떤 데이터베이스를 조회하고 어떤 API를 부를지 지정하게 만들면 자율적인 에이전트라는 목적이 퇴색됩니다. Carta는 에이전트가 스스로 판단해 도구를 호출하도록 권한을 넘겼습니다. 대신 OpenAI 모델과 고차원 벡터 데이터를 빠르게 검색해 주는 확장 기능인 pgvector, 사내 API와 데이터베이스를 유기적으로 연결해 에이전트에게 전달되는 맥락 데이터의 품질을 끌어올리는 데 집중했습니다.

11분이 수 초로 줄어들며 나타난 변화

현금 대사 에이전트가 현장에 배포되자 숫자로 입증되는 성과가 나타났습니다. 건당 평균 11분이 걸리던 현금 대사 검토 작업은 에이전트 도입 후 단 몇 초 수준으로 단축되었습니다.

매달 2만 건에서 2만 5천 건에 달하는 대사 작업을 처리하는 과정에서, Carta 내부 추산 기준으로 매달 3,500시간 이상의 수작업 시간이 절감되었습니다. 무엇보다 계좌 내역의 전후 맥락이 에이전트의 한 화면에 정리되어 나타나면서, 거래 원인을 찾기 위해 여러 부서를 오가던 메신저 대화와 업무 이관이 크게 줄었습니다.

현장 실무자들의 일하는 방식도 달라졌습니다. 실무자인 John Michael Clarito는 이 에이전트를 가리켜 단순한 업무 처리기를 넘어 곁에서 도움을 주는 “학습 동반자”이자 판단 보조 도구라고 평가했습니다.

그동안 사내 여러 시스템과 계약서 속에 파편화되어 있던 거래 맥락이 단일 화면에 요약되어 제시되기 때문에, 업무 경험이 적은 새 실무자라도 복잡한 펀드 회계의 맥락을 빠르게 이해할 수 있게 되었습니다. 에이전트가 조직의 기본 지식 수준을 단기간에 끌어올리는 교육 도구의 역할까지 해내기 시작한 것입니다.

전문가의 머릿속 지도를 밖으로 꺼내는 기술

Carta의 시도는 복잡한 규칙과 법적 규제가 얽힌 전문 영역에서 인공지능을 어떻게 적용해야 하는지 명확한 기준점을 제시합니다.

가장 중요한 교훈은 모델 파인튜닝이라는 기술적 환상에서 벗어나 맥락 전달 체계에 집중해야 한다는 점입니다. 복잡한 비즈니스 판단을 좌우하는 것은 모델 매개변수의 미세한 조정이 아닙니다. 판단을 내리는 바로 그 순간에 정확하고 구조화된 정보를 모델에 쥐어줄 수 있느냐가 승패를 가릅니다. 사내에 신뢰할 수 있는 원본 데이터와 이를 꺼내올 수 있는 API가 갖추어져 있다면, 상용 기초 모델과 인컨텍스트 러닝, 그리고 정교한 검색 파이프라인의 조합만으로도 실제 서비스 수준의 결과물을 낼 수 있습니다.

또한 현장 전문가가 직접 업무 논리를 수정할 수 있는 길을 열어주어야 합니다. 실무자에게 파이썬 코드나 프롬프트 엔지니어링을 강요하는 방식은 오래가지 못합니다. 전문가가 익숙하게 다루는 순서도 도구를 프로그래밍 환경으로 바꿔 주고 이를 시스템이 실시간으로 해석하게 만든 Carta의 방식은, 개발팀이라는 병목을 거치지 않고도 인공지능이 현장의 지식을 끊임없이 학습하게 만드는 현실적인 구조를 보여 줍니다.

물론 이 방식을 모든 업무에 그대로 적용할 수는 없습니다. 비즈니스 프로세스 안에 순서도로 도식화할 수 있는 규칙과 판단 기준이 미리 정리되어 있어야 합니다. 아울러 사내 데이터베이스와 내부 시스템을 안전하게 호출할 수 있는 모듈식 API 인프라가 선행되어야 합니다. 기술 자체의 화려함보다 중요한 것은 도메인 전문가의 머릿속에 있는 판단 지도를 기계의 언어로 매끄럽게 번역해 내는 맥락 파이프라인의 설계입니다.


출처

First Round Review — The Dynamic Context Problem: How Carta’s Internal AI Agents Save Thousands of Hours of Back-and-Forth Work — https://www.firstround.com/ai/carta — 2025-07-22