AI 데이터 합계가 항상 틀리는 이유는 부주의해서가 아니라 애초에 계산기가 아니기 때문이다. 대규모 언어 모델은 토큰 단위로 텍스트를 생성하며 다음 단어를 예측해 답을 만들어낼 뿐, 실제로 연산을 수행하지 않는다. 자릿수가 많은 덧셈, 뺄셈, 곱셈, 나눗셈에서는 올림이 쉽게 어긋나고, 표가 길어지면 행을 빠뜨리거나 같은 행을 두 번 읽거나, 기준이 다른 숫자를 섞어버릴 수 있다. 그래도 자신감 있는 어조로 맞지 않는 합계를 내놓는다. 해결책은 직접적이다. 암산을 시키지 말고 계산은 수식과 코드에 맡기며, 모델은 요구를 이해하고 절차를 정리하는 일만 하게 해야 한다.
구체적으로 어느 단계에서 틀어지는가
첫째는 연산 자체다. 자릿수와 중간 단계가 많을수록 텍스트 생성 과정에서 어느 한 자리가 어긋나기 쉽고, 계산기처럼 오류를 알려주지도 않는다. 둘째는 표를 읽는 단계로, 데이터가 너무 길면 중간에 잘려 뒷부분을 다 읽지 못한 채 합계가 빠져버린다. 셋째는 기준 불일치로, 어떤 행은 세금 포함, 어떤 행은 세금 제외, 어떤 행은 환불 차감 후, 어떤 행은 차감 전인데도 같은 종류로 더해버리는 경우다. 이 세 가지가 겹치면 오류가 그럴듯해 보여 한눈에 알아채기 어렵다.
검증 가능한 이 네 단계로 바꾸기
- 기준을 먼저 정한 뒤 시작하기: 포함할 행의 범위, 세금 포함 여부, 환불 차감 여부, 어떤 항목으로 묶을지 명확히 정하고 확인된 뒤에야 처리하게 한다.
- 수식이나 코드를 작성해 계산하게 하기: 표 수식, 표 함수 또는 짧은 스크립트를 내놓게 해 소프트웨어가 실제로 계산하게 하고, 합계를 직접 말하게 하지 않는다.
- 중간 소계를 단계별로 출력하게 하기: 월별, 항목별, 그룹별 소계를 내고 그 소계를 더하게 하면 맞지 않는 구간을 바로 찾을 수 있다.
- 알려진 기준점으로 표본 확인하기: 먼저 전체 행 수가 맞는지 확인하고, 손으로 검증할 수 있는 소계 한두 개를 비교한 뒤, 원본 표의 피벗 합계 결과와 대조해 세 가지가 일치할 때만 통과시킨다.
AI가 보조 역할만 해야 하는 경우
금액 정산, 급여, 경비 청구처럼 한 자리라도 틀리면 안 되는 경우에는 AI가 기준 정하기, 수식 작성, 이상 항목 찾기를 돕는 데 그쳐야 하며, 최종 숫자는 반드시 표 계산 소프트웨어로 다시 확인한 뒤 사용해야 한다. 데이터를 넘기기 전에 정리도 필요하다. 병합된 셀, 중복된 머리글 행, 중간에 섞인 빈 행이 있는 표는 먼저 분리하고 중복을 제거하며 형식을 통일한 뒤 넘겨야 한다. 그렇지 않으면 기준을 아무리 세밀히 정해도 읽어들이는 데이터 자체가 엉망이라 이후 모든 단계에 오류가 이어진다.
