장문 컨텍스트와 1M의 의미

컨텍스트 윈도우(context window)는 AI가 한 번의 작업에서 참고할 수 있는 입력과 대화의 범위입니다. 복잡한 사건을 검토할 때 책상 위에 근로계약서, 취업규칙, 급여명세서, 법령과 판례를 펼쳐놓는다고 생각하면 쉽습니다. 책상이 넓을수록 여러 자료의 관계를 함께 보기 좋습니다. 2026년 7월 16일 각 사 공식 문서 기준으로 Claude Fable 5·Opus 4.8·Sonnet 5, OpenAI GPT-5.6 API 계열, Google의 여러 Gemini 모델처럼 약 100만 토큰급 컨텍스트를 지원하는 모델이 있습니다. 다만 모델 사양과 실제 사용하는 앱은 같은 것이 아닙니다. 일반 채팅, 코딩 제품, API, 요금제와 파일 업로드 방식에 따라 실제 한도는 달라질 수 있습니다. 한국어 글자 수나 책의 권수로 고정 환산하는 것도 피해야 합니다. 토큰 수는 언어, 문서 형식, 표·코드·이미지 포함 여부에 따라 달라지므로 서비스의 토큰 계산 기능이나 현재 제품 안내에서 확인하는 편이 정확합니다.

장문 컨텍스트의 가치는 '전부 넣기'가 아니라 '관계있는 원문을 함께 비교하기'에 있습니다. 예를 들어 취업규칙, 임금체계 규정, 교대근무 규정과 현행 법령을 함께 제공하고 조항 사이의 충돌을 찾게 할 수 있습니다. 여러 판결문을 넣어 쟁점과 법리의 변화를 비교하는 데도 유용합니다. 다만 사건 폴더 전체를 무작정 넣으면 오래된 규정, 중복 파일, 개인정보와 무관한 자료가 섞여 오히려 판단이 흐려질 수 있습니다. 먼저 질문을 정하고, 그 질문에 필요한 문서만 고른 뒤 파일명·작성일·효력 기준일을 붙이세요. 결과에는 근거가 된 문서명과 조항을 함께 표시하게 해야 검증하기 쉽습니다.

컨텍스트가 크면 문서를 잘게 나누는 횟수가 줄고, 앞뒤 조항과 여러 자료의 관계를 한 작업 안에서 비교하기 쉬워집니다. 취업규칙 앞부분의 임금 정의와 뒤쪽의 퇴직금 조항처럼 멀리 떨어진 내용을 대조할 때 특히 유용합니다. 하지만 큰 컨텍스트가 정확성을 보장하지는 않습니다. 자료가 길수록 중요한 문장이 묻히거나, 비슷한 문서의 버전을 혼동할 수 있습니다. 먼저 문서 목록과 쟁점을 정리하게 하고, 쟁점별 분석을 나눠 받은 뒤, 마지막에 전체 모순을 다시 점검하는 단계형 방식이 안전합니다.

병원 노무관리를 예로 들어보겠습니다. 먼저 검토 목적을 '간호사 3교대 근무표의 법적 위험과 취업규칙 개정 필요성'으로 정합니다. 그다음 현재 효력이 있는 취업규칙, 임금체계 규정, 교대근무 규정, 실제 근무표와 관련 법령만 선별해 넣습니다. AI에게는 문서 목록 확인, 쟁점별 근거 표시, 규정 간 충돌 탐지, 수정 초안의 순서로 작업하게 합니다. 건설현장에서도 원도급 안전보건관리 계획서, 관련 하도급 서류, 적용 법령과 확인이 필요한 판결문을 쟁점별로 나눠 비교할 수 있습니다. 자료가 매우 많다면 한 번에 결론을 요구하지 말고, 1차 문서목록·2차 쟁점분석·3차 교차검증으로 나눕니다. 핵심은 1M이라는 숫자 자체가 아닙니다. 현재 환경의 한도를 확인하고, 필요한 자료를 선별해 구조화하며, 결과의 근거를 사람이 다시 확인하는 것이 장문 컨텍스트 활용의 본질입니다.