코히어, 928쪽 재무 공시 연구 도우미 시연과 운영 환경의 보안 과제 공개

코히어는 2026년 10월 29일 자사 모델과 AWS 서비스로 재무 공시 연구 도우미를 만드는 기술 글을 내고 검색, 재순위화, 페이지 이미지와 페이지 단위 출처가 있는 답변을 연결하는 방법을 설명했다. 배포 가능한 시연은 2024 회계연도의 공개 연차 보고서 세 건, 총 928쪽의 고정 자료를 사용하며 저자들은 운영 시스템이 아니라 출발점이라고 명시한다. 설계안에는 Embed Pro, Embed Fast, Rerank Pro, Parse가 등장하지만 실제 시연은 의도적으로 다른 간단한 구성을 택했다. 가능한 아키텍처를 이미 시연에서 구현된 기능처럼 쓰면 안 되며 이 사이트의 발행일은 11월 2일이다.

과제는 수백 쪽 문서에서 정확한 수치를 찾아 근거를 대는 것이다. 숫자가 표, 각주, 차트에 있으면 텍스트만 검색할 때 행이나 열 제목, 연도와 단위가 사라지기 쉽다. 제안한 구조는 Embed로 페이지를 색인하고 질문과 가까운 페이지를 찾은 다음 선택적으로 Rerank로 순서를 다시 매기고 Context Focus로 관련 구절을 골라낸다. 마지막으로 Amazon Bedrock의 Claude가 찾은 텍스트와 페이지 이미지를 바탕으로 답하고 각 주장에 페이지와 표·차트·본문·각주 같은 유형을 붙인다. 인용 표시는 사용자가 근거를 점검하도록 돕는 화면 기능이지 재무 수치의 해석이 저절로 맞는다는 보장은 아니다. 원본 페이지 확인은 계속 필요하다.

이 글은 목표 설계와 단순화된 시연을 분명하게 구분한다. 설계에서는 Embed Pro로 자료를 색인하고 Embed Fast로 대화 중 질문을 처리하며 품질 이익이 필요한 곳에 Rerank Pro와 Parse를 추가한다. 반면 시연은 GPU 부담을 낮추려고 색인과 질문 양쪽에 Embed Pro를 쓰고 재순위화에는 Rerank Fast를 쓴다. 벤치마크 데이터가 이미 추출해 둔 페이지 텍스트를 색인하므로 임의로 올린 PDF를 받지 않고 복잡한 스캔 페이지를 실제로 Parse에 보내지도 않는다. 이 시연이 모든 스캔 재무 문서를 자동으로 분석한다고 하면 향후 확장 가능한 설계를 현재 기능으로 바꾸는 셈이다. 기업 내부 문서는 세 공개 보고서와 품질이 다를 수 있으므로 정답이 알려진 자체 질문부터 준비해야 한다.

벡터 저장에도 검증 가능한 선택이 있다. 코히어는 1,024차원 int8 벡터가 페이지당 원시 저장 공간 약 1KB이고 2,048차원 float32는 약 8KB라고 비교한다. 여덟 배 차이는 벡터 자체의 바이트에 관한 것이며 색인과 메타데이터, 복제본, OpenSearch 요금은 포함하지 않고 검색 품질 개선의 증거도 아니다. 질문 벡터와 색인은 같은 차원과 형식을 써야 하며 나중에 바꾸려면 페이지를 다시 임베딩해야 한다. 읽기 좋은 전자 문서는 텍스트가 경제적인 출발점이지만 스캔본, 밀집 표, 그림에서는 파싱이나 이미지 경로가 중요할 수 있다. 같은 질문으로 페이지 재현율, 인용의 정확성, 지연과 총비용을 비교해야 한다.

시연의 보안 범위도 숨기면 안 된다. 사용자 한 명, 데이터 접근 정책으로 보호하지만 공용 네트워크에서 접근 가능한 OpenSearch Serverless 컬렉션, Bedrock Guardrails 부재가 포함된다. 이는 평가를 쉽게 만드는 설정이지 운영 환경 권장안이 아니다. 코히어는 운영에 앞서 VPC 엔드포인트와 사설 접근, 조직의 신원 제공자, 사용자 또는 팀별 문서 권한, 모니터링, 경보, 엔드포인트 자동 확장과 예산 경보를 권한다. SageMaker 실시간 모델 엔드포인트는 질문이 없어도 존재하는 시간마다 과금된다. 시험을 끝낼 때는 창을 닫는 데 그치지 말고 저장소 안내대로 자원을 정리해야 한다.

개발자는 격리된 AWS 계정에서 Marketplace 구독과 Bedrock 모델 사용 권한, 리전을 확인하고 README에 따라 고정 공개 자료를 배포할 수 있다. 정답이 있는 질문으로 맞는 페이지를 찾는지, Rerank가 순서를 개선하는지, Context Focus가 표 제목과 단위를 놓치는지, Claude의 각 인용이 주장을 실제로 뒷받침하는지 확인한다. 페이지 이미지와 재순위화를 켰다 끄면서 질문당 토큰, 시간, 비용을 기록해야 한다. 내부 공시를 넣기 전에 사설 네트워크, 신원, 암호화, 자료 분류, 예산과 근거가 없는 질문에 답하지 않는 규칙을 준비한다. 시연 성과는 이런 조건을 대신하지 않는다.

페이지 번호와 ‘표’라는 표시가 맞아도 다른 연도의 수치나 다른 연결 범위의 지표를 인용할 수 있다. 사람이 단위, 날짜, 열 제목을 점검하고 답이 없는 질문에서 거절하는지도 측정해야 한다. 다국어 임베딩 공간이 있다고 해서 실제 다국어 질문에 대한 시험을 생략할 수는 없다.

이 기술 글의 가치는 검색, 표의 문맥, 검증 가능한 인용을 각각 시험할 선택으로 나누고 시연과 목표 설계의 차이를 솔직히 밝힌 점이다. 임의 PDF 파싱과 기본 사설망, 운영 준비가 모두 끝났다는 주장은 원문을 넘어서므로 실제 자료, 접근 권한, 지속 비용을 검증한 뒤 운영 적합성을 판단해야 한다.