IBM, 음성 인식·의사결정 어댑터를 갱신한 Granite Switch 4.1.1 공개

10월 29일은 IBM 블로그 게시일이고 모델 카드는 4.1.1 개정판 출시일을 별도로 10월 27일로 적는다. IBM은 4.1과 하위 호환되며 변경되지 않은 기본 모델은 다시 계산하지 않았다고 설명한다. IBM의 10월 29일 블로그는 Granite Speech 음성 인식 업데이트가 문장 부호와 대문자를 포함해 열 개 언어를 다루며 Decision 어댑터의 Jev Decision Index 전체 성능도 개선됐다고 말한다. 그러나 Granite Switch 4.1.1-30b 모델 카드의 4.1.1 음성 연쇄에는 영어, 프랑스어, 독일어, 스페인어, 포르투갈어, 이탈리아어, 일본어 일곱 언어만 열거된다. 두 공식 자료의 범위는 아직 대조되지 않았으므로 이 checkpoint의 열 개 언어 지원을 보장할 수 없다. Decision 개선의 점수나 독립 측정값은 공개되지 않았다. 이 사이트의 발행일은 11월 2일이다.

Switch 구조는 기본 모델과 특정 작업에 쓰는 어댑터를 분리해 하나의 엔드포인트에서 조합한다. IBM은 이번 패치에서 바뀌지 않은 기본 모델을 다시 계산하지 않고 새 음성 모델과 Decision 어댑터를 학습했다고 말한다. 하위 호환성은 버전 관계에 대한 공급사의 설명이지 각 앱의 인터페이스와 모델 참조, 출력 형식, 성능까지 저절로 보장한다는 뜻은 아니다. 패치 번호가 붙어도 운영 위험이 사라지지 않는다. 전사의 문장 부호나 대문자가 바뀌면 후속 개체 추출이 달라질 수 있고 Decision 어댑터가 달라지면 판단 문턱 근처에서 결과가 달라질 수 있다. 교체 가능한 구성일수록 각 결과를 만든 정확한 버전을 기록해야 한다.

음성 모델을 고를 때 블로그의 열 개 언어 주장과 4.1.1-30b 모델 카드의 일곱 언어 목록을 구분해야 한다. 어느 한 자료만으로 해당 checkpoint의 실제 전체 지원 범위를 확정하지 말고 정확한 개정판과 필요한 언어별로 업체 확인과 자체 음성 시험을 거쳐야 한다. 열거된 모든 언어와 억양, 잡음, 전문 용어에서 같은 정확도를 입증한 것은 아니며 언어별 단어 오류율도 이 글에는 없다. 평가팀은 자기 음성 자료로 언어와 상황별 단어 오류, 숫자와 고유명사, 문장 경계, 대문자 처리를 확인해야 한다. 전사를 입력으로 받는 요약기나 판단 단계가 있다면 거기까지 결과 변화를 살펴야 한다. 이전 파이프라인에 별도 문장 부호 복원 단계가 있더라도 회귀 시험 없이 바로 지우면 안 된다. 음성과 전사에는 민감한 내용이 들어갈 수 있으므로 저장과 접근 정책도 필요하다.

Decision 어댑터의 개선은 더 조심스럽게 표현해야 한다. IBM은 Jev Decision Index에서 전반적인 성능 향상을 말하지만 이전 점수, 지표 가중치, 표본 규모, 오류 유형을 공개하지 않는다. 더 정확하다고 쓸 때도 그 시험에 대한 IBM의 주장으로 귀속해야 하며 모든 의사결정 업무로 확대하면 안 된다. 사용자는 이전 구성과 새 구성을 같은 입력, 문턱, 평가 방법으로 나란히 실행하고 평균 외에 잘못된 긍정과 놓친 사례를 확인할 수 있다. 재무, 의료, 보안 조치를 실행하는 판단이라면 사람의 검토와 추적 가능한 기록을 유지해야 한다. 패치만으로 자율 권한을 넓혀서는 안 된다.

이번 발표는 모듈 단위 업데이트의 운영 방식도 보여준다. 기본 모델을 고정하고 특정 어댑터만 바꾸면 한 변경을 위해 전부 다시 학습하는 일을 줄일 수 있다. IBM이 이번에 기본 모델을 다시 계산하지 않았다는 설명은 모든 고객의 이전 비용이 없다는 약속이 아니다. 기본 모델, 음성 모델, Decision 어댑터, 로딩 라이브러리의 정확한 버전을 고정하고 시험 환경에서 호환성과 성능을 확인한 뒤 트래픽을 단계적으로 옮겨야 한다. 출력 필드, 지연, 메모리, 오류율이 미리 정한 한계를 넘으면 이전 조합 전체로 돌아갈 방법을 마련한다. 공유 엔드포인트와 캐시에서 같은 어댑터 이름이 서로 다른 파일을 가리키지 않는지도 점검한다.

IBM은 개발자와 외부 업체가 자체 어댑터를 만들 수 있도록 강좌와 Adapter SDK를 준비 중이라고 밝혔다. 이는 미래 계획이지 SDK가 이미 정식 출시됐다는 발표가 아니므로 존재하지 않는 설치 단계를 써서는 안 된다. 현재 공개된 모델과 Speech-to-Decisions 시연은 시험할 수 있지만 시연과 외부 어댑터를 운영용으로 배포하는 플랫폼은 구분해야 한다. 나중에 SDK가 나오더라도 라이선스, 버전 호환성, 출처, 시험과 배포 절차를 별도로 확인해야 한다.

블로그는 열 개 언어를 말하지만 4.1.1-30b 카드는 일곱 언어를 열거하며 차이는 아직 대조되지 않았다. 이 checkpoint의 열 개 언어 지원을 보장할 수 없으므로 정확한 버전으로 필요한 언어를 시험하고 IBM에 확인해야 한다. 하위 호환성도 전문 용어, 샘플링 속도, 지역, 라이선스 적합성을 증명하지 않는다.

이번 패치의 실질은 식별 가능한 두 구성 요소의 변경과 기본 모델의 중복 계산을 피하는 발표 방식이다. 팀은 고정된 버전과 같은 조건의 시험, 되돌릴 수 있는 배포로 자기 작업에서 개선되는지 판단해야 하며 공개되지 않은 수치를 임의로 채워 넣어서는 안 된다.