OCR 및 문서 파싱
OCR은 문자가 담긴 이미지를 텍스트로 바꿉니다. 문서 파싱은 한 단계 더 나아가 표, 수식, 차트, 읽기 순서를 재구성하며, 보통 Markdown으로 출력합니다.
전통적 OCR은 이미지 속 문자를 찾아 텍스트를 반환합니다. 현대의 오픈 OCR 모델은 소형 비전-언어 모델로, 페이지 전체를 읽고 제목, 표, 수식의 위치를 유지한 채 Markdown, HTML, JSON으로 되돌려 씁니다. 여러 모델은 각 블록이 페이지에서 차지하는 위치를 반환하거나, 양식에서 필드를 추출하거나, 이미지 속 텍스트를 번역하기도 합니다.
이런 모델 대부분은 8억~50억 파라미터를 가지므로 소비자용 GPU 한 장에서 돌아가며, RAG를 위해 PDF를 준비하는 데 자주 쓰입니다. 벤치마크 점수는 개발자들이 보고한 것으로, 같은 벤치마크의 서로 다른 버전에서 측정된 경우가 많으므로, 고르기 전에 자신의 스캔본으로 모델을 시험해 보세요. 특히 손글씨, 촬영한 페이지, 덜 흔한 언어에서 그렇습니다.
관련 용어
- 비전 언어 모델(VLM) 비전 언어 모델은 이미지(보통 영상도)와 텍스트를 함께 읽기 때문에, 사진이나 스크린샷, 문서 페이지에 대해 질문할 수 있습니다.
- 검색 증강 생성(RAG) 검색 증강 생성(RAG)은 관련 문단을 검색해 프롬프트에 추가함으로써, 모델이 여러분 자신의 문서를 근거로 답하게 만듭니다.
- OmniDocBench OmniDocBench는 문서 파싱 벤치마크로, 다양한 유형의 PDF 페이지를 텍스트, 표, 수식으로 바꾸는 모델의 능력을 채점합니다.
- 벤치마크(Benchmark) 벤치마크는 모델을 비교하기 위한 표준화된 테스트로, 수학, 코딩, 지식 문제 세트 등이 사용됩니다. 점수는 참고가 되지만 과대해석하기 쉽습니다.