도구 호출(Function calling)

도구 호출을 사용하면 모델이 프로그램에 검색이나 계산기 같은 함수 실행을 요청하고, 그 결과를 답변에 활용할 수 있습니다.

  • 모델 활용
  • 업데이트

모델은 스스로 웹을 탐색하거나 코드를 실행할 수 없습니다. 도구 호출에서는 사용 가능한 함수를 모델에 설명해 두고, 어떤 함수가 도움이 될 상황이면 모델이 함수 이름과 인자를 담은 구조화된 요청(보통 JSON)으로 응답합니다. 여러분의 프로그램이 함수를 실행해 결과를 돌려주면 모델이 이어서 진행합니다. 이것이 AI 에이전트의 기본 구성 요소입니다.

지원 여부는 모델과 서버 양쪽의 속성입니다. 모델은 이 형식으로 학습되어 있어야 하고, vLLM이나 SGLang 같은 추론 서버는 맞는 파서를 켜 두어야 합니다. 오픈 모델마다 도구 호출의 신뢰성이 크게 다르므로, 자신의 도구로 테스트하고 되돌릴 수 없는 작업에는 사람의 확인을 남겨 두세요.

관련 용어

  • AI 에이전트 AI 에이전트는 모델이 도구를 호출하며 다단계 작업을 계획하고 수행하는 시스템입니다. 코드 실행, 웹 검색, 파일 편집 등이 그 예입니다.
  • OpenAI 호환 API OpenAI 호환 API는 OpenAI API와 같은 요청을 받아들이는 서버로, OpenAI용으로 작성된 앱이 대신 오픈 모델을 사용할 수 있습니다.
  • 추론 모델(Reasoning Model) 추론 모델은 최종 답을 내기 전에 보이거나 숨겨진 '생각' 단계에서 문제를 한 걸음씩 풀어 나갑니다.

전체 용어