주제

로컬 LLM 활용

폐쇄망에서 gpt-oss-20b를 구동하고, 사실 판단은 코드에 맡기고 LLM에는 해석만 시키는 설계

세 프로젝트에서 같은 패턴을 쓴다.

  • 사실은 코드가 계산한다: 자산 매칭, ID 할당, 문법 검증은 결정적 코드로 처리한다.
  • LLM은 해석과 초안 작성: 그 결과를 사실 정보로 프롬프트에 넣는다.
  • 재현성: temperature=0, 고정 시드, 항목 단위 호출
  • 검증 루프: 출력을 검증기로 검사하고, 실패하면 사유를 넣어 다시 생성한다.
  • 교차 검증: 기존 탐지 결과와 전수 대조해 회귀가 없는지 확인한다.