영어 약어는 처음 등장할 때 뜻을 설명하고 이후 같은 표기를 사용한다. API 필드와 코드의 상태 값은 번역하지 않는다. 다음 정의는 책에서 사용하는 범위이며 제품이 같은 단어를 다른 의미로 쓰면 해당 문서의 계약을 확인한다.
모델과 입력
| 용어 | 이 책의 의미 |
|---|---|
| 기반 모델 | 여러 작업에 활용하기 위해 이미 학습된 모델 |
| 추론 | 고정된 모델과 입력으로 출력을 계산하는 과정 |
| 파라미터 | 학습으로 조정하는 모델의 수치 값 |
| 토큰 | 토크나이저가 입력과 출력을 나누는 단위 · 글자·단어와 고정 대응하지 않음 |
| 컨텍스트 | 현재 요청에서 모델이 조건으로 사용하는 입력 정보 |
| 문맥 예산 | 지시·질문·근거·이력과 출력 예약을 포함해 허용하는 길이 |
| 채팅 템플릿 | 역할 메시지를 모델이 학습한 형식의 토큰열로 표현하는 규칙 |
| 온도 | 출력 후보 확률의 상대적인 집중도를 조절하는 샘플링 설정 |
| 구조화된 출력 | 정해진 스키마로 표현한 응답 · 사실 정확성과 별개 |
| 환각 | 제공된 근거나 확인 가능한 사실과 맞지 않는 내용을 생성하는 현상 |
토큰 확률은 답변의 사실 정확성에 대한 검증된 확률이 아니다. 모델이 자주 보았을 법한 문장과 현재 조직에 적용되는 올바른 정책은 다를 수 있다.
검색과 데이터
| 용어 | 이 책의 의미 |
|---|---|
| 임베딩 | 텍스트 등 입력을 작업에 사용할 수 있는 벡터로 표현한 값 |
| 벡터 공간 | 모델·풀링·정규화 등 표현 규칙이 함께 정하는 비교 환경 |
| 코사인 유사도 | 두 벡터의 방향 유사도를 길이로 정규화한 내적으로 계산한 값 |
| 청크 | 검색·문맥 구성을 위해 나눈 문서의 일부 |
| 색인 | 검색을 돕도록 구성한 데이터 표현과 구조 |
| 전수 검색 | 허용된 모든 후보를 비교하는 검색 |
| 근사 최근접 검색 | 모든 후보를 비교하지 않고 가까운 후보를 찾도록 설계한 검색 |
| RAG | 검색한 자료를 생성 입력에 연결하는 구성 |
| 하이브리드 검색 | 키워드·벡터 등 다른 검색 신호를 결합하는 방식 |
| RRF | 여러 검색 순위의 역수 형태 점수를 합치는 순위 융합 |
| 재순위화 | 후보를 추가 모델이나 규칙으로 다시 평가해 순서를 정하는 단계 |
| 리비전 | 특정 문서·모델·코드의 식별 가능한 판 |
| 시행일 | 정책이 적용되기 시작하는 시점 · 등록·수정 시각과 다름 |
청크 식별자와 요청 안의 s1 같은 인용 별칭은 다르다. 별칭은 서버가 해당 요청의 실제 청크로 연결한다. 유사도 점수는 정답 확률이나 접근 권한을 대신하지 않는다.
실행과 학습
| 용어 | 이 책의 의미 |
|---|---|
| 도구 호출 | 모델이 제안하거나 클라이언트가 요청한 구조화된 작업 · 실제 실행과 구분 |
| 워크플로 | 코드 규칙으로 다음 경로가 정해진 실행 흐름 |
| 에이전트 루프 | 관찰에 따라 다음 행동을 제안하고 검증·실행을 반복하는 흐름 |
| MCP | 호스트·클라이언트·서버 사이의 기능 연결을 위한 프로토콜 |
| 인증 | 요청 주체가 누구인지 확인하는 과정 |
| 인가 | 확인한 주체가 자원·작업에 접근해도 되는지 판단하는 과정 |
| 멱등성 | 같은 작업을 재실행해도 의도한 효과가 추가로 중복되지 않는 성질 |
| SFT | 입력과 바람직한 응답 쌍을 이용하는 지도 파인튜닝 |
| LoRA | 고정된 기반 가중치에 저랭크 변화량을 학습하는 적응 방법 |
| QLoRA | 양자화한 기반 모델과 LoRA를 결합하는 효율적 학습 접근 |
MCP 연결 성공은 업무 권한의 승인이나 모델 계획 능력의 증거가 아니다. 도구 결과의 성공 상태도 서버가 확인한 실제 업무 상태와 연결해야 한다.
평가와 운영
| 용어 | 이 책의 의미 |
|---|---|
| 기준선 | 개선 후보와 비교하기 위해 조건을 고정한 기존 방법 |
| 회귀 | 변경으로 기존 정상 기능이나 품질이 악화되는 현상 |
| 평가 누수 | 선택·학습에 사용한 정보가 독립 평가에 섞이는 문제 |
| 근거 지지 | 문서 내용에서 답변의 주장이 도출되는 관계 |
| 보류 | 답변이나 실행에 필요한 조건이 충족되지 않아 확정하지 않는 처리 |
| 추적 ID | 한 요청의 여러 처리 기록을 연결하는 식별자 |
| span | 추적 안에서 시작·종료와 관계를 갖는 작업 구간 |
| 역압 | 처리 용량에 맞게 상위 유입을 제한하거나 거절하는 제어 |
| 마감 | 요청이 유효하게 끝나야 하는 절대 시점 |
| 롤백 | 검토한 이전 실행 구성으로 복귀하는 절차 |
| 결과 불명 | 외부 작업이 완료됐는지 현재 확인할 수 없는 상태 |
insufficient_evidence와 generation_failed를 같은 답변 불가로 뭉뚱그리지 않는다. 전자는 근거 조건의 문제이고 후자는 실행 실패다. answered도 자동 검사의 통과 상태이며 의미 평가 완료를 뜻하지 않는다.