topK와 topP의 차이
topK와 topP의 차이공통점 : AI 모델이 다음 단어를 선택하는 방식을 제어하여 답변의 다양성을 조절하는 기술차이점 : 선택 후보를 정하는 기준이 서로 다름 topK (Top-K 샘플링)가장 확률이 높은 K개의 단어만 후보로 놓고, 그중에서 다음 단어를 선택하는 방식낮은 값(예: 1)은 항상 가장 확률 높은 단어만 선택하게 되므로 답변이 매우 결정론적이 됨높은 값(예: 40)은 더 많은 선택지를 주어 답변의 다양성을 높임ex) Top-K: "무조건 판매량 상위 3개 중에서만 고르세요!"Top-K는 "등수(순위)를 기준으로 선택지를 제한하는 방식"만약 top_k=3으로 설정하면, 모델은 다음 단어 후보 중에서 가장 확률이 높은 1, 2, 3등 단어만 보고, 그중에서 하나를 무작위로 고릅니다. 4등..