`Tackling Generated Datasets Diversity`

pull/478/head
100pearlcent 3 weeks ago
parent 24505bae5d
commit 6fb86335f6

@ -133,7 +133,7 @@ print(is_singular(matrix_example)) # True를 반환
거의 다 왔습니다!
결과적으로, 저자는 모델의 훈련 세트를 보강하기 위해 총 1B 토큰을 생성하여 더 작은 모델(오직 1.5B 매개변수)이 크기의 10배에 달하는 경쟁 모델에 도달할 수 있도록 했습니다.(자세한 내용은 기사 [Gunasekar et al. (2023)](https://arxiv.org/abs/2306.11644) 를 참조하세요.)
결과적으로, 저자는 모델의 훈련 세트를 보강하기 위해 총 1B 토큰을 생성하여 더 작은 모델(오직 1.5B 매개변수를 취하는)이 크기의 10배에 달하는 경쟁 모델에 도달할 수 있도록 했습니다.(자세한 내용은 기사 [Gunasekar et al. (2023)](https://arxiv.org/abs/2306.11644) 를 참조하세요.)
<Screenshot src={IMG2} alt="Phi-1 metrics, compared to bigger models." />

Loading…
Cancel
Save