두번째는 위 CBOW모델과 유사하지만, 문맥의 단어로 현재 단어를 추측하는 대신, 문장 내 단어로 문장 내 다른 단어를 분류하도록 학습한 방법이다. 현재 단어를 log-linear classifier에 입력하고, 그 단어와 특정 거리 이내에 존재하는 단어를 추론하도록 모델을 학습한다. 논문에서는 그 범위가 넓어질 수록 성능이 좋아짐을 보였다