Objetivou-se avaliar o coeficiente de endogamia, a fixação de alelos e o limite de seleção em populações selecionadas durante 20 gerações. A seleção foi baseada nos valores genéticos preditos pelo BLUP clássico (BLUP) e pelo BLUP marcadores (BLUPM) e na seleção individual (SI) utilizando diferentes sistemas de acasalamento. Para se obter a matriz de similaridade genética utilizada no BLUPM, foram simulados 100 marcadores moleculares do tipo microssatélite, por meio de um coeficiente de similaridade correspondente à distância euclidiana média para dados quantitativos. Para comparar os diferentes métodos de seleção, utilizaram-se populações com tamanho efetivo de 66,66 e média de 30 repetições. Observou-se maior incremento de endogamia para o BLUPM, seguido pelo BLUP e SI. Os métodos baseados no BLUP levaram a maior fixação de alelos favoráveis e desfavoráveis. O BLUPM foi o método que proporcionou maior redução no limite de seleção nas 20 gerações avaliadas. Os acasalamentos dos reprodutores selecionados que excluíram o acasalamento entre irmãos resultaram em menor taxa de incremento de endogamia, menores perdas pela fixação de alelos desfavoráveis e menor redução no limite da seleção.This study aimed to evaluate the inbreeding coefficient, alleles fixation and selection limit in a population selected during 20 generations. Selection was based on breeding values predicted by classical best linear unbiased prediction (BLUP), BLUP associated with molecular markers (BLUPM) and individual selection (IS) using different mating designs. The genetic similarity matrix used in BLUPM was obtained by simulating 100 micro satellite markers (simple sequence repeats) using a similarity coefficient corresponding to the mean Euclidean distance between quantitative data. The selection methods were compared using populations with an effective size of 66.66 and a mean of 30 repetitions. The largest increase in inbreeding was observed for BLUPM, followed by BLUP and SI. The methods based on BLUP provided the higher fixation of favorable and unfavorable alleles. The BLUPM method provided the higher reduction in the selection limit during the twenty generations. Systems excluding between sibs mating resulted in lower increases in inbreeding rates, fewer losses due to unfavorable allele fixation and smaller decreases in selection limit.