El objetivo principal de este trabajo de investigación es crear un Algoritmo de Estimación de Distribución que actualice los parámetros de la distribución de búsqueda usando Descenso de Gradiente Estocástico. Para lograr este objetivo se hace un recorrido teórico por los conceptos básicos de los Algoritmos Evolutivos, Funciones de Densidad de Probabilidad, Algoritmos de Estimación de Distribución, gradientes y varios tipos de Descenso de Gradiente. También se hace un desarrollo detallado de un par de algoritmos que inspiraron el diseño y creación del aquí propuesto. Adicionalmente se comparan estos tres algoritmos en varias dimensiones y con diversas funciones del benchamark. El algoritmo creado en esta tesis llamado KSG-EDA un algoritmo novedoso, que bajo los diversos experimentos realizados se muestra muy competitivo. Lo más importante para resaltar de este algoritmo es que tiene bases matemáticas fuertes: utiliza Descenso de Gradiente estocástico para explorar el espacio de los parámetros de la distribución de búsqueda; propone una táctica de exploración e intensificación con la intensión de mejorar la aptitud del mejor individuo actual de la población y seguir explorando el espacio de búsqueda