O presente estudo tem como objetivo principal argumentar e suscitar o debate e reflexão de que ainda que haja avanço tecnológico em nossa sociedade e ainda que estejamos vivendo uma quarta revolução industrial como muitos dizem, temos grandes problemas sociais que infelizmente ainda sustentam nossa sociedade como o racismo e a injúria racial. Ao longo do presente trabalho, apresentarei casos e exemplos á respeito do tema e indiretamente será levantado o questionamento de a quem devemos e podermos responsabilizar trazendo a luz alguns preceitos e conceitos da LGPD. Decorrido isso, será demonstrado alguns fundamentos jurídicos e sociais a necessidade de uma possível regulamentação rigorosa para a inteligência artificial, onde que por meio desta, argumentarei na possibilidade de os desenvolvedores e empresas serem obrigados a realizar pesquisas e investigações auditorias mais minuciosas para analisar a discriminação real de seus sistemas e garantir que os resultados estejam de acordo com a legislação.