Orientadores: João Marcos Travassos Romano, Renato da Rocha LopesTese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: O trabalho é dividido em duas partes e trata de três problemas importantes existentes nos sistemas de comunicação: o gerenciamento espectral, o cancelamento de interferências e a equalização de canais. Na primeira parte do trabalho, abordamos a otimização de sistemas multiportadora DSL, sistemas estes usados na transmissão em banda larga de dados através das linhas telefônicas. No contexto de gerenciamento espectral distribuído, é proposto um algoritmo iterativo para alocação discreta de bits e sua convergência e desempenho são analisados. No âmbito de sistemas centralizados, nos quais é possível a coordenação entre os sinais e entre os espectros dos usuários, propomos uma técnica MIMO de cancelamento de crosstalk baseada na decomposição em valores singulares e no critério zero-forcing. Além disso, propomos também uma estratégia para bitloading discreto que leva em consideração as técnicas de cancelamento de interferência. Na segunda parte do trabalho, analisamos o uso de filtros preditivos não lineares na equalização não supervisionada de canais de comunicação. O desempenho de tais estruturas é comparado com o equalizador de mínima taxa de erroAbstract: The work is divided into two parts and deals with three major problems in communication systems: spectrum management, interference cancellation and channel equalization. In the first part, we discuss the optimization of multicarrier DSL systems, a technology used for broadband transmission of data over telephone lines. In the context of distributed spectrum management, an iterative algorithm for discrete bit allocation is proposed and its convergence and performance are analyzed. In the context of centralized systems, where coordination is possible between signals and between the spectra of users, we propose a MIMO technique for crosstalk cancelation based on singular value decomposition and on the zero-forcing criterion. In addition, we also propose a strategy for discrete bitloading that takes into account the interference cancellation techniques. In the second part of the work, we analyze the use of nonlinear predictive filters applied to the unsupervised equalization of communication channels. The performance of these structures is compared with the minimum error rate equalizerDoutoradoTelecomunicações e TelemáticaDoutor em Engenharia Elétrica