Orientador: José Cândido Silveira Santos FilhoTese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: O conceito de compartilhamento de espectro do tipo underlay tem sido proposto como uma técnica promissora para contornar o problema da escassez e da subutilização do espectro, permitindo que usuários não licenciados, chamados de usuários secundários, possam acessar simultaneamente uma banda licenciada, alocada aos usuários primários, desde que o nível de interferência sobre os mesmos seja mantido abaixo de um dado limiar aceitável. Entretanto, isso implica que a potência de transmissão na rede secundária deve ser restringida, comprometendo assim a confiabilidade e a cobertura da comunicação. A fim de contornar esse problema, técnicas de retransmissão cooperativa, as quais proveem um novo tipo de diversidade espacial, podem ser exploradas como um meio eficaz para melhorar o desempenho da rede secundária. De fato, a utilização conjunta de ambas as técnicas ¿ compartilhamento de espectro do tipo underlay e retransmissão cooperativa ¿ em redes cooperativas e cognitivas tem recebido especial atenção, já que a eficiência espectral do sistema e o desempenho da rede secundária podem ser melhorados significativamente. Esta tese apresenta quatro contribuições principais na referida área. Em particular, estuda-se o efeito conjunto de duas restrições de potência importantes sobre o desempenho de outage de redes cooperativas e cognitivas, especificamente, o nível máximo de potência interferente tolerada pelo receptor primário e o valor máximo de potência transmitida nos usuários secundários. Foca-se em esquemas de retransmissão baseados no protocolo decodifica-e-encaminha, abordando cenários em que o enlace direto entre fonte e destino está disponível para transmitir informação útil. Como uma primeira contribuição, analisa-se o desempenho de dois esquemas baseados no protocolo de retransmissão half-duplex incremental, os quais exploram a diversidade espacial dos enlaces diretos em redes cooperativas e cognitivas multiusuário. A segunda contribuição investiga o impacto de estimativas desatualizadas do canal sobre o mecanismo de seleção de destino para um desses esquemas anteriores, focando-se apenas no aspecto cooperativo da rede, ou seja, desconsiderando-se o uso de compartilhamento espectral. A terceira contribuição estuda o desempenho de redes cooperativas e cognitivas baseadas no modo full-duplex. Para esse cenário, avalia-se o impacto tanto da autointerferência residual, que é inerente ao modo full-duplex, bem como das restrições de potência que caracterizam o compartilhamento de espectro do tipo underlay. Como contribuição final, motivada pelo compromisso entre a perda de eficiência espectral e o problema da autointerferência residual, próprios dos modos half-duplex e full-duplex, respectivamente, propõe-se e analisa-se um esquema de transmissão adaptativo para redes cooperativas e cognitivas, através do qual, antes de cada processo de comunicação, um dos seguintes modos de transmissão é selecionado: retransmissão half-duplex, retransmissão full-duplex ou transmissão direta. Para todos os cenários considerados, expressões analíticas exatas para a probabilidade de outage são obtidas. Adicionalmente, uma análise assintótica é realizada a fim de caracterizar a ordem de diversidade e o comportamento de outage da rede secundária no regime assintótico de alta relação sinal-ruído. Simulações de Monte Carlo validam os resultados analíticos apresentadosAbstract: Underlay spectrum sharing has been proposed as a promising technique to alleviate the problem of spectrum scarcity and underutilization, by enabling secondary (unlicensed) users to concurrently access a licensed band, provided that the resulting interference on the primary (licensed) users remains below a given acceptable level. However, such a technique implies that the transmit power at the secondary network must be constrained, thereby compromising the communication reliability and coverage. To counteract this, cooperative relaying techniques, which provide a new form of spatial diversity, can be exploited as an effective means to boost the performance of the secondary network. Indeed, the joint use of both techniques¿underlay spectrum sharing and cooperative relaying¿in cognitive relaying networks has drawn special attention, since the overall spectral efficiency and the secondary-network performance can be significantly improved. This dissertation comprises four main contributions in this field. In particular, we examine the combined effect of two crucial power constraints on the outage performance of cognitive relaying networks, namely, the maximum tolerable interference power at the primary receiver and the maximum transmit power at the secondary users. We focus on relaying schemes operating under the decode-and-forward protocol, for scenarios in which the direct link between source and destination is available to convey useful information. As a first contribution, we analyze the performance of two incremental half-duplex relaying schemes, which exploit the spatial diversity of the direct links in a multiuser scenario. Our second contribution investigates the impact of outdated channel estimates on the destination-scheduling mechanism of one of those incremental schemes, from the perspective of a cooperative network only, that is, in the absence of spectrum sharing. The third contribution addresses cognitive full-duplex relaying networks. More specifically, we assess the system performance as a function of both the residual self-interference, which is inherent to the full-duplex relaying mode, and the underlay spectrum-sharing power constraints. As a final contribution, driven by the tradeoff between the spectral-efficiency loss and the residual self-interference problem, intrinsic to the half- and full-duplex relaying modes, respectively, we propose and analyze an adaptive transmission scheme whereby, before each communication process, one out of the following transmission modes is selected: half-duplex relaying, full-duplex relaying, or direct transmission. For all the considered scenarios, exact analytical expressions for the outage probability are derived. In addition, an asymptotic analysis is performed to obtain further insights on the diversity order and outage behavior of the secondary network at the high signal-to-noise ratio regime. Monte Carlo simulations corroborate the accuracy of the presented mathematical analysisDoutoradoTelecomunicações e TelemáticaDoutor em Engenharia ElétricaCAPES