Orientadores: Hugo Enrique Hernández Figueroa, Michel Zamboni RachedDissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: Este trabalho tem como tema o estudo das propriedades de geração e propagação de modos com momento angular orbital em meios não-guiados e guiados (compreendendo fibras ópticas especiais e guias integrados), visando sua aplicação em multiplexação por divisão de modo para comunicações ópticas. No caso dos meios não-guiados, analisamos as propriedades gerais dos modos com momento angular orbital e desenvolvemos um estudo inédito das propriedades de polarização das Frozen Waves, resultando em uma técnica para controlar os padrões de intensidade e polarização de feixes resistentes a difração e atenuação ao longo de sua propagação. Com relação às fibras ópticas especiais, começamos pelo estudo da formação dos modos com momento angular orbital em fibras circulares e das dificuldades de propagação robusta de modos em fibras convencionais. Então, analisamos as características das fibras "vórtice" e como elas permitem diminuir o acoplamento entre os diversos modos da fibra, em especial aqueles com momento angular orbital. Por fim, propomos uma forma de melhorar as propriedades dessas fibras por meio do uso de metamateriais dielétricos anisotrópicos em suas cascas, com resultados incluindo maiores confinamentos modais, maiores separações entre índices efetivos, maior número de modos suportados pelo guia e maior robustez dos modos frente a perturbações, como curvaturas. Já no caso dos guias integrados, exploramos a geração e propagação de modos com momento angular orbital em guias retangulares, baseando-nos em uma proposta existente na literatura. Embora ela defenda a robustez do método proposto, observamos que, na realidade, existem vários desafios para se conseguir propagar tais modos nesse tipo de guia e eles não haviam sido levados em consideração. Assim, desenvolvemos uma análise detalhada e comparativa da robustez dos modos com momento angular orbital em relação aos modos convencionais dos guias retangulares, considerando diferentes materiais, imprecisões de fabricação, curvaturas e perturbações pontuais ou persistentes. Os resultados nos mostram que os modos convencionais são mais adequados para multiplexação por divisão de modo (ou seja, têm menor tendência a se acoplar quando sujeitos a perturbações e são mais facilmente excitáveis), embora modos com momento angular orbital em plataformas integradas possam servir para outras importantes aplicações, como optomecânicAbstract: This work focuses on the study of the generation and propagation of modes with orbital angular momentum in unguided and guided media (comprising specially-designed optical fibers and integrated waveguides), aiming at their application in mode-division multiplexing for optical communications. In the case of unguided media, we analyze the general properties of modes with orbital angular momentum and develop a novel study of the polarization properties of Frozen Waves, resulting in a technique to control the intensity and polarization patterns of diffraction-attenuation-resistant beams along their propagation. Regarding the specially-designed optical fibers, we start with the study of the composition of modes with orbital angular momentum in cylindrical fibers and the difficulties for propagating them robustly in conventional fibers. Then, we analyze the characteristics of the vortex fibers and how they diminish the coupling among modes, in particular the ones with orbital angular momentum. Finally, we propose a method to enhance the properties of these fibers by using anisotropic dielectric metamaterials in their claddings, providing results such as improved modal confinement, higher separation among effective indexes, increased number of supported modes and higher mode robustness when subject to perturbations, such as bends. In the case of integrated waveguides, we exploit the generation and propagation of modes with orbital angular momentum in rectangular waveguides, based on a proposal in the literature. Although it advocates the robustness of the proposed method, we notice that, in reality, there are many challenges in order to successfully propagate these modes in this kind of waveguide that were not previously addressed. Therefore, we carry a detailed and comparative analysis on the robustness of modes with orbital angular momentum with respect to the conventional modes of rectangular waveguides, taking into consideration different materials, fabrication imprecisions, bends and local or persistent perturbations. The results show that the conventional modes are more suitable for mode-division multiplexing (that is, they have smaller chances of coupling when subject to perturbations and are more easily excited), although modes with orbital angular momentum in integrated platforms may be useful for other important applications, such as optomechanicsMestradoTelecomunicações e TelemáticaMestre em Engenharia Elétrica2015/15680-2118966/2014-6FAPESPCNPQ