Na primeira parte desta tese, são desenvolvidos dois esquemas de detecção por listas para sistemas MIMO multiusuário. As técnicas propostas usam uma única transformação de redução de reticulado (LR) para modificar a matriz de canal entre os usuários e a estação base (BS). Após a transformação LR, um candidato confiável do sinal transmitido é obtido usando um detector de cancelamento sucessivo de interferências (SIC). No detector em múltiplos ramos com redução de reticulado e cancelamento sucessivo de interferências (MB-LR-SIC) proposto, um número fixo de diferentes ordenamentos para o detector SIC gera uma lista de possíveis candidatos para a informação transmitida. O melhor candidato é escolhido usando o critério maximum likelihood (ML). No detector por listas de tamanho variável (VLD) proposto, um algoritmo que decide se o candidato atual tem uma boa qualidade ou se é necessário continuar procurando por um candidato melhor nos ordenamentos restantes é utilizado. Os resultados numéricos mostram que os esquemas propostos têm um desempenho quase ótimo com uma complexidade computacional bem abaixo do detector ML. Um esquema de detecção e decodificação iterativa (IDD) baseado no algoritmo VLD é também desenvolvido, produzindo um desempenho próximo a um sistema mono usuário (SU) livre de interferências. Na segunda parte desta tese, uma técnica de detecção desacoplada de sinais (DSD) para sistemas MIMO massivo é proposta. Esta técnica permite que o sinal composto recebido na BS seja separado em sinais independentes, correspondentes a diferentes classes de usuários, viabilizando assim o uso dos procedimentos de detecção propostos na primeira parte desta tese em sistemas MIMO massivos. Um modelo de sinais para sistemas MIMO massivo com antenas centralizadas e/ou antenas distribuídas operando em redes heterogêneas de quinta geração é proposto. Uma análise baseada na soma das taxas e um estudo de custo computacional para DSD são apresentados. Os resultados numéricos ilustram o excelente compromisso desempenho versus complexidade obtido com a técnica DSD quando comparada com o esquema de detecção conjunta tradicional.