Anteriormente o enfoque foi a procura de técnicas para eliminar, minimizar ou corrigir as perturbações do canal, em particular a interferência entre símbolos, sem alterar a estrutura básica do receptor. Agora, em uma abordagem introdutória será considerado, não a otimização do receptor convencional, mas a obtenção de um receptor ótimo em presença de interferência entre símbolos.

Na realidade, a própria estrutura genérica de receptor ótimo representada na Figura 16 pode ser usada como receptor ótimo em presença de ruído e interferência entre símbolos. O que se deve considerar agora é que, a presença da interferência entre símbolos introduz uma correlação entre o sinal observado em intervalos adjacentes de modo que a deteção isolada de cada mensagem não corresponde mais ao procedimento ótimo. Neste caso, o ponto de partida para se chegar ao receptor ótimo é tratar uma seqüência de mensagens como uma só mensagem. Tomando por base um sistema PAM causal, tem-se agora que os sinais s₀(t), s₁(t), ..., s_M-1(t) no receptor da Figura 28 são dados por
 

(106)

onde K representa a memória do canal, ou seja, o número de símbolos que interfere no símbolo a₀. Note-se, portanto, que o número de mensagens agora será N = M^K, onde M é o número de amplitudes do sistema PAM. Isto significa um tremendo aumento da complexidade do receptor a medida que aumentam a memória do canal K e o número de amplitudes M. De acordo com a Figura 28, o receptor ótimo deverá calcular as seguintes quantidades
 

	(107)
	(108)

A regra de decisão ótima pode então ser expressa como
 

(109)

onde
 

(110)

onde
 

(111)

é a amostra que seria colhida no detetor convencional com filtro casado como indicado na Figura 28, e
 

(112)

está relacionado a interferência entre pulsos adjacentes. Tipicamente G_m deve se anular a partir de um certo valor de m e quanto maior a interferência entre os pulsos, maior será este valor.

Note-se que, se g(t)=0 fora do intervalo [0,T],
 

(113)

A última expressão acima mostra que quando o pulso g(t) está restrito ao intervalo [0,T] a maximização correspondente à regra de decisão ótima pode ser feita símbolo a símbolo.

A maximização em (109) se torna, em geral, impraticável se for feita de uma maneira exaustiva. É possível, entretanto, explorar as propriedades das expressões envolvidas para chegar a um algoritmo, usualmente conhecido como Algoritmo de Viterbi que torna viável a implementação do receptor ótimo em muitos casos. Este algoritmo pode ser obtido a partir das seguintes relações de recorrência,
 

(114)

onde V_k+1 é dado por
 

(115)

Para compreender o algoritmo de Viterbi deve-se notar que o sinal transmitido foi definido em (106) como a soma de K pulsos modulados em amplitude. Para corresponder a um sinal digital real, este número de pulsos deve ser muito grande. Por outro lado, na prática, o valor de G_m se anula a partir de um certo valor de m = L e, neste caso, pode-se mostrar que V_k+1 só depende das amplitudes a_k+1, a_k ,..., a_k-L+1. Isto permite fazer a deteção dos símbolos sem necessariamente aguardar a observação de toda a seqüência. Esta propriedade é ilustrada através do exemplo que se segue.

Exemplo 5