Neste exemplo é realizada, através do algoritmo de Viterbi, a deteção ótima em presença de IES, em um sistema PAM binário com os seguintes parâmetros:

a_k = ± 1, G_o = 1; G₁ = 0,4; G₂ = -0,2; G_k = 0 para k>2 e G_k = G_-k.

Supondo que foram feitas as seguintes observações:

z₀ = -1; z₁ = -1,2; ,z₂ = 0,5; z₃ = -1,5; z₄ = -0,2; z₅ = 1,0; z₆ = 0,8; z₇ = 0,9.

Para construir o algoritmo de Viterbi usa-se, geralmente, uma treliça com nós dispostos regularmente ao longo de linhas e colunas onde vão sendo armazenados os valores de U_k. Os nós em cada linha são associados às sucessivas observações {z_k} Os níveis em cada coluna são associados aos diferentes valores do vetor de símbolos que determina a interferência entre símbolos e que pode ser visto como o estado do sistema.

No caso do exemplo é possível verificar que o incremento V_k a cada observação z_k só depende da amplitude a_k e de duas amplitudes anteriores (a_k-1, a_k-2) que são causadoras de interferência entre símbolos e que caracterizam o estado do sistema. Os 4 possíveis valores do vetor (a_k-1, a_k-2) definem então as 4 linhas da treliça como representado na Figura 29.

O cálculo do algoritmo começa pelo cálculo da função de decisão considerando-se apenas as amplitudes correspondentes ao estado inicial do sistema (a₁ ,a₀), ou seja

onde os valores de i estão associados aos diversos valores assumidos pelo estado inicial do sistema. Os resultados obtidos são armazenados nos nós correspondentes como indicado na Figura 29.

O passo seguinte consiste no cálculo de V₂, isto é

que, como depende de a₀, a₁, e a₂, leva a 8 valores os quais são associados a diferentes percursos na treliça. Neste ponto é possível iniciar o processo de maximização eliminando 4 dos 8 valores calculados escolhendo, para cada valor do estado (a₀, a₁), apenas o valor de a₂ que leva ao maior valor de V₂. Na treliça isto corresponde a eliminar um dos dois trajetos que partem de um mesmo nó. Com o valor de V₂ associado ao trajeto remanescente calcula-se então o valor de U₂ armazenando-o no nó correspondente.

O processo que se acabou de descrever é repetido até que haja uma convergência de todos os trajetos remanescentes em um único nó. É o que acontece neste exemplo quando se chega aos nós do estado
(a₄, a₅). Seguindo para trás os 4 trajetos remanescentes a partir destes nó verifica-se que nos nós do estado (a₂, a₃) todos os trajetos convergem em um mesmo nó associado ao estado (-1,+1). Neste ponto pode então ser feita a decisão relativa a este estado e a todos os estados anteriores, chegando-se à seqüência -1, 1,-1.

Na prática há um limite no comprimento percorrido na treliça antes de se tomar uma decisão. Ou seja, após um determinado comprimento percorrido na treliça, mesmo não havendo convergência de trajetos, toma-se uma decisão, obviamente com base no maior valor de U_k. Para um determinado valor de k esta decisão é tomada para o estado (a_k-L, a_k-L-1), onde L é a restrição de comprimento do algoritmo. Neste exemplo, se L=3, com base no conteúdo dos nós do estado (a₃, a₄) é feita a decisão relativa ao estado (a₀, a₁).

Observando a Figura 29, nota-se que, partindo do nó com maior valor de U_k (2,5), chega-se ao valor (-1,-1) para o estado (a₀, a₁) o que, eventualmente coincidiu com a decisão tomada após a verificação de um ponto de convergência.