Durante a perfuração de poços de petróleo, a coluna de perfuração apresenta um comportamento dinâmico complexo, esta tese foca no estudo experimental e na modelagem matemática deste comportamento. Neste trabalho, destaca-se as vibrações autoexcitadas axiais, laterais e torcionais, que podem levar a efeitos como o bit bouncing, o whirling e stick-slip torcional. A primeira contribuição desta tese é a análise experimental de um bancada de testes, que fornece informações sobre a dinâmica de sistemas torcionais. A influência dos parâmetros de controle não lineares na resposta do sistema é investigada, identificando as condições sob as quais o fenômeno stick-slip ocorre. Em segundo lugar, a tese propõe estratégias de identificação de sistemas para sistemas não lineares, utilizando a mesma bancada de testes supracitada. Uma abordagem híbrida para a identificação é proposta, onde técnicas de modelagem de caixa cinza e caixa preta são combinadas para calibrar os parâmetros do sistema, particularmente aqueles associados ao atrito. Essa abordagem aumenta a precisão das estimativas em comparação com os métodos tradicionais de caixa cinza, mantendo a interpretabilidade. Além disso, a pesquisa emprega physics-informed deep learning para estimar os parâmetros mecânicos e de atrito do modelo de dois graus de liberdade. A calibração usando dados experimentais obtidos de uma bancada de testes fornece informações sobre o comportamento de sistemas de perfuração. Finalmente, a tese apresenta investigações experimentais sobre o acoplamento entre oscilações torcionais e axiais utilizando uma bancada experimental de perfuração em escala de laboratório modificada e adaptada equipada com brocas e amostras de rocha reais. Em resumo, esta tese aumenta a compreensão da dinâmica de colunas de perfuração e apresenta aplicações úteis para técnicas de identificação de sistemas na análise de oscilações torcionais e axiais.