La prospection de pétrole utilise un équipement appelé tube de forage pour forer le sol jusqu au niveau du réservoir. Cet équipement est une longue colonne rotative, composée d une série de tiges de forage interconnectées et d équipements auxiliaires. La dynamique de cette colonne est très complexe car dans des conditions opérationnelles normales, elle est soumise à des vibrations longitudinales, latérales et de torsion, qui présentent un couplage non linéaire. En outre, cette structure est soumise à des effets de frottement et à des chocs dûs aux contacts mécaniques entre les paires tête de forage/sol et tube de forage/sol. Ce travail présente un modèle mécaniquemathématique pour analyser un tube de forage en configuration horizontale. Ce modèle utilise la théorie des poutres qui utilise l inertie de rotation, la déformation de cisaillement et le couplage non linéaire entre les trois mécanismes de vibration. Les équations du modèle sont discrétisées par la méthode des éléments finis. Les incertitudes des paramètres du modèle d interaction tête de forage/sol sont prises en compte par l approche probabiliste paramétrique, et les distributions de probabilité des paramètres aléatoires sont construites par le principe du maximum d entropie. Des simulations numériques sont réalisées afin de caractériser le comportement dynamique non lináaire de la structure, et en particulier, de l outil de forage. Des phénom ènes dynamiques non linéaires par nature, comme le slick-slip et le bit- bounce, sont observés dans les simulations, ainsi que les chocs. Une analyse spectrale montre étonnamment que les phénomènes slick-slip et bit-bounce résultent du mécanisme de vibration latérale, et ce phénomène de choc vient de la vibration de torsion. Cherchant à améliorer l efficacité de l opération de forage, un problème d optimisation, qui cherche à maximiser la vitesse de pénétration de la colonne dans le sol, sur ses limites structurelles, est proposé et résolu.