L\'objectif principal de l\'expérience COMPASS au CERN est la détermination de la polarisation des gluons dans le nucléon, $\\frac{\\Delta G}{G}$. On mesure pour cela l\'asymétrie d\'hélicité du processus de fusion photon gluon, dans la diffusion de muons polarisés sur une cible de deutérons polarisés. Ce processus peut être sélectionné par la production de hadrons à grande impulsion transverse ($p_T$), ce qui permet de disposer d\'une grande statistique. En contrepartie, la présence d\'un bruit de fond physique complique l\'extraction de $\\frac{\\Delta G}{G}$. Ce mémoire de thèse présente différentes études menées afin d\'optimiser la détermination de $\\frac{\\Delta G}{G}$ dans ce canal. Une étude sur l\'alignement des quelques 200 plans de détection est notamment présentée, améliorant ainsi la résolution du spectromètre. Les performances des 12 détecteurs de type Micromegas ont également été déterminées au cours de la prise de données 2004. Puis, les asymétries obtenues à partir de l\'analyse des données 2002 à 2004 sont calculées, pour différentes variantes de la sélection à grand $p_T$: production de 1 ou 2 hadrons, à petit ou grand $Q^2$. Une optimisation de la sélection a aussi été développée à l\'aide d\'un réseau de neurones. Une étude détaillée de la fausse asymétrie expérimentale est également réalisée. L\'extraction de $\\frac{\\Delta G}{G}$ est ensuite décrite, à partir de simulations Monte Carlo (utilisant PYTHIA ou LEPTO). Pour la première fois, l\'asymétrie des processus dits photons résolus est estimée. Une amélioration de la reconstruction de la fraction d\'impulsion du nucléon portée par le gluon est également proposée, par la reconstruction de \\emph{pseudo-jets}. Enfin, les petites valeurs obtenues pour $\\frac{\\Delta G}{G}$ sont discutées, notamment en termes de contraintes sur la contribution des gluons au spin du nucléon.