Rosi se proslavio filmom “Salvatore Giuliano” iz 1962. godine o sicilijanskom gangsteru za koji je osvojio je Srebrnog medveda za režiju na Filmskom festivalu u Berlinu. Za film “The Mattei Affair” osvojio Zlatnu palmu na Filmskom festivalu u Kanu 1972. godine.
Bio je jedna od središnjih figura italijanske kinematografije post-neorealizma, uz Pasolinija i braću Tavijani.
Rosi je i začetnik političkog trilera u evropskoj kinematografiji, a njegovi filmovi često su vrlo kontroverzni i izazivaju jake emocije kod publike.

