Dava il nome all'intera contrada su questa porzione di cerchia di Naviglio. Il Mezzanotte la definisce "quasi una porcellana del settecento, tradotta in pietra; internata tra un edificio di carattere piermariniano e la casa canonica" (ormai scomparsa). Ma sorge sopra un luogo di culto più antico di cui rimane qualche affresco e il campanile retrostante, ornato di archetti, chiuso tra i palazzi che fiancheggiano la chiesa. Su tutto risalta la facciata in barocchetto fiorito, oggi ricostruita all'inizio del novecento perché quella originale in pietra arenaria oramai disfatta dall'usura del tempo.
L'interno, più castigato, di pianta rettangolare, è ad una sola navata con volta a botte. I fianchi sono scompartiti da lesene corinzie, a fusto scanalato, fra cui si aprono le cappelle, cinque per parte, con arcate di due diverse altezze alternate. In fondo si apre l'emiciclo dell'abside.
La facciata originale era di Bianco (o Bianchi) Marco, architetto del 18º secolo. Che operò a Milano tra il 1728 e il 1735 e che realizzò le chiese di S. Francesco di Paola, la facciata di S. Bartolomeo (distrutta nel 1861 e che si trovava dove ora c'è Piazza Cavour) e appunto la chiesa di S. Pietro Celestino.
(Lombardia Beni Culturali)
