A arquidiocese ten a súa orixe no xenocidio armenio, cando as dioceses armenias en Turquía perderon gran parte da súa poboación. O arcebispo de Mardin, Nersēs Tayroyan, estableceuse de xeito temporal en Bagdad, até que o 29 de xuño de 1954, coa bula Ex quo tempore, o papa Pío XII erixiu en territorios da arquieparquía de Mardin a arquieparquía de Bagdad, suprimindo a anterior.
A arquieparquía ten xurisdición canónica sobre todos os fieis católicos de rito armenio que viven en Iraq. A sé arquieparquial é a cidade de Bagdad, onde se atopa a catedral da Nosa Señora de Nareg.