O arco foi ergueito polo Senado para conmemorar a vitoria de Constantino I o Grande contra Maxencio na batalla de Ponte Milvio, o 28 de outubro de 312, e para conmemorar, tamén, a outros emperadores anteriores. Foi inaugurado o 25 de xullo de 315 sendo, polo tanto, o máis moderno dos arcos triunfais alzados na Roma Antiga, diferenciándose tamén por estar construído a partir dos materiais de edificios anteriores.
O arco cruza a Vía Triumphalis, a rota que tomaban os emperadores ao entraren na cidade celebrando un desfile. Este itinerario comezaba no Campo de Marte, pasa polo Circo Máximo e arredores do Palatino; inmediatamente despois do Arco de Constantino, a procesión viraría cara á esquerda na Meta Sudans e marcharía pola Vía Sacra até o Foro romano e a cuíña Capitolina, pasando tanto polo Arco de Tito como polo de Septimio Severo.
Durante a Idade Media, o Arco de Constantino foi incorporado a unha das fortalezas familiares da antiga Roma.
En 1530Lorenzino de Medici foi expulsado de Roma por cortar por diversión cabezas dos relevos do arco, que foron reintegradas parcialmente no século XVIII.
Restaurouse por vez primeira no século XVII e as derradeiras escavacións realizáronse en 1990. En 1960 durante a XVII Olimpíada de Roma, foi testemuña do espectacular triunfo do etíope Abebe Bikila no mítico maratón que correra descalzo.