Joigny foi ocupado dende o neolítico e tamén en época romana, onde recibía o nome de Joviniacum. En época merovinxia iníciase a construción dunha praza forte no século X, por orde de Raynard o Vello, conde de Sens, que suporá o nacemento da cidade actual. A data de fundación oficial é 996.
Pouco máis se sabe dela en varios séculos de historia (un incendio a asolou en 1530), dunha cidade que pertencía á rexión de Champaña. A economía agraria tradicional tiña unha estrela particular, o viño, que foi a fonte da riqueza de Joigny ata a aparición da filoxera. Coa creación dos departamentos trala Revolución Francesa, Joigny pasa a pertencer á rexión de Borgoña, co grao de subprefectura, que perde en 1926.
Durante a segunda guerra mundial sofre diversos bombardeos, particularmente o centro histórico (a praza Saint-Jean, a porta Saint-Jean e a Casa do Bailío, que tivo que ser recnstruída).