Сьогоднішній архітектурний ансамбль Палацу правосуддя формувався протягом століть. Це – комплекс будівель і споруд, які займають половину острова Сіте. Саме з цього острова почалося будівництво світських та релігійних будівель: Палацу правосуддя та Собору Парижської Богоматері.

Палац правосуддя стоїть на місці, де раніше знаходилася резиденція римських правителів Лютеції, а з X по XIV століття Палац був резиденцією французьких королів. В кінці XIV століття королівська родина залишила палац та оселилася в Луврі.

У Палаці розташовувалися Королівська рада та адміністрація, для якої було побудовано Рахункову та Слідчу палати, а також Велику залу Палацу або Залу прокурорів («Зала втрачених кроків»). У ті давні часи в цій Залі засідав єдиний в країні орган правосуддя – Парламент. Тоді ж було збудовано й спеціальні допоміжні приміщення для консьєржа, сьогодні ця частина зберегла історичну назву – Консьєржері.

Палац пережив декілька пожеж. Найбільше руйнувань спричинила пожежа 1776 року, яка знищила східну частину Палацу, але її було відновлено в 1783–1786 роках.

Під час Французької революції в Палаці з 1793 по 1795 роки розташовувався Революційний трибунал. У епоху Реставрації й Липневої монархії постало питання про необхідність розширення Палацу, зважаючи на збільшення кількості справ. Після Великої французької революції будівля стала називатися Палацом правосуддя.

Серйозних руйнувань Палац правосуддя зазнав у часи Паризької Комуни в 1871 році. Пожежа, влаштована комунарами у 1871 році, знищила те, що зводилося впродовж майже чверті століття. У 1883 році будівельні роботи почалися заново.

Відновити Палац вдалося у 1914 році, до початку Першої світової війни.

Сьогодні в Палаці правосуддя розмістилися декілька судових установ Франції, у тому числі й Касаційний і Апеляційний суди. Також тут розташовані Кримінальна поліція, прокуратура та деякі інші установи.