La création de la justice administrative résulte initialement de la volonté, après la Révolution de 1789, d'éviter les ingérences des juges civils, fréquentes sous l'Ancien Régime, dans le fonctionnement des pouvoirs publics.
Jusqu'en 1953, le contentieux administratif relevait du Conseil d'État créé par la Constitution de l'an VIII (1799) et renforcé en 1800 par la création des conseils de préfecture (loi du 28 pluviôse an VIII, 17 février 1800), devenus conseils interdépartementaux en 1926 (décret-loi du 6 septembre 1926).
Sous la IVe République, une profonde réforme de la justice administrative fut mise en œuvre afin de limiter le nombre d’affaires remontant au Conseil d’État et de rendre la justice administrative plus professionnelle et moins dépendante de l’administration ; elle se traduisit notamment par la suppression des conseils interdépartementaux de préfecture et leur remplacement par des tribunaux administratifs.
Les cours administratives d'appel sont créées par la loi du 31 décembre 1987 afin de résorber l'encombrement du Conseil d’État qui était alors juge d'appel. Les cours administratives d'appel commencent à fonctionner le 1er janvier 1989, les cinq premières sont localisées à Paris, Lyon, Nancy, Nantes et Bordeaux. D'autres se sont ajoutées depuis. Cependant vite encombrées à leur tour, le décret n° 2003-543 du 24 juin 2003 vient modifier la procédure applicable devant les cours administratives d’appel sur plusieurs points importants :
- La voie de l’appel est supprimée pour les litiges de faible importance (art. R.811-1 du code de justice administrative).
- L'article R.811-7 du code de justice administrative prévoit que le recours à un avocat deviendra obligatoire pour toutes les affaires portées devant les cours, sauf pour les litiges d’excès de pouvoir formés par les agents publics et assimilés, le contentieux des contraventions de grande voirie et des demandes d’exécution des décisions de justice.
- Le décret contient aussi des dispositions de nature technique visant à augmenter la productivité des cours administratives d’appel et à faciliter le traitement des affaires.