La porte des Cordeliers constitue une adjonction tardive à l'enceinte de Philippe Auguste. Contrairement à la porte de Buci qui figurait parmi les six portes originelles de la rive gauche, celle-ci fut percée ultérieurement pour répondre aux besoins croissants de circulation du faubourg en développement.
Selon un acte de 1240, le percement de cette nouvelle ouverture fut accordé aux religieux de Saint-Germain-des-Prés. La porte se situait rue de l'École-de-Médecine, entre la rue du Paon-Saint-André et la cour du Commerce-Saint-André, face au couvent des Cordeliers (Franciscains) qui lui donna son nom initial de "porte des Cordeliers" ou "porte des Frères-mineur".
Cette porte secondaire, probablement de dimensions plus modestes qu'une porte principale, facilitait l'accès au quartier universitaire en pleine expansion et au couvent franciscain établi à proximité. Au cours du XIIIe siècle, plusieurs poternes similaires furent ajoutées à l'enceinte de Philippe Auguste pour désengorger le trafic des portes principales, témoignant de la croissance démographique et commerciale de Paris.
Lorsque la porte de Buci fut murée après la trahison de 1418, la porte des Cordeliers acquit une importance accrue. Vers 1430, elle fut agrandie et prit alors le nom de "nouvelle porte Saint-Germain", reprenant l'ancienne appellation de la porte de Buci désormais condamnée. Cette substitution créa une confusion historique entre les deux portes qui perdure encore aujourd'hui.
La porte des Cordeliers, devenue porte Saint-Germain, fut supprimée en 1586, redonnant l'exclusivité du passage à la porte de Buci réouverte depuis 1550. Comme l'ensemble des vestiges de l'enceinte de Philippe Auguste, elle fut finalement démolie par arrêt du Conseil du roi du 24 mars 1684.