Tout commence avec de la poudre à canon. Entre 1634 et 1656, un modeste atelier de fabrication de salpêtre — composant essentiel de la poudre — s'installe sur la rive gauche de la Seine, à l'écart de Paris par mesure de prudence. C'est ce « Petit Arsenal » qui donne son nom à l'immense complexe qui lui succède. En 1656, Louis XIV signe l'édit fondant l'Hôpital général : la Salpêtrière devient un gigantesque hospice pour femmes, prison et asile tout à la fois. Louis Le Vau puis Libéral Bruand dessinent les bâtiments, dont la majestueuse chapelle Saint-Louis-de-la-Salpêtrière. Le « Grand enfermement » de 1657, voulu par Gabriel Nicolas de La Reynie, y entasse mendiantes, prostituées et folles — jusqu'à 8 000 âmes en 1790. Jean-Baptiste Colbert y organise des déportations vers le Canada et Madagascar. L'un de ces convois inspirera à l'abbé Prévost son Manon Lescaut (1731) : c'est au puits de la Salpêtrière que la malheureuse héroïne fait sa toilette avant l'embarquement.

La Révolution y laisse une trace sanglante : en septembre 1792, 35 femmes détenues sont massacrées dans la cour. Quelques années plus tôt, en 1787, la scandaleuse comtesse de La Motte — impliquée dans l'affaire du Collier de la Reine — s'en évade spectaculairement. C'est aussi dans une cour de l'établissement que sont testées les premières guillotines sur des cadavres. Puis vient Philippe Pinel : en 1795, s'appuyant sur l'expérience de Jean-Baptiste Pussin, il fait ôter les chaînes des aliénées, geste fondateur de la psychiatrie moderne. Son élève Jean-Étienne Esquirol poursuit l'œuvre ; il étudie notamment le cas de Théroigne de Méricourt, morte ici en 1817 après des années de folie.

Au tournant du XIXe et du XXe siècle, Jean-Martin Charcot transforme la Salpêtrière en temple mondial de la neurologie. Ses célèbres leçons du mardi attirent le tout-Paris — Sigmund Freud y séjourne pour se former à ses côtés. Une statue du maître, inaugurée en 1898 et due au sculpteur Alexandre Falguière, trône dans l'enceinte jusqu'à ce que les nazis la détruisent pendant l'Occupation. En 1917, un jeune interne du service du docteur Babinski s'y révèle : il s'appelle André Breton. En 1968, le professeur Christian Cabrol y réalise la première greffe du cœur à Paris, et en 1986 y est implanté le premier cœur artificiel français.