Tout commence par une volonté royale. C'est par arrêt du Conseil du Roi du 15 septembre 1667 que la rue est ouverte entre ce qui deviendra l'avenue de l'Opéra et la rue des Petits Champs — percement décidé sous Louis XIV, dans l'élan de grands travaux qui transforment ce quartier encore semi-rural. Son nom est un hommage à Anne d'Autriche, reine de France régnante au moment où l'on commence à tracer la voie. Un vieux plan Truchet et Hoyau rappelle qu'une butte artificielle voisinait alors avec la butte Saint-Roch au niveau de l'actuel n° 28 — relief aujourd'hui disparu, arasé lors du percement de l'avenue de l'Opéra.
La rue porte pendant la Révolution et l'Empire le nom de rue Helvétius, en hommage au philosophe matérialiste Claude-Adrien Helvétius, né au n° 16–18 en 1715 et qui y vécut jusqu'à sa mort en 1771, composant son sulfureux De l'esprit entre ces murs. L'arrêté du 27 avril 1814 lui restitue son nom d'Ancien Régime. Non loin, au n° 58–60, s'était établi Louvois, le tout-puissant ministre de la Guerre de Louis XIV ; et c'est au n° 46 que mourut en 1704 l'aigle de Meaux, Bossuet. La rue collectionne les grandes ombres.
Sous les Lumières et la Révolution, l'animation intellectuelle se poursuit. Le n° 65 abrite en 1778 la demeure de René-Louis de Girardin, protecteur de Jean-Jacques Rousseau à Ermenonville. Au n° 3–5 réside La Révellière-Lépeaux, constituant proche des Girondins, qui sait se faire discret sous la Terreur avant de ressurgir au Directoire. Plus trouble, le n° 47 est l'adresse du royaliste Jarjayes, chargé par Louis XVI de mener une manœuvre dilatoire auprès de Barnave en attendant l'intervention étrangère. Fontenelle et Buffon comptent parmi les autres habitués du quartier.
Le XIXe siècle voit Baudelaire y poser brièvement ses valises (n° 61, en 1854), tandis que le n° 20 accueille le saint-simonien Barrault et que le Messager, journal pro-Thiers, s'installe au n° 55. La rue réserve aussi des surprises techniques : en 1880, le n° 7 devient le siège de la SUDAC (Société urbaine d'air comprimé), dont l'usine alimente alors les horloges pneumatiques de la capitale. Au même numéro, l'Occupation laisse une tache sombre : un commerce aux mains de collaborateurs fournissant la Kriegsmarine et la SS — et l'arrestation, puis l'exécution, de Fabius Finkelman. Après la guerre, le n° 10 abrite brièvement une délégation du Viêt-minh, vite interdite. La rue Sainte-Anne, en quatre siècles, aura décidément tout connu.