L'esprit de l'escalier

From Wikipedia:

the predicament of thinking of the perfect reply too late.

The name comes from Denis Diderot's Paradoxe sur le comédien:

l'homme sensible, comme moi, tout entier à ce qu'on lui objecte, perd la tête et ne se retrouve qu'au bas de l'escalier