La ville existe depuis l'époque romaine. Facile à attaquer par la Seine pour les vikings, la ville connut plusieurs mises à sac et incendies durant le IXe siècle, avant de devenir duché de Normandie, donné au viking Rollon par le roi de France Charles III en 843. Tout en devenant un important marché d'esclaves, la ville commercera beaucoup avec Paris.
Le roi de France Philippe Auguste prend la ville le 16 avril 1203 et rattache la Normandie au royaume de France l'année suivante. Il maintient les privilèges communaux, mais fait détruire l'ancien château ducal et construit une nouvelle fortification pour surveiller la ville. Celle-ci s'élève sur l'ancien site de l'amphithéâtre gallo-romain et prendra le nom de château Bouvreuil. Détruit à la fin du XVe siècle il sert ensuite de carrière, sauf la célèbre tour Jeanne d'Arc restaurée par Viollet Le Duc et qui subsiste encore aujourd'hui.
Elle ne fut pas le lieu d'emprisonnement de Jeanne d'Arc en 1431 même s'il semble que cette dernière y fit un passage (de la tour où fut emprisonnée la Pucelle d'Orléans, il ne reste qu'une ruine aujourd'hui visible dans l'arrière-cour d'une propriété privée située rue Jeanne d'Arc).
Le 19 janvier 1419, durant la guerre de Cent Ans, le roi Henri V d'Angleterre prend la ville de Rouen et rattache la Normandie à la couronne britannique.
C'est dans ce contexte que Jeanne d'Arc y fut vendue aux Anglais, puis jugée et brûlée le 30 mai 1431 après une parodie de procès où se comportement et ses réponses incroyables pour une jeune fille de cette époque (et encore maintenant !) fera d'elle la grande sainte de France, et un symbole à la fois de résistance et d'héroïsme qui marquera bien plus que l'histoire de France.
Les Français reprirent la ville en 1449. La guerre de Cent Ans terminée, les grands chantiers reprennent dans la capitale normande. Au début de la Renaissance, Rouen est la ville la plus peuplée du royaume après Paris. On achève les églises dans le style flamboyant.
Pendant la guerre de 1870, Rouen sera occupée par l'armée prussienne. Elle le sera également au cours de la Seconde Guerre mondiale jusqu'au 15 août 1944. Pendant ce conflit, elle subira de violents bombardements visant notamment les ponts sur la Seine. La cathédrale et le Palais de justice furent touchés, en particulier lors de la semaine rouge, du 30 mai au 5 juin 1944, pendant laquelle le quartier de la cathédrale était en proie aux flammes.