Кончина застигла Рудольфа на пути в Шпейер — место успокоения королей и императоров Франконского дома. Силы покинули его прежде, чем он достиг города, и в июле 1291 г. он умер в местечке Гермерсхайм.

Рудольф I Габсбург. Статуя с гробницы в Шпейерском соборе.

Надпись на латыни: «Рудольф Габсбург, римский император, умер на 18 году своего правления в году 1291 от р. X., в июле месяце, в день разделения Апостолов». Руки, скипетр и корона отреставрированы в XIX в. при реставрации всего памятника по указу императора Франца-Иосифа.