Paul O’Neill wurde auf Wunsch der Plattenfirma Produzent der Band. Unter seiner Mitwirkung entstand das Album Hall of the Mountain King. Zum Titeltrack wurde das erste Musikvideo der Band gedreht. 1988 wurde Chris Caffery als Rhythmusgitarrist für Liveauftritte der Band verpflichtet und das Video zum Song 24 Hours Ago (vom Hall of the Mountain King-Album) gedreht. 1989 wurde Caffery zum offiziellen Bandmitglied erklärt und es folgte das Album Gutter Ballet. Obwohl Caffery nun zur Band gehörte, wurde aus inoffiziellen Quellen bekannt, dass er auf diesem Album keinen einzigen Ton gespielt hatte und dass das gesamte Album von Criss Oliva eingespielt worden war. 1990 wurde exzessiv getourt, die Videos zu Gutter Ballet und When the Crowds Are Gone entstanden. Caffery verließ die Band wieder. 1991 schrieben Savatage zusammen mit ihrem Produzenten O’Neill das Konzeptalbum Streets – A Rock Opera, das teilweise schon 1979 von O’Neill als Musical ausgearbeitet worden war. Zu Jesus Saves und New York City Don’t Mean Nothing wurden Videos gedreht, wobei letzteres aber nie veröffentlicht wurde. Im Jahr 1992 musste Jon Oliva wegen stimmlicher Probleme den Posten als Sänger an Zachary „Zak“ Stevens weitergeben. Die Band spielte ein „Abschiedskonzert“ für Jon, der sich daraufhin aus dem Tourleben für bestimmte Zeit zurückziehen wollte. Dies war die letzte Show von Jon und Criss Oliva auf einer Bühne. Sie fand am 13. Juni in Tampa statt und Ex-Bassist Keith Collins spielte mit. Mit Zachary Stevens wurde 1993 das Album Edge of Thorns aufgenommen. Zu den Songs Edge of Thorns und Sleep entstanden weitere Videos. Im Oktober des Jahres kam Criss Oliva bei einem unverschuldeten Autounfall in der Nähe von Tampa ums Leben.