No ano 1989, despois de pasar 4 anos en Helloween, Kai Hansen deixou a banda, e despois de aparecer nos primeiros discos de Blind Guardian decidiu formar un proxecto propio. Así xunto a Ralf Scheepers (voz), Uwe Wessel (baixo) e Mathias Burchard (batería) formou Gamma Ray.
En febreiro de 1990 lanzaron o seu primeiro álbum, Heading For Tomorrow, e ese mesmo ano un EP chamado Heaven Can Wait. No seguinte disco, Sigh No More (1991), Uli Kusch substituíu a Mathias Burchard na batería e Dirk Schlächter apareceu como segundo guitarrista. En 1993 a banda lanzou o seu terceiro álbum, Insanity And Genius, incorporando a Thomas Nack á batería e a Jan Rubach no baixo, substituíndo a Uli e a Uwe respectivamente, debido a problemas persoais.
Máis tarde Ralf Scheppers abandonou a banda coa intención de ser o novo vocalista de Judas Priest, e finalmente formando Primal Fear xunto a Matt Sinner en 1998. Debido a isto, Kai Hansen viuse forzado a encargarse das voces, e con esa formación editaron Land Of The Free no ano 1995. A ese lanzamento seguiulle unha xira europea onde se gravaría o álbum en directo Alive '95.
Despois diso habería novos cambios na formación. Thomas e Jan deixaron a banda e Dirk Schlächter cambiou a guitarra polo baixo. Incorporaríanse Dan Zimmermann (batería) e Henjo Richter (guitarra). Con estes compoñentes gravaron o álbum conceptual Somewhere Out In Space, editado en 1997. En 1999 lanzaron Power Plant, considerado un dos mellores polos seareiros da banda. No ano 2000 aparecería o recompilatorio Blast from the Past, composto por temas escollidos polos propios seareiros e cantados todos por Kai Hansen.
No ano 2001 a banda editou o álbum No World Order, un disco conceptual que fala sobre a nova orde mundial e un ano despois apareceu un disco duplo en directo, Skeletons in the Closet. No 2005 editarían Majestic e no 2007 Land of the Free II, que representa a continuación conceptual de Land of the Free de 1995. Ese ano saíron de xira con Helloween e Axxis na Hellish Rock Tour 2007/08, despois de reconciliarse cos membros do seu antigo grupo. Nesa xira gravouse o concerto de Barcelona, celebrado o 16 de xaneiro do 2008, para ser incluído como extra no DVD Hell Yeah! The Awesome Foursome, lanzado o 27 de outubro dese ano.
O día 29 de xaneiro do 2010 Gamma Ray editou o seu último álbum ata a data, titulado To The Metal.
