Jeff Grayer évolue à l'Université d'État de l'Iowa de 1985 à 1988. Il détient toujours le record de points inscrits en carrière avec 2 502 points[1]. Il est membre de la sélection américaine aux Jeux olympiques 1988 avec qui il obtient la médaille de bronze. Il est sélectionné au 13e rang de la draft 1988 par les Milwaukee Bucks. Il a joué neuf années en NBA pour cinq équipes différentes (Bucks, Warriors, Sixers, Kings, Hornets).
En , Grayer est engagé en tant qu'entraîneur assistant de l'équipe d'Iowa State.