El aluvión de ventas y popularidad de "Rock Your Baby" fue totalmente inesperado tratándose de una canción destinada originalmente a la KC and the Sunshine Band, cuya base musical fue grabada en tan solo 45 minutos como una demo con Jerome Smith a la guitarra, los teclados de Harry Wayne Casey y con Richard Finch en el bajo y la batería programada. Casualmente, George McCrae andaba por el estudio y añadió la parte vocal, y la curiosa mezcla entre el ritmo pegadizo de la base y la suavidad y calidez de su interpretación vocal resultó ser mágica.
"Rock Your Baby" despertó a la vez admiración y sana envidia entre otros músicos de su generación. Por ejemplo, el popular grupo sueco ABBA la usó como inspiración para la base rítmica de su célebre "Dancing Queen" de 1976, y el mismísimo John Lennon declaró que "habría dado uno de sus dientes por haber escrito esa canción", y se basó en ella para la progresión de acordes de su éxito "Whatever Gets You thru the Night", grabada solo unos meses después que "Rock Your Baby".
