Fan de PJ Harvey, Nick Cave ou encore Rain Parade depuis l'adolescence, Karen s'est mise à composer à la guitare et à chanter durant son temps libre puis a découvert la scène avec sa troupe de cabaret burlesque The Citizens Band à New York en 2004. Son mari, un certain Jack White, lui propose d'enregistrer ses titres, enthousiasmé par leur qualité. Jack assure la production de l'album ainsi que la batterie et Karen forme son groupe de studio composé de Rachelle Gimenez (Citizens Band), Dean Fertita (Dead Weather) et de son beau-frère Jackson Smith.