Op acht-jarige leeftijd leerde hij gitaarspelen van bluesgitarist K.C. Douglas en alsof dat nog geen basis gaf om de bluesartiest te worden, vertrok hij op z'n dertiende uit huis om van zijn mishandelende stiefvader af te zijn. Hij leefde jarenlang op straat en trok door het land, door in goederenwagons te springen. Zijn zwervende bestaan deed hem dankzij zijn Scandinavische vrouw in Noorwegen belanden. In Europa kreeg hij de aandacht van de BBC, waar hij tijdens Jools Holland's jaarlijkse Hootenanny in 2006 als grote onbekende de show stal. Op veler verzoek werd hij het jaar erop opnieuw uitgenodigd. Met zijn rauwe doorleefde stem, drie-snarige gitaar en stampend op een houten blok, wist hij een onuitwisbare indruk achter te laten. Op I Started Out blijkt dat hij zelfs KT Tunstall en Nick Cave voor zich wist te winnen. Ze zingen beide een nummertje mee, op Steve's tweede solo-album. Just Like A King schreef hij zelfs met Cave samen en die kwam met Grinderman het nummer ook nog inspelen. Voor het overgrote deel is slechts de Zweedse drummer Dan Magnussen zijn back-up. Zoals de titelsong Started Out With Nothin, heeft hij niet veel nodig om. Enerzijds klinkt er authentieke eenvoudige, maar pakkende juke joint blues, anderzijds ontpopt hij zich als verhalenverteller op liedjes als Walkin Man of Prospect Lane.