Cockney Rejects zadebiutowali EP'ką "The Flares and Slippers" wydaną w 1979 roku przez niezależną wytwórnię Small Wonder. Pod koniec tego samego roku dzięki Jimmy'emu Pursey'owi (Sham 69) podpisali kontrakt z wytwórnią EMI, co zaowocowało wydaniem w 1980 dwóch pierwszych albumów: "Greatest Hits Vol. 1" i "Greatest Hits Vol. 2". W tym czasie Scotta zastąpił Nigel Woolf. Utwór "The Greatest Cockney Rip Off" (stanowiący parodię utworu "Hersham Boys" zespołu Sham 69) z płyty Greatest Hits Vol. 2 stał się największym przebojem Cockney Rejects w całej jego karierze (osiągnął 21 miejsce i spędził 7 tygodni na liście przebojów). Członkowie zespołu, którzy byli lojalnymi kibicami drużyny piłkarskiej West Ham United F.C., złożyli jej hołd nagrywając utwór "I'm Forever Blowing Bubbles" (śpiewany przez kibiców West Ham od wczesnych lat 20.).