Nežiūrint, kad ši grupė susikūrė 90 –ų viduryje (o tiksliau 1995 sausyje), jos muzikinės šaknys siekia 70 –ų pradžią, kuomet piko viršūnės buvo pasiekusios „goblinams“ didžiausią įtaką dariusios grupės Black Sabbath, Pink Floyd, Atomic Rooster ir Mountain. Iš pradžių klolektyvas pasivadino Our Haunted Kingdom. Pirmas oficialus leidinys tapo jų ir grupės Electric Wizard perpus pasidalinta septyniacolė plokštelė, po ko grupė pakeitė pavadinimą į Orange Goblin ir debiutavo su juo rinkinyje „Dark Passages 2“. Kurį laika „goblinai“ mėgavosi koncertuodami kartu su Cathedral, Blood Divine, Mourn, Acrimony ir pasirodydami Europos festivaliuose, bet 1997 –ų rudenį parengė bandomąjį pilnos apimties albumą. Albume "Frequencies From Planet Ten" įsiteko doom rifai, psichodelinės melodijos kosminiai jam‘ai ir jis apjungė savyje Black Sabbath ir Pink Floyd paveldą. Antras albumas "Time Travelling Blues" buvo kietai įšokes į riebias baikeriškas vėžes, tačiau užtikrintai skambėjo tik pirmoji plokštelės pusė, pabaiga gavosi kažkiek skysta. Praktiškai iki nulio susiaurindami klavišinius, kuriais piktanaudžiavo ankstesniuose albumuose, 2000 –ais Orange Goblin išspaudė iš klumpių verčiantį space – doom šedevrą "The Big Black", prifarširuotą tokiomis razinomis kaip "Scorpionica", "Quincy The Pigboy", "Cozmo Bozo" ir "Turbo Effalunt". Kol Orange Goblin fanai kaifavo nuo šio albumo, muzikantai pakeitė orientyrus ir praėjus porai metų klausytojams pateikė punk – metal opusą "Coup De Grace". Albumą prodiusavo stoner rock veteranas Skotas Rideris, o poroje muzikinių takelių pasižymėjo buvęs Kyuss vokalistas Džonas Garsija. Su jų pagalba dainos skambėjo tiesmukiškiau ir kaip siurprizą grupė įgrojo Misfits‘ų koverį "We Bite". . Su kitu nauju albumu "Thieving From The House Of God" grupės muzikantai pamėgino grįžti prie savo šaknų, bet vienas kitas elementas iš "Coup De Grace" vis tiktai liko.Šiuo savo darbu grupė užbaigė bendradarbiavimą su Rise Above ir iki 2007 pabaigos persikraustė po Sanctuary stogu. Čia Orange Goblin debiutavo plokštele "Healing Through Fire", kurioje ir toliau tęsė bandymus kryžminti rifus Black Sabbath stiliuje su pankroko agresyvumu. Paskutinis grupės albumas išėjo 2012 ir vadinasi "A Eulogy for the Damned". Orange Goblin dabartinė sudėtis yra tokia: vokalistas Ben Ward, gitaristas Joe Hoare, bosas Martyn Millard ir būgnininkas Chris Turner.