Сменив еще нескольких ударников и остановив свой выбор на Счастливчике Бобе (Happy Bob; настоящее имя — Роберт Кент, Robert Kent), игравшем когда-то с Олгой в Showbiz Kids, группа записала The Toy Dolls EP, выпуск которого сама же профинансировала. К этому времени The Toy Dolls стали известны по всей стране; в числе тех, кто активно поддерживал группу, был известный oi!-энтузиаст Гари Бушелл (писавший в Sounds). Лейбл Zonophone (дочерний по отношению к EMI) подписал с группой контракт, но этот союз оказался бесплодным: его единственным результатом стал выпуск Everybody Jitterbug.

Первый шаг к общенациональной известности Toy Dolls помогли сделать Angelic Upstarts, пригласившие их в турне. Тогда-то и появилась первая версия Nellie The Elephant, ставшей впослествии классикой юмористического поп-панка. За два дня до начала запланированных вторых гастролей с Angelic Upstarts Олгер неожиданно распустил состав, после чего реформировал Toy Dolls уже с басистом Бонни Базом (Bonnie Baz, натоящее имя Barry Warne) и ударником Малкольмом Диком (Malcom Dick). Этот состав записал в 1983-84 годах три сингла: Cheerio & Toodle Pip, Alfie From the Bronx, We’re Mad, а также вторую версию Nellie The Elephant, которая в 1984 году разошлась 535-тысячным тиражом и поднялась в Британии до 4-го места. К этому времени у группы уже был контракт с йоркским лейблом Volume Records, который выпустил альбомы Dig That Groove Baby (март 1983 года), Far Out Disc (апрель 1985 года) и Idle Gossip (август 1986 года). Позже группа записывалась на Nit Records (альбомы Barefaced Cheek и Ten Years of Toy Dolls) и Receiver Records.

После 2000 года Олгер дважды гастролировал в качестве бас-гитариста в составе The Dickies, а однажды оказался в составе The Adicts. Вопреки заголовку альбома Our Last Album ?, записанному Олгером с барабанщиком Дэйвом Натом (Dave the Nut, настоящее имя Dave Nuttall) и басистом Томом Губером (Tom Goober, он же — Thomas Woodford Blyth), карьера группы не завершена. В 2005 году The Toy Dolls выступили на Летнем рок-фестивле в Биаррице («Les Extravagances» de Biarritz).