14 Kasım 1953’de Almanya’nın Köln şehrinde dünyaya geldi. Futbola doğup büyüdüğü semtin takımı olan SpVgg Porz’da başladı ve burada 1969 yılına kadar oynadıktan sonra 1. FC Köln altyapı antrenörü Josef Röhrig’in dikkatini çektikten sonra 1. FC Köln altyapısına transfer edildi. 1972 sezonunda as takım kadrosuna dahil edildi ve Köln formasında ilk resmî karşılaşmasını 23 Eylül 1972 tarihinde MSV Duisburg karşı oynanan Bundesliga karşılaşmasında giydi. Profesyonel kariyerine başlamasıyla beraber büyük kabiliyet olarak gösterilen Neumann, kariyerine boyunca birkaç karşılaşmada üstün bir performans göstermesine rağmen sakatlıklar ve formsuzluklar sonucu beklenen performansı veremedi ve Ebedi kabiliyet olarak nitelendirildi.
Sekiz sezon 1. FC Köln’de forma giydikten sonra Udinese’ye transfer oldu. Bu transfer sonra kariyerinin büyük bölümü İtalya’da geçirdikten sonra FC Chiasso’da 1985-86 sezonunun sonunda futbola veda etti.
TEKNİK DİREKTÖRLÜK KARİYERİ
Futbola vedasından sonra futbolu bıraktığı FC Chiasso’da teknik direktörlük yapmaya başladı. Burada üç sezon görev aldıktan sonra daha sonraki sezonlar FC Zürich, SBV Vitesse ve RSC Anderlecht’de teknik direktörlük yaptı.
NEUMANN İSTANBULSPOR’DA
1995-1996 sezonunda Süper Lig’de şampiyonluk parolasıyla yola çıkan İstanbulspor’umuz, takımı Hollandalı teknik adam Leo Beenhakker’e emanet etmişti. Ancak Beenhakker ile istenilen başarıya ulaşılamadı. 11.haftada takımın başına Alman teknik direktör Herbert Neumann geçti. Sezonun başında şampiyonluk hedefi koyan İstanbulspor’un yeni hedefi ligde kalmaktı. Ligde takımın başında çıktığı 24 maçın 6’sında galibiyet alıp, 10’unda beraberlikle ayrıldı. 8 maçta ise mağlubiyetten kurtulamadı. Bu sonuçların ardından Neumann’ın takımı İstanbulspor’umuz, ligden düşen 16’ıncı Kayseri’nin 3 puan önünde, 15’inci Denizlispor’un 1 puan önünde, 14’üncü Vanspor ile de aynı puana sahip olarak ligi 13’üncü sırada tamamladı ve ligde kalmayı başardı. 1996-1997 sezonuna da Neumann ile başlandı, ligde alınan 1 galibiyet, 1 beraberlik ve 2 mağlubiyet sonrası görevden alınıp yerine Saffet Susiç getirildi.
Daha sonra Neumann Hollanda’da NAC Breda, SBV Vitesse ve VVV-Venlo’da teknik direktörlük yaptı. 2006’da tamamen futbola veda etti.