Auf Empfehlung von Cirillo dell’Antonio, dem Direktor der Holzschnitzschule in Bad Warmbrunn, bewarb Neumann sich an der Kunstakademie in Breslau. Nach Arbeitsproben nahm ihn der damalige Direktor, der Jugendstil-Künstler August Endell, 1925 in die Kunstakademie auf. Seine Lehrer wurden der Expressionist Otto Mueller und der Impressionist Oskar Moll. Dem Rat Otto Muellers folgend entschied sich der angehende Künstler wegen der finanziellen Unabhängigkeit zusätzlich für den Beruf des Kunsterziehers. 1927 legte er vorzeitig mit besonderer Genehmigung das Staatsexamen ab und im folgenden Jahr das pädagogische Staatsexamen für den Unterricht an Höheren Schulen
1928 ging Gerhard Neumann nach Paris und arbeitete im Atelier von Fernand Léger. Im Louvre betrieb er Kompositionsstudien. Während seines Aufenthalts in der französischen Hauptstadt kam es zu Begegnungen mit bekannten Künstlern wie Georges Braque, André Lhote und André Lurçat.
1931 wurde Neumann Assistent von Oskar Moll in Breslau. Kurz darauf wurde die Kunstakademie Breslau geschlossen. Mit Unterbrechungen unterrichtete Neumann Kunsterziehung an verschiedenen Gymnasien. 1942 wurde er Kriegsmaler zunächst in Russland, dann in Griechenland und auf Kreta. 1943 wurde er zum Kriegsdienst einberufen, geriet 1945 in sowjetische Gefangenschaft, aus der er Ende des Jahres entlassen wurde.
Nach der Flucht aus Schlesien 1946 lebte er mit seiner Familie in Kirchheim (Thüringen), 1950 gelang dann die Flucht aus der DDR nach Westberlin. Dort fand er 1951 wieder eine Anstellung im Schuldienst und stellte im gleichen Jahr seine neuesten Arbeiten in der Galerie am Zoo aus. 1952 gestaltete er sein erstes großes Glasfenster in Potsdam. Gerhard Neumann wurde Mitbegründer der „Bauhütte für christliche Künste“ in Berlin-Dahlem.
1954 erhielt er einen Ruf an das Nicolaus-Cusanus-Gymnasium in Bonn-Bad Godesberg. Er arbeitete dort als Kunsterzieher bis zu seinem Ruhestand im Jahr 1973.
Seine Bilder wurden immer abstrakter, allerdings nie gegenstandslos. Er selbst nannte es „Abstraktion nach Seherfahrung“. „gerhard neumann hat das, was er bei Otto Mueller gelernt hat, das Zeichnen, bewusst mit Farbe verbunden, deren Beherrschung und Nutzung ihm Oskar Moll vermittelte und hat die Kompositionskunst eines Fernand Leger beachtet und aus all dem ein höchst eigenständiges Werk geschaffen“ („Tübingen im Fokus“, Ausgabe vom 15. Januar 2010 – Monika Wenke, MAS: „gerhard neumann – Maler der verschollenen Generation“).
Gerhard Neumann legte Wert darauf, dass sein Name klein geschrieben wird, weil alle Buchstaben gleichwertig nebeneinander stehen.