Nach dem kurzlebigen Versuch Musikdirektor Bühis übernahm im Jahre 1935 Willi Edinger aus Mosbach die Kapelle. Mit ihm nahm die Kapelle einen sehr beachtlichen Aufschwung und erlangte in kurzer Zeit Ansehen und Geltung in der weiteren Umgebung. Willi Edinger leitete die Kapelle mit großem Erfolg, bis er Anfang 1939 zurück nach Mosbach ging und später eine Stelle als Fagottist beim Städtischen Theater in Heidelberg annahm. An seine Stelle trat der damalige Gewerbelehrer Wilhelm Laible.
Leider machte der Zweite Weltkrieg jede weitere Aufbauarbeit zunichte, da ein großer Teil der Musiker bereits bei der Mobilmachung am 26. August 1939 zum Kriegsdienst eingezogen wurde. Die Kapelle konnte sich noch bis Herbst 1940 halten. Danach war eine musikalische Betätigung nicht mehr möglich.

Sofort nach Kriegsende regte sich jedoch der Wille zu einem Neubeginn, wobei auch die Heimatvertriebenen großes Interesse zeigten. Schon im Jahre 1946 wurden unter Herrn Laible die Probearbeiten wieder aufgenommen. Damals zählten zu den ersten aktiven Mitgliedern: Wilhelm Laible (Dirigent), Erich Bucher (Vorstand), Martin Götz, Paul Hemberger, Andreas Lambert, Johann Blatz (Verwaltungsmitglieder), Karl Frank, Josef Kieser, Bernhald Schöllig, Johann Wittischka, Erwin Scheuermann, Anton Dambach, Karl Laible, Hilmar Bingler, Herbert Grimm, Ignatz Dolleschall, Leo Schnorr, Emil Götz. Welche Schwierigkeiten sich bei der Instrumentenbeschaffung ergaben, wird durch die Tatsache verdeutlicht, dass der damalige Vorstand und Posaunist und auch heutige Vorsitzende Bürgermeister Erich Bucher in Gerlachsheim drei Klarinetten für drei Ster Holz einhandelte. Außerdem wurden Instrumente von aktiven und passiven Mitgliedern gestiftet (Malermeister Otto Fertig: ein Althorn; Tünchnermeister Julius Götz: eine Klarinette, ein Tenorhorn, ein Es-Horn; Martin Götz: ein Piston) sowie von der Gemeinde zur Verfügung gestellt.

Der Eifer der Kapelle gewährleistete einen Aufstieg, der schnell erstaunliche Erfolge brachte. Eine herausragende Leistung waren die zahlreichen Aufführungen der Operette „Die Winzerliesel”, die die Akteure u. a. bis nach Neckarelz führte und den eigentlichen Auftakt für eine echte Neubelebung darstellte. Der Aufschwung wird auch dadurch verdeutlicht, dass es gelang, neben der eigentlichen Blaskapelle noch ein Streichorchester aufzubauen. Trotz stolzer Erfolge blieben der Kapelle aber auch in den Folgejahren Rückschläge nicht erspart.
Die unerlässliche ideelle Belebung erhoffte man sich von der auf Anregung des damaligen Feuerwehrkommandanten Paul Schäfer erfolgten Übernahme in die Freiwillige Feuerwehr. Häufiger Dirigentenwechsel – Johann Blatz (bis 1950), Herbert Tschamber aus Buchen (bis 1954), Herbert Tritschler aus Lohrbach (bis 1956) – machte jedoch eine kontinuierliche Aufbauarbeit unmöglich. Die wichtigste Erkenntnis aus jenen Jahren war, dass eine Musikkapelle nicht auf eine gewisse Eigenständigkeit verzichten kann.

So wurde der Wunsch immer deutlicher, einen unabhängigen Musikverein zu gründen. Den Abschluss der Vorbereitungen bildete zunächst die Konstituierung eines Vorstandes im Dezember 1956. Er bestand aus den Herren Dr. Willi Platz (1. Vorsitzender), Pfarrer Otto Ackermann (2. Vorsitzender) und den Herren Ernst Beißer, Adam Meixner, Lehrer Baumann und Karl Steffan als Beiräte. Das Amt des Dirigenten wurde von Alois Zechmeister übernommen. Da jedoch die Kapelle nicht den nötigen Rückhalt fand, erlahmte das Interesse der Aktiven immer mehr, so dass Ende 1958 ein Teil der Instrumente abgegeben wurde in der Absicht, einen Neuanfang zu erwirken.

Gezielte Anstrengungen in dieser Richtung wurden Mitte des Jahres 1960 insbesondere von Bürgermeister Erich Bucher unternommen. Eine Besprechung in der Odenwaldhalle ergab, dass die grundsätzliche Bereitschaft vorhanden war, eine leistungsfähige Kapelle aufzubauen.
Gerhard Münch erklärte sich bereit, bis zur endgültigen Klärung der Dirigentenfrage die Proben zu leiten. Am 7. Januar 1961 fand im Gasthaus „Zur Rose” die erste Generalversammlung des neugegründeten Musikvereins statt. Die Wahl zur Vorstandschaft brachte folgendes Ergebnis: Vorsitzender Erich Bucher, Schriftführer Günter Burkardt, Kassier Gerhard Münch, Beisitzer Kurt Grimm, Gerhard Münch, Alois Schnätz, Klaus Scholl, Alois Zechmeister, Vereinsdiener Hilmar Götz. Es wurde beschlossen, den Verein unter dem Namen „Musikverein Harmonie 1872 Mudau” ins Vereinsregister eintragen zu lassen. Des weiteren wurde der Beitritt zum Volksmusikverband Odenwald-Bauland angeregt.