Recht früh schon stellte er sich als Mitarbeiter der Leichtathletik zur Verfügung. Seit 1965 ist er ausgebildeter Übungsleiter und so ist es nicht verwunderlich, dass er schon 1970 dabei war, als die LG Sieg aus 14 Vereinen des Kreises Altenkirchen gegründet wurde. Bis zum Jahre 1996 war er Sportwart der LG. Als Trainer der Spitzenathleten Hans-Jürgen Orthmann, Sascha von Weschpfennig und Stephan Schütz - um nur einige wenige zu nennen - hat er sich einen Namen gemacht. Der DLV berief den A-Trainer von 1973-1975 zum DLV-Disziplintrainer Nachwuchs für den Mittel- und Langstreckenbereich. Vom Juni 1996 bis März 2000 war er Cheftrainer beim ASV Köln und dort für den Sprint verantwortlich.
Im Herbst des Jahres 2000 trat der Siegerländer die Nachfolge von Peter Wachholtz an und wurde zunächst kommissarisch und ab 2003 vom Verbandstag gewählter Referent für Lehrwesen beim Leichtathletik-Verband Rheinland (LVR). Ein Glücksfall für den Verband. Klaus Ermert stellte ein Lehrteam zusammen, dass eine hohe Qualität hat, ständig ergänzt und fortgebildet wurde. Dabei war ihm, dem „Leistungssportler“ wohl bewusst, dass im LVR neben dem Spitzensport auch der Breitensport eine wichtige Rolle spielt. Aus diesem Grund hatte neben der Ausbildung der Leistungssportler auch die Ausbildung der Breitensportler einen hohen Stellenwert bei seiner Arbeit.
Klaus Ermert legte großen Wert darauf, dass für die Lehrgänge, die er anbot auch Bedarf bestand. Dabei überließ er nichts dem Zufall. Seine Lehrgänge wurden sogfältig vor- und nachbereitet. Immer wieder gelang es ihm, die besten Referenten aus dem Bereich des DLV ins Rheinland zu bekommen. Dabei half ihm ganz sicher sein guter Name und sein hoher Bekanntheitsgrad in der Leichtathletikszene. Auch nach seinem Ausscheiden im März 2011 aus dem Präsidium des Leichtathletik-Verbandes Rheinland bleibt Klaus Ermert der Leichtathletik verbunden. Er ist weiter als Trainer tätig (TuS Dierdorf) und gerne gesehener Gast bei vielen Leichtathletik-Veranstaltungen. Für seine Verdienste um die Leichtathletik hat der Jubilar viele Ehrungen erhalten, darunter die goldene Ehrennadel des DLV und den Ehrenbrief des Sportbundes Rheinland.