1908/09 errichtete man die dreigeschossige Markschule mit ihren etwa spiegelbildlichen Flügeln. Rechts (d.h. zur Kilianstraße gelegen) kamen am 1. Mai 1909 die Knaben, links (zur Geroldstraße) am 3. April 1913 die Mädchen der katholischen Markkircher-Schule (Weberstraße) unter.

1913 besuchen insgesamt 412 Jungen und 403 Mädchen in 14 Klassen die Schule. 1939 zur "Volksschule an der Karlstraße" umbenannt, mussten die Schüler/innen im Zweiten Weltkrieg schon 1939 und im Dezember 1944 endgültig einquartierten Soldaten weichen, sodass kein Unterricht mehr erteilt wurde. Bereits durch den Bombenangriff Ende August 1942 beschädigt, wurde dier Schule am 27. März 1945 schwer getroffen und brannt fast völlig nieder. Im August 1948 konnten erste Klassen wieder in das nur provisorisch gedeckte Gebäude einziehen; der Neubau war erst 1949/50 abgeschlossen.

Die Volksschule wurde 1967 aufgelöst und als Grundschule (Karlschule I) und katholische Versuchshauptschule (Karlschule II) für Kinder mit Migrationshintergrund neu organisiert.

Am 1. August 1991 entstand durch den Zusammenschluss von Karl-, Markt- und Kilianschule die neue städtische Gemeinschafts-Grundschule. Aktuell wird diese von mehr als 200 Kindern in zehn Klassen besucht.