Seit dem Mittelalter wird in der Gemeinde Ostermundigen Sandstein abgebaut. Mit den industriellen Möglichkeiten in der zweiten Hälfte des 19. Jahrhunderts erreichte die Produktion ihren Höhepunkt. Zu jener Zeit war der Ostermundiger Sandsteinbruch der grösste in der Schweiz. Geliefert wurde weit über die Landesgrenzen hinaus.

Der Sandsteinabbau hat die Gemeinde Ostermundigen stark geprägt. Generationen von Taglöhnern, Steinbrechern und Baumeistern haben ihre Existenz auf dem Ostermundiger Sandstein begründet. Unzählige Gebäude, einfache wie prunkvolle, sind aus diesem Material entstanden. Die Steinbrüche und ihre Geschichte sind noch heute das eigentliche Wahrzeichen von Ostermundigen.

Das Projekt eines Paul Klee gewidmeten Museums sowie dessen Realisierung in unmittelbarer Nähe der Gemeinde Ostermundigen hatte eine integrative Wirkung auf die bereits existierenden, jedoch unterschiedlichen Bestrebungen rund um die Steinbrüche. Allen Beteiligten war bekannt, dass Klee von den Steinbrüchen und den darin arbeitenden Menschen begeistert war und sich deshalb oft dort aufgehalten hatte. Die Steinbrüche dienten ihm als Inspirationsquelle für zahlreiche Bilder und Zeichnungen.

Die Idee, das einst bis ins Ausland bekannte Wahrzeichen von Ostermundigen aus der Vergessenheit zu holen und gleichzeitig das Zentrum Paul Klee attraktiv zu erschliessen, nahm in der Folge konkrete Formen an. Innerhalb kürzester Zeit wurden aus Kreisen der Bevölkerung, der Politik, der Wirtschaft und der Verwaltung Initiativen formuliert.

Für die konzeptionelle Arbeit wurde unter der Leitung des damaligen Ostermundiger Gemeindepräsidenten Theo Weber die „Arbeitsgruppe Steinbrüche“ eingesetzt. Die Federführung des Projekts liegt heute beim Zentrum Paul Klee.

Gleichzeitig ist eine „Interessensgemeinschaft Steinbrüche“ entstanden, in der sich u. a. die wichtigsten Grundeigentümer, Nutzer und Bewohner des betroffenen Gebiets am Ostermundigenberg spontan zusammengeschlossen haben.

Das Konzept für die Nutzung der einzelnen Kavernen sieht vor, Kinder, Jugendliche, Erwachsene und Familien gleichermassen anzusprechen. Kernstück der Attraktionen in den Steinbrüchen ist die Plattform „Standort Paul Klee, Ostermundigen“. Sie ist so platziert, dass sie dieselbe Sicht auf die Steinbrüche ermöglicht, die einige Bilder von Paul Klee zeigen. Didaktische Tafeln ermöglichen eine vertiefte Auseinandersetzung mit dem Ort und seiner Bedeutung für die Gemeinde Ostermundigen, für Bern und für Paul Klee.