Die Stiftung wurde von Günther und Ingrid Rumpf gegründet, um mutigen, phantasievollen und wirkungsvollen Einsatz für Mitmenschlichkeit zu fördern und an die sprichwörtlich „große Glocke“ zu hängen, damit das gute Beispiel Nachahmer und weitere Förderer finde. Die Stiftung sollte den Namen des Vaters von Günther Rumpf tragen: Julius Rumpf.
Das Startkapital wurde treuhänderisch der Martin-Niemöller-Stiftung e.V. in Wiesbaden übergeben. Martin Niemöller und Julius Rumpf haben lange Jahre gegen den Nationalsozialismus zusammengearbeitet; heute führt die Martin-Niemöller-Stiftung das friedenspolitische Engagement ihres Namensgebers fort um Feindbilder abzubauen, Gerechtigkeit, Frieden und Solidarität zu fördern. Ein Stiftungsbeirat (Kuratorium) wacht über die Einhaltung des Stiftungszwecks und entscheidet über alle Angelegenheiten, die mit der Verleihung des Julius-Rumpf-Preises und mit weiteren Förderungen verbunden sind.
Seit August 2007 wird die Julius-Rumpf-Stiftung treuhänderisch von der Stiftung Diakonie Hessen verwaltet. Die Stiftung fördert vorrangig Projekte und Initiativen,
- die sich deutlich antirassistisch, für die Einhaltung von Menschenrechten und für eine demokratische Alltagskultur positionieren,
- die Jugendliche zur Zielgruppe haben,
- die Lücken staatlichen Handelns offenbaren,
- die umstritten sind und öffentliche Solidarität brauchen
- deren Wirken eine größere öffentliche Aufmerksamkeit verdient.
Die Julius-Rumpf-Stiftung konnte seit 2009 für die Preisverleihungen einen Gesamtbetrag von mehr als 85.000 Euro zur Verfügung stellen.