In den Aufbaujahren ab 1920 legten erste Erwerbungen von Ernst Barlach, August Macke, Emil Nolde, Käthe Kollwitz und Christian Rohlfs den Grundstein für eine Sammlung moderner Kunst. Besonders gefördert wurden die in Leben und Werk mit Mülheim verbundenen Künstler Werner Gilles, Werner Graeff, Arthur Kaufmann, Otto Pankok und Heinrich Siepmann, von denen umfangreiche Werkgruppen vorhanden sind.
Nach großen Verlusten im Zweiten Weltkrieg konnte die Sammlung der Klassischen Moderne mit Meisterwerken von Max Beckmann, Heinrich Campendonk, Max Ernst, Ernst Ludwig Kirchner, Alexej von Jawlensky und Paul Klee neu aufgebaut werden. In diesem Zusammenhang sind auch drei ehemals als „entartet“ beschlagnahmte und außer Landes verkaufte Gemälde von Karl Hofer und Emil Nolde zurück erworben worden.
Zuletzt wurde dieser Bereich durch ein Gemälde von Hannah Höch ergänzt. Dieser Ankauf wurde durch den Förderkreis ermöglicht, der seit 1979 das Kunstmuseum in seiner Sammeltätigkeit unterstützt. Anknüpfend an realisierte Ausstellungen konnten Ankäufe von international bekannten Künstlerinnen und Künstlern wie Siegfried Anzinger, Dorothee Golz, Robert Lucander oder Thomas Zipp getätigt werden. Seit 2019 verfügt das Kunstmuseum über einen Werkkomplex von einhundert Plakaten und Kleinschriften von Joseph Beuys aus der Sammlung des Medizin- und Kunsthistorikers Axel Hinrich Murken. Neben Schenkungen und Übernahmen aus Künstler*innennachlässen wächst die Sammlung weiterhin – auch an aktueller Gegenwartskunst.