Noch bevor der Innenhafen bis zur heutigen Länge ausgebaut war, gründete Wilhelm Vedder hier 1860 einen Mühlenbetrieb, der 1893 Anschluss an das Wasser fand.
Die ersten Gebäude wurden 1908 durch den heutigen siebengeschossigen Neubau einer Dreiflügelanlage ersetzt.

Rechts schließt das kleine traufständige Haus für den Betriebsmeister den Hof ab.
1912 kam der westliche Erweiterungsanbau mit dem freistehenden Kesselhaus und dem Schornstein hinzu.Statt Stichbogenfenster und Zinnenkranz bestimmen jetzt klassizistische Gliederungselemente den Ziegelbau. Östlich anschließend wurde 1934 der graue Stahlsilo mit aus Röhren zusammengenieteten Kammern erstellt. Der Silo ist 42,75 m hoch und machte als Prototyp Furore.

Die Mühle wurde 1972 stillgelegt und 1997-1999 vom Schweizer Architekturbüro Herzog & de Meuron zu einem Museum umgebaut. Hierzu wurde das Gebäude komplett entkernt und insgesamt 3.600 Quadratmeter Ausstellungsfläche geschaffen.
Raumhohe Fensterschlitze beleuchten die bis zu sechs Meter hohen, weißen Räume.
Beeindruckend ist die Großskulptur eines neuen Treppenhauses in ziegelrotem Beton, die heute den Hof dominiert.

Der von Herzog & de Meuron ursprünglich geplante Erweiterungsbau des MKM Museum Küppersmühle für Moderne Kunst mit einem großen quaderförmigen Baukörper, der in 36 Meter Höhe teilweise frei über dem Boden schwebend auf das Silogebäude der Küppersmühle aufgesetzt werden sollte, wurde nach Pannen bei Schweißarbeiten am Stahlgerüst des Quaders von der als Bauherr auftretenden städtischen Wohnungsbaugesellschaft (GEBAG) im Jahr 2011 gestoppt und 2014 endgültig aufgegeben.

Ein neuer, ebenfalls von Herzog & de Meuron entworfener Erweiterungsbau wurde 2021 fertiggsetellt. Als Bauherrin fungiert die private MKM-Stiftung, die von den Sammlern Sylvia und Ulrich Ströher gegründet wurde. Der viergeschossige ebenerdige Anbau ist über die historischen Silos mit dem Stammhaus des MKM verbunden. Er besteht aus drei Elementen und erweitert die Bestandsgebäude nach Osten.