Im Jahre 1794 beginnt die 1787 gegründete Künstlergesellschaft zu sammeln. Für ein sogenanntes «Malerbuch» stiftet reihum jedes Mitglied eine eigene Zeichnung oder Blätter von anderer Hand. Die Künstler und Liebhaber erwerben 1812 auf Kredit ein Anwesen, das zunächst Clubhaus und Wirtschaft ist. Durch eine internationale Sammelaktion kann 1818 die künstlerische Hauptattraktion der Stadt, das «Gessnerische Gemählde-Cabinet» für Zürich gesichert werden. Es umfasst 24 Gouachebilder idyllischer Landschaften und viele Zeichnungen von Salomon Gessner.
Die seit 1840 vom schweizerischen Kunstverein organisierten Turnusausstellungen geben 1847 den Anstoss zur Erweiterung des Künstlergüetlis um einen kleinen Galerietrakt von Gustav Albert Wegmann, dem Architekten der Villa Tobler und der Kantonsschule. In dem neuen «Museum» dominiert lange die 1854 geschenkte Sammlung des Obersten Keller zum Mohrenkopf, ein repräsentativer Querschnitt durch die Zürcher Malerei von Hans Asper bis ins 18. Jahrhundert.
1853 gründet die Künstlergesellschaft für das breitere Publikum den «Zürcher Kunstverein», durch den dem Sammlungsfonds bescheidene, aber regelmässige Mittel zufliessen, die vor allem für lokale und Schweizer Kunst eingesetzt werden. Der Maler A. Rudolf Holzhalb vermacht 1885 der Künstlergesellschaft 100Â’000 Fr., mit denen die alten Schulden beglichen, die Galerie umgebaut (die Hängefläche wächst von 90 auf 144 m2...) und ein Neubaufonds angelegt werden. 1890 beginnt der Bund und 1892 die Gottfried Keller-Stiftung mit wesentlich grösseren Mitteln erworbene Werke im Künstlergüetli zu deponieren.
1895 wird der Verein «Künstlerhaus Zürich» gegründet und seine provisorische Kunsthalle für Wechselausstellungen an der Börsenstrasse eröffnet. Im folgenden Jahr fusionieren die Vereine «Zürcher Kunstverein» und «Künstlerhaus Zürich» zur «Zürcher Kunstgesellschaft» und intensivieren die Bemühungen um den Bau eines richtigen Museums. 1898 vermacht Heinrich Schulthess von Meiss der Kunstgesellschaft seine Sammlung von 80 Gemälden damals berühmter deutscher und Schweizer Maler. 1910 kann auf dem von Stadtrat Landolt vermachten Landoltgut das «Kunsthaus» eröffnet werden – nicht «Museum» und nicht «Kunsthalle», wie der Architekt Karl Moser ausführt, sondern beides. Die Namensgebung «Kunsthaus» steht bewusst in der Tradition anderer demokratischer Institutionen wie Rat- oder Schulhaus.
Der erste Konservator, Wilhelm Wartmann (Direktor bis 1949), konzentriert sich angesichts der geringen Bestände zunächst auf Schweizer Kunst; neben der damals besonders interessanten aktuellen Produktion bildet er Werkgruppen mit spätgotischer Malerei und Gemälden Johann Heinrich Füssli.
Als sich 1917 anlässlich der grossen Ausstellung Ferdinand Hodlers zeigt, dass die Ankaufsmittel der Kunstgesellschaft ungenügend sind, gründet Alfred Rüetschi die «Vereinigung Zürcher Kunstfreunde», die die Sammlung des Kunsthauses bis heute regelmässig mit bedeutenden Erwerbungen erweitert. Er selbst stellt mehrere grosse Kompositionen und bedeutende Landschaften Hodlers zur Verfügung.
1920 erhält das Kunsthaus als Legat die Sammlung von Hans Schuler und damit erstmals Werke des französischen Impressionismus und Postimpressionismus: Renoir, Cézanne, Van Gogh, Bonnard. 1922 organisiert Wartmann nach langjährigen Vorbereitungen seine erste Ausstellung mit Edvard Munch und beginnt, die grösste Munch-Sammlung ausserhalb Skandinaviens aufzubauen.
1925 erweitert Karl Moser das Kunsthaus. 1929 beginnt Dr. Hans E. Mayenfisch für das Kunsthaus Gemälde lebender Schweizer zu kaufen; bei seinem Tod 1957 war der Bestand auf über 450 Werke angewachsen. Der Nobelpreisträger Leopold Ruzicka errichtet 1949 mit seiner hervorragenden Sammlung niederländischer Malerei des 17. Jahrhunderts eine Stiftung. René Wehrli löst 1950 Wilhelm Wartmann als Direktor ab; er legt das Hauptgewicht auf die französische Malerei seit Monet; im Anschluss an die Monet-Retrospektive werden die beiden grossen Seerosen-Panneaux erworben.
1958 wird der seit 1944 von den Gebrüder Pfister geplante und von Emil G. Bührle finanzierte, frei unterteilbare grosse Ausstellungssaal eröffnet. Eine Gruppe von Kunstfreunden um die Gebrüder Bechtler errichten 1965 mit der bedeutendsten Sammlung von Werken Alberto Giacomettis eine Stiftung, der der Künstler weitere Arbeiten schenkt. Nelly Bär stiftet 1966 den Werner-Bär-Saal mit einer Gruppe von Skulpturen von Rodin bis Richier. Dank Gustav Zumsteg und mit Unterstützung verschiedener Mäzene und des Künstlers entsteht 1973 der Saal Marc Chagall.
Erna und Curt Burgauer beginnen aus ihrer Sammlung moderner Kunst dem Kunsthaus Werke zu schenken. 1976 wird der Erweiterungsbau von Erwin Müller eröffnet. Felix Baumann löst René Wehrli als Direktor ab. Mit Hilfe zahlreicher Spender wird 1980 eine umfassende Sammlung der Dada-Bewegung aufgebaut. Die Johanna und Walter L. Wolf-Sammlung erweitert 1984 den Bestand französischer Kunst vom Impressionismus bis zur klassischen Moderne wesentlich. Betty und David M. Koetser übergeben 1986 ihre bedeutende Sammlung niederländischer Gemälde, des italienischen Barocks und des venezianischen Settecento ihrer Stiftung. Walter Haefner schenkt 1995 dem Kunsthaus zwölf hervorragende Gemälde von Monet bis Magritte.
Von 1998 bis 2000 wird die Villa Tobler als neuer Sitz der Direktion und zu Repräsentationszwecken denkmalpflegerisch renoviert. Im September folgt Christoph Becker als neuer Direktor auf Felix Baumann und das Stimmvolk der Stadt Zürich verabschiedet einen Sanierungskredit von 28,5 Mio. Franken für das Kunsthaus. 2001 beschliesst der Kunstrat ein neues künstlerisches Leitbild. Interne Arbeitsgruppen und ein öffentliches Expertenhearing zur Zukunft des Kunsthauses unterstützen die Reform der internen Strukturen, während die Renovation beginnt.