Johann Heinrich Strack erbaute nach den Entwürfen von Friedrich August Stüler in den Jahren 1866 bis 1876 die Alte Nationalgalerie, die ursprünglich als Festhalle mit einer hohen Vortreppe konzipiert wurde.
Bereits 1861 änderte sich die Planung von der Festhalle zum Museumsbau als "Denkmal nationaler Kunst", da König Wilhelm I. testamentarisch eine Stiftung von 262 zeitgenössischen Gemälden durch den schwedisch-norwegischen Konsul Joachim Heinrich Wilhelm Wagener erhielt.
Im Jahre der Baufertigstellung waren die Bestände bereits um weitere Stiftungen und eine Skulpturensammlung erweitert. Die ältesten Exponate gehen zurück in das 18. Jahrhundert wie z.B. die Marmorskulptur von Johann Gottfried von Schadow, die die Prinzessinnen Luise und Friederike von Preußen darstellt (1796/97).
Ebenso sind Gemälde von Caspar David Friedrich, Blechen, Goya, Menzel, Degas, Corinth, Cézanne und Liebermann zu sehen - um nur einige zu nennen.

Anliegen der Nationalgalerie war es stets, auch ausländische Künstler in ihren ständigen Ausstellungen zu präsentieren, z.B. Skulpturen von Rodin.
Aus dem reichhaltigen Sammelbestand okkupierten die Nationalsozialisten ca. 300 Bilder, die sie als "entartete Kunst" bezeichneten und ins Ausland verkauften. Ca. 900 Gemälde zerstörte der Zweite Weltkrieg.

1949 wurde die Nationalgalerie wieder eröffnet, in ihrem Stammhaus zeigte die DDR hauptsächlich deutsche Kunst der ersten Jahrzehnte des 20. Jahrhunderts, Expressionismus, Bauhauskunst, Verismus und Neue Sachlichkeit.

Aus Anlaß der großen Retrospektive über Carl Blechen "Zwischen Romantik und Realismus" 1990 schlossen sich die ehemals Nationalgalerie Ost und die Neue Nationalgalerie im Westteil der Stadt zu einer Institution zusammen. Beide Museen verwalteten zahlreiche Werke dieses Künstlers. Die gemeinsame Ausstellung wurde in der Neuen Nationalgalerie gezeigt. In der Ostberliner Nationalgalerie hingegen galt die erste Retrospektive dem westberliner Maler Rainer Fetting.

Zur Zeit wird die Alte Nationalgalerie von Innen und Außen restauriert. Als voraussichtlicher Fertigstellungszeitraum wird das Jahr 2000 genannt.

Beim ersten Blick auf das nun eingerüstete Gebäude fällt auf dem oberen Absatz der Freitreppe vor dem Museum das bronzene Reiterstandbild Friedrich Wilhelms IV. von 1886 auf - eine Arbeit von Alexander Calandrelli.