Vchod do Šternberského paláce, který se z Hradčanského náměstí zdá být trochu neviditelný, objevíte z levé strany Arcibiskupského paláce. Projdete uličkou až na nádvoří, kde vás zdi paláce obklopí ze všech stran. Ve třech podlažích potom najdete antické umění a umění francouzské, italské, španělské, německé, rakouské a nizozemské od středověku až po pozdní barok 18. století.
Památky antického Řecka a Říma jsou vystaveny v úvodu expozice. První patro patří italskému umění 14. až 16. století, kde nechybí ani mistrovské ukázky florentského manýrismu, zastoupené například dílem Agnola Bronzina. Ve sbírce staršího nizozemského malířství nelze přehlédnout oltářní archu Jana Gossaerta (zvaného též Mabuse).
Druhé patro je naplněno slavnými jmény jako Tintoretto, El Greco, José Ribera, Tiepolo, Goya, Rubens či van Dyck. Vynikající je kolekce holandských mistrů, kde se setkáte s díly Rembrandta van Rijn, Franse Halse či Jana van Goyena. Rembrandtův obraz Učenec v pracovně je výjimečný tím, že jde o jediné dílo holandského génia v českých sbírkách. Sběrateli a mecenáši Josefu Hoserovi, kterému Národní galerie vděčí za velkou část své sbírky starého umění, je věnován kabinet pojednaný ve stylu první poloviny 19. století.
Snad nejvýznamnější dílo sbírky starého evropského umění je instalováno v přízemí paláce, které je věnováno expozici německého a rakouského umění 16. až 18. století. Jedná se o Růžencovou slavnost Albrechta Dürera, kterou umělec vytvořil roku 1506 v Benátkách a do Prahy se dostala díky císaři Rudolfovi II. Malbu doplňuje řada mistrovských děl Lucase Cranacha či Hanse Baldunga (zvaného Grien).
Barokní palác dnes představuje pouze necelou třetinu ambiciózního návrhu architekta Giovanniho Battisty Alliprandiho. Hlavní průčelí paláce mělo být původně otevřeno do Hradčanského náměstí. Za vidění stojí také nástropní malby a iluzivní fresky v interiéru paláce.