Art Gallery se nahaja v parku Joubert, nekaj ulic od glavne železniške postaje v Johannesburgu. Stavba je zasnoval britanski arhitekt Sir Edwin Lachensom in je sestavljen iz 15 razstavnih dvoran, kot tudi več razstavnih površin na prostem, na velikih skulptur. Njegov arhiv je zbirka britanske in nizozemskega slikarstva od XVIII-XIX stoletja, zbirko evropskih slik XIX stoletja, kot tudi veliko zbirko sodobnih delih Južne Afrike in mednarodnih umetnikov.

Collector Dorothea Sarah Alexander Florence Phillips, žena rudarski magnat Lionel Phillips ustanovili prvo zbirko galerije na račun sredstev, ki jih njen mož prispevali. Po selitvi v Johannesburgu, je začela slikati z namenom ustvarjanja galerijsko dejavnost, ki je kasneje postal Art Gallery Johannesburg. Je pridobil zbirko slik, ki jih je britanski umetnik in zbiralec Sir Hugh Lane, razstavljena v Londonu leta 1910. Lady Phillips podaril svojo zbirko čipk in prepričala svojega moža, da gre za sedem galerijo slik in skulptur, ki ga Rodin.

Zbirka galerije vključuje del, ki jih Auguste Rodin, Dante Gabriel Rossetti, Pablo Picasso, Camille Pissarro, Claude Monet, Edgar Degas, Herbert Ward in Henry Moore, kot tudi delo južnoafriških umetnikov - Gerard Sekot Walter Battissa, Alexis Preller, Maud Sumner, Sydney Kumalo in drugi.

Umetnostna galerija Johannesburg je bila odprta za javnost leta 1910 na kampusu univerze v Witwatersrand. Arhitekt, Sir Edwin Lachens povabila Lady Phillips, prišel v Južni Afriki leta 1910 raziskati območje in začeli gradnjo stavbe galerije. Toda stavba ni bila končana po skicah arhitekta. Pet let kasneje, z začetkom gradnje, stavba odprla svoja vrata za javnost brez slovesnosti, takoj po prvi svetovni vojni.

Ob koncu leta 1940, je bila galerija stavba podaljša v skladu z zasnovo arhitekt Lachensa - zgrajen zahodno in vzhodno krilo stavbe. Severno krilo galerije s sodobno fasado je bila zgrajena v zadnji prenovi stavbe v letu 1986-1987.