Есть книга, которая так и называется "Музейное проектирование" А. А. Щербакова.
Из более известных книг про музеи могу порекомендовать Карстен Шуберт "Удел Куратора. Концепция музея от Великой французской революции до наших дней", в ней дана история появления музеев, их развитие и особенности в современном мире.
К этой же теме подойдет книга Брайана О'Догерти "Внутри белого куба", описывающая самую распространенную форму пространства для экспонирования современного искусства.