Используют, и тут дело не столько в наличии/отсутствии веры, сколько в том, что само слово "Господи" уже давно приобрело новую роль - теперь "Господи" не только обращение, но и междометие. А язык для атеистов и верующих один, междометия и другие части речи у нас общие)
Лично я - человек глубоко религиозный, однако у меня много знакомых и друзей атеистов. И многие из них используют в рече как междометие "Господи".