Имеет ли право арендатор не отдавать залог, если я отдал часть залога за аренду квартиры, но еще не въехал, так как нашел другой вариант?

Смотри расписку, если там есть слово "задаток", то в случае Вашего отказа от заключения договора аренды Арендодатель имеет право не возвращать Вам этот задаток. Если нет - то в судебном  порядке. Расписки с его росписью будет достаточно для взыскания суммы долга.