Здравствуйте.
Если кредитный договор не был с Вами заключен. Это значит, что у сторон по договору не возникли обязательства ст.307 ГК РФ.
Так как по требованию ст.425 ГК РФ договор обязатетел для сторон с момента его заключения.
По условиям Постановления Правительства РФ, покупатель вправе отказаться от товара в любое время для его передачи.
Следовательно, Вы вправе отказаться от товара. Также и не оплачивать его.