Всё зависит от того, какой по объёму сайт и его функционал. Макет, к примеру, landing page (лэндинга) объёмом 8 - 16 экранов можно прорисовать в том же Photoshop. Более разветвленные по структуре сайты я бы посоветовал макетить в Figma, Sketch или Adobe XD.
Качественный сайт сочетает в себе:
1) Правильные смыслы;
2) Удобный и понятный пользователю интерфейс.
Первое достигается путём анализа продукта / услуги и его покупателей / клиентов.
Второе приходит с опытом. Как вариант, могу порекомендовать следить за трендами веб-дизайна на Behance, Dribble и в Instagram, а также использовать в макетах UI-kit'ы (наборы элементов интерфейса).