Если человек хотел обратиться к незнакомому ему человеку, он обычно употреблял обращение "сударь" или "сударыня". К человеку, должность или фамилия которого была известна чаще использовали обращение "господин", "госпожа".
Обращались, конечно же, "на вы".
Вопрос про простых людей -- да, так и было: извозчик к сапожнику "сударь, не изволите ли Вы"