Измеряли и сопоставляли соотношения масс веществ, которые вступают в различные реакции. Например, у нас есть элемент A, который реагирует с B, и для реакции нужно взять 10 г А и 1 г B. А потом мы находим элемент X, который похож на A внешне и тоже реагирует с B, мы проводим эксперимент и узнаем, что X c B реагирует в соотношении 20 к 1. Так мы узнаем, что Х весит в 2 раза больше, чем А и в 20 раз больше чем B. Или, может быть, в одном случае у нас образуется соединение AB2, а в другом случае - XB? Хрен его знает, нужно посмотреть, насколько точно мы все взвесили, и как и в каких соотношениях эти элементы реагируют с другими элементами. Ну и такие эксперименты-сопоставления проводили в огромных количествах, и это сейчас кажется удивительным, сколько элементов и соединений, в том числе достаточно сложных органических было открыто и охарактеризовано до появления масс-спектрометрии, ЯМР, рентгеноструктурного анализа и прочих крутых штук, которые есть под рукой у современных химиков.