Здравствуйте!
Ваши отношения со знакомыми находятся в разных правовых сферах. Так, возмещение ущерба за стеклянную дверь относится к гражданской сфере и решается либо по соглашению сторон, либо в суде. Тогда как отказ вернуть вещи и документы уже находится в административно-уголовной сфере, поскольку похоже на хищение или самоуправство.
Понятно, что знакомые вынуждают вас договориться, однако назвать эту ситуацию вымогательством было бы преждевременно. Ведь знакомые не просто хотят обогатиться за ваш счет, а пытаются решить вопрос с убытками, которые понесли по вашей вине, как они считают.
Поэтому, обратиться в полицию можно, но не с заявлением о вымогательстве, а с указанием на факт самоуправства, либо хищения чужого имущества и документов.
Однако, никогда не поздно сделать попытку поговорить без эмоций и придти к компромиссу, без обращения к властям, будь то полиция или суд.