Как называется этот знак ◌, которым заменяют букву, показывая написание диакритики?

У него нет "некомуторного" названия. Просто потому что при письме от руки его не нужно применять - можно оставить пустое место (или нарисовать гораздо более простые квадрат/круг) и с ним поставить диакритику. Либо привести пример слова с диакритическим знаком. Либо придумать свой символ. В общем, до появления современной "международной" лингвистики (а это аж конец 19 века - начало 20 века) каждый автор писал, как хотел.

Но и после её появления этот символ применялся настолько редко (он ведь и правда нужен только в специализированных лингвистических разделах и нигде больше), что так и не заработал собственного названия - и до сих пор называется просто "dotted circle", пунктирный круг.