Займут. Во первых само имя файла занимает место на диске. Его точный адрес, чтобы компьютер его видел - тоже занимает место. Ну и еще как правило файлы состоят из блоков. Блоки небольшие, ну, скажем 512 байтов. Поэтому даже для самого маленького файла выделится хотя бы один блок. Все вышеизложенное может быть организовано по-разному, в зависимости от типа файловой системы. Но, в общем говоря, это необходимый минимум.