Дополню немного ответ Андрея. До XIII века в древнерусском языке Ъ и Ь были вполне себе гласными буквами. Ими обозначались редуцированные звуки заднего и переднего ряда соответственно, которые могли быть, как и любые гласные, ударными. Произносились они как сверхкраткие звуки [о] и [е]. Нам сейчас это кажется невозможным, а вот в болгарском они остались ("смърт", например). C начала XIII века начался процесс падения редуцированных. Последние, однако, оставили о себе напоминание в словах, где встречаются беглые гласные. Просклоняем, например, слово "сон": сна, сну, о сне и т. д. - на месте беглой О был ер. Или "день": дня, дню, о дне и т. д. - на месте беглой Е был ерь.
Можно только добавить, что у этих букв есть названия "ерь" и "ер", соответственно. Но это больше к дореформенной орфографии относится. Такие дела.