Если алфавит состоит из 5 знаков, то для кодирования двоичным кодом потребуется log₂5=2,32 бит=3 бит.
Для кодирования одного символа можно использовать 3 бита.
Сообщение длиной 100 символов займёт:
3*100=300 бит=37,5 байт ~38 байт
Очевидно, если у нас последовательность состоит из n символов, каждый из которых может принимать k значений, то всего мы можем составить k ^ n комбинаций — это комбинаторное размещение с повторениями.
В вашем случае k зафиксировано — 5, а нужно подобрать такое n, что k ^ n >= 100. Отсюда n = 3.