Чет ответы какие-то идиотские, еще и с обилием лишней информации.
Если совсем просто - современные ПК работают с двоичной системой счисления. Соответственно, все префиксы (кило, мега и т.д.) которые в традиционной системе счисления обозначают степени числа 10 (см. школьный курс физики) в Теории Информации обозначают степени двойки. Отсюда и 1024 (2^10).
Для первоначального понимания этого вполне достаточно, потому что дальше появляется куча неожиданных артефактов (например, килобайт - это 2^10 байт, но 2^13 бит, мегабайт 2^20 байт, но 2^23 бит и т.д., что при переводе все к битам дает некоторую путаницу), которые неизбежно появляются при быстром развитии молодой науки (а наука об информации начала формироваться совсем недавно, в конце Второй Мировой).
Классный ответ всё по полочкам
Похоже этот киби придумали на ровном месте. Хотя действительно неудобно когда размер килобайта строго не определен.