Вообще у асимметричного шифрования (или криптографии с открытым ключом) есть 2 применения.
В первом открытым ключом, который вы заранее опубликовали, шифруют сообщение, а расшифровать его можно только при помощи закрытого ключа, который вы храните в секрете. Вы спрашиваете: а почему нельзя расшифровать сообщение открытым ключом? Ну во-первых, для этого есть симметричная криптография, как неожиданно :). Там всего лишь один ключик и для шифрования, и для дешифрования. В криптографии же с открытым ключом ваш открытый и закрытый ключи "математически связаны" некой функцией/функциями.
Представьте, что вы хотите зашифровать сообщение M. У вас есть открытый ключ E и закрытый ключ D. E и D "математически связаны". Также, у вас есть универсальная функция F, которая может одновременно шифровать/расшифровывать и принимает 2 аргумента - сообщение и ключ, т.е. F(сообщение, ключ). Тогда, чтобы зашифровать сообщение, вы проделываете: F(M, E). Это будет ваше зашифрованное сообщение. Чтобы расшифровать это дело и получить M вы делаете: F(F(M, E), D) = M. Вот все казалось бы так просто...
На самом деле, для того чтобы объяснить, как связаны E и D, нужно уходить в математику и для каждого алгоритма эта "связь" будет своя, это тема для отдельной статьи или раздела в книге :).
Второй способ использования - цифровые подписи. Например, как удостовериться, что сообщение, которое вам отправила подруга, написала именно она (пусть это будет Алиса)? Во-первых, Алиса публикует свой открытый ключ. Далее, она берет сообщение, которое хочет отправить вам, проделывает с ним какие-то манипуляции и на выходе получает строку, которая однозначно идентифицирует это сообщение (такая строка называется хешом (hash)). Затем, Алиса шифрует хеш с помощью своего закрытого ключа, прикрепляет полученную строку (она называется подпись) к своему изначальному сообщению и отправляет это вам. Вы, свою очередь, имея на руках открытый ключ, проделываете с полученным сообщением ту же операцию, что и Алиса, то есть получаете хеш. Далее, при помощи открытого ключа вы расшифровываете подпись. Вы наверное уже догадались, что хеш и расшифрованная подпись должны совпадать. Если не совпадают, тогда нехороший человек пытается вам насолить.
Здесь все очень грубо, я прошелся только по верхушке этого вопроса, если не по шапочке. Более подробную информацию можно найти здесь (и много еще где...):
https://en.wikipedia.org/wiki/Public-key_cryptography