Могут ли люди прослушивать меня через микрофон на телефоне (не во время звонков)? Если да, то какая система наиболее подвержена этому - iOS или Android?

Так как вопрос задан явно о смартфонах, то ответ на него очевиден и довольно прост. (Не про смартфоны спросите отдельно, если нужно.)

Не во время звонка телефон может иметь соединение с сетью пакетной передачи данных. При этом он имеет техническую возможность получать информацию с камер и микрофона (да, и других датчиков), а также выполнять различные приложения в названных операционных системах.

Далее всё зависит от того, какие программы (включая вирусы) установлены на этом смартфоне.

Злоумышленники теоретически могут использовать:

• уязвимости самого телефона,
• уязвимости на серверах приложений которыми вы пользуетесь,
• а также уязвимости инфраструктуры (перехватить трафик идущий мимо, у оператора или провайдеров).
  Второй и третий кейсы менее вероятны.

Можно конечно декларировать, что iOS защищена лучше, так как, например, не позволяет пользователю устанавливать непроверенные приложения не из AppStore, но я не думаю, что в выборе операционной системы есть какая-либо решающая разница. Самым опасным элементом в этой системе является пользователь, который устанавливает и запускает приложения.

Кроме того, получить доступ к микрофону и камере можно заставив пользователя перейти по ссылке на страницу, где работает обычный javascript. Т.е. самый обычный браузер (которых часто бывает установлено несколько) может быть тем самым приложением, которое собирает и передаёт на некий сервер требуемую информацию.

Примечательно, что часто можно видеть, как люди заклеивают камеры на ноутбуках, и при этом не делают этого на смартфонах. :) Хотя смартфон - это более привлекательный канал для подслушивания и подглядывания.