Как ни странно, недооцененной компетенцией в рамках статистики, который редко кому-то приходит в голову - это философия науки.
Очень важно понимать чисто философские концепции такие как репрезантативность или релевантность, Понимать взаимообратную связь, что можно получить из собранных данных, а чего нельзя, и, обратно, какие данные нужно собирать, чтобы выяснить ответы на определенные вопросы.
И самое главное, это пресловутые навыки формализации задачи. Понимать как задача "обычной жизни" преобразуются в "статистическую постановку". Тот навык, которые в школе упущен из-за недостатка "текстовых задач".
Именно поэтому некоторые студенты-математики встречают на курсе статистики проблемы, когда оказывается, что задачи формулируются на обыкновенном языке и нужно переводить задачу в рамки формальной математичекой постановки.
Не понимают часто, почему считается, что измерения чего-то прибором являются нормально распределнными, а, например, время ожидания, экспоненциально. А ещё что-то биномиально, а что-то по Пуассону.
Ну и уж совсем мрак начинается, когда пытаешься объяснить то что происходит "при достаточно большом количестве измерений".
Есть курс на stepik "Основы статистики" от института биоинформатики. Там есть всё, что перечислил Андрей и объясняется довольно понятно. Как вариант для изучения.
Согласна с ответом
*Хтонический ужас из морских глубин пробуждается, услышав слово Statistica*
- R лучше!
*Засыпает обратно*