Чем может быть опасно широкое применение Data science?

Опасность технологий Big Data в том, что очень велик соблазн применять выдаваемые ими результаты в вещах меняющих жизни конкретных людей. Но при этом. Нет прозрачной понятной зависимости между входными и выходными данными этих алгоритмов. Что для научных целей хорошо поскольку как раз неожиданные результаты и сопсобствуют прорыву. Но не особо здорово в житейских применениях.

Пример - спорная даже для Китая внедряемая там система "социального кредита". Когда вся имеющаяся в доступе у государства информация анализируется с помощью Big Data. И на основании этого человеку присваивается рейтинг. Низкие значения которого приводят к значительным ограничениям в жизни.

Я трезво отношусь ко "всеобъемлющей свободе слова" и "правовому государству". Я прекрасно понимаю что очень далеко не везде в мире это хорошо работает. Где общество не само достигло этого, а это навязано извне, это приносит больше вреда чем пользы. НО. Например в Советском Союзе были пусть неписанные но всем известные правила как не нарываться. Не критикуй открыто высокое руководство (ну где-то выше начальника цеха на работе или заведующей ближайшего универсама), не выражай открытое восхищение жизнью в других странах корме социалистических, не попадайся с запрещенной литературой, не играйся с самодельным радиопередающим оборудованием... И в общем если ты сам не высокая "шишка", с проблемами по политической части ты разминешься. Кроме редких случаев фантастического невезения из разряда образно говоря "на голову упал метеорит". Несколько другие, но тоже в общем кому нужно известные правила есть и в современной России, и в Китае до внедрения "социальных кредитов". А дальше уже выбор каждого человека - жить спокойно или идти наперекор.

А вот с "социальным кредитом" никакой определенности как строить жизнь чтобы не нарываться (ну или наоборот как нарваться, для тех кому нравится ходить по острию бритвы :-) ) не получается. В Китае пострадавшие от "социального кредита" в основном пока по результатам судебных процессов. Ну например люди не пожелавшие договориться с противоположной стороной во внесудебном порядке, а настоявшие на полноценном судебном процессе. Что не противоречило не законам не деловым традициям Китая до этого.

Пока это развивается в странах типа Поднебесной это полбеды. Ну поскольку Китай по степени пофигизма к формальным правилам из того где я был на почетном втором месте после Вьетнама. И я уверен что как раз там известная фраза "строгость закона компенсируется необязательностью его исполнения" со временем свое дело сделает.А вот если дело дойдет до более правовых государств типа Европы и США, где-то на грани подобного правосознания между Европой и Китаем находится и Россия. То это сделает жизнь мягко скажем некомфортной и небезопасной.