Это специальное оборудование (иногда программное), которое предназначено быть посредником между Вами и сайтами.
В обычной домашней сети, Вы, выходя в Интернет, подключаетесь к сайтам на прямую.
Если же подключение происходит через прокси-сервер, то Вы, от лица этого сервера, подключаетесь к сайтам. Сайты "думают", что к ним подключился именно прокси-сервер, а не Вы. То есть в этом случае появлется некоторая "анонимность" в Интернете, а также можно использовать для обхода заблокированных сайтов.
В корпоративных сетях крупных компаний, прокси сервер нужен для контроля доступа пользователей в Интернет. С помощью прокси-сервера, можно отследить, кто, когда, насколько долго просидел в Интернете. Сколько мегабайт скачал и т.д. А также удаленно блокировать или разблокировать доступ.
В общем хорошая штука.
Очень нужная штука