Нет, нельзя. Можно написать конечную и не слишком большую программу, которая потенциально может вычислить число пи с любой точностью. Следовательно, вся информация о числе пи будет содержаться в этой небольшой программе, то есть будет конечной.
А как же обращение к элементу, который не вместится в память, ведь их бесконечное число?