Какой процессор раскроет rx 6400 на максимум? И какую нужно взять мать и ОЗУ?

Для понимания надо начать с того для каких задач вы берете эту видеокарту - если у вас есть конкретная не требовательная игра прошлых лет в которую вы играете  до сих пор (например портированная с 360 ящика или массовый онлаин типа танков, WOW или Доты2) то покупка выбранной вами карты оправданна. Данные игры не перегружают систему объемом отрисовки и карта вам спокойно выведет 30-60 кадров с графикой ниже среднего. (для большего комфорта надо быть готовым что для некоторых игр придется ограничивать максимальное число кадров для их равномерного вывода - так собственно говоря работают игровые приставки) - для такой карты вполне подойдет платформа от 1155 -i7  2600 (если экономить в край и материнская плата с поддержкой UEFI) из более современных 1151v2 i3 оперативная память от 8 лучше 16 обязательно 2 канала.    Если же вы хотите играть в полный спектр современных игр то вам стоит сразу выбирать карты из линеек изначально игрового типа 1050  или устаревшею игровую карту типа 960 данные карты обладают повышенной пропускной способностью и выдают пусть и меньшие но более равномерные кадры гарантирующие комфортную игру на более долгий срок. под них уже от 1151v2 i5. Главное не в коем случае не экономить на   блоке питая - запас по 30 процентов от суммарного потребления, на каких китайских переходников на Molex иначе загубите карту.