Зависит от того, в какие годы и где именно он служил? НКВД был очень большой организацией, в ней было много самостоятельных органов, которые впоследствии либо стали самостоятельными, либо были переименованы. Для начала посмотрите здесь:
https://nkvd.memo.ru/index.php/НКВД:Главная_страница ,
https://shieldandsword.mozohin.ru/personnel.htm, можно также попытаться поискать на "Подвиге народа", если он служил в 1941-45гг. Писать и подавать запросы можно как минимум в 3 организации: МВД, ФСБ и Росгвардия. Но еще раз повторю, нужны детали. То, что он носил форму НКВД или числился в НКВД абсолютно ни о чем не говорит, это пальцем в небо.