Еще можно сюда добавить такую книгу как Т.В. Батура "Математическая лингвистика и автоматическая обработка текстов на естественном языке" (Новосибирск, 2016). Для чтения там, конечно, требуется знание математического аппарата, но многое там вводится по ходу изложения, еще, замечу, достоинство этой книги в том, что в ней сразу собраны описания многих методов и моделей, которые освещены в имеющейся литературе достаточно разрозненно, либо излагаются в литературе, которая начинающему покажется сложной.
Ю.Н. Марчук, "Компьютерная лингвистика" (М., 2007), — в части теории по основным вопросам все хорошо изложено, можно составить представление об основных задачах компьютерной лингвистики. Нужно учесть, что с момента выхода "прикладные" аспекты (что касается софта, например) в значительной мере изменились, но в качестве теоретической основы использовать можно и нужно. Да, и раздел про терминологию и терминографию там хорошо написан.