初歩からしっかり勉強したいんだったらFSNLPは確かに正統的入門書。

問題の論文の数式が何を言ってるかを手っ取り早く把握したいんだったら
こういう本から役に立ちそうなところを拾い読みするのもありだと思う。
甘利俊一他、言語と心理の統計、岩波書店
北研二、確率的言語モデル、東京大学出版会

あと統計的自然言語処理の分野でよく使われるのは機械学習、
その中でも特に教師つき学習というメソッドだから少なくとも
そのニュアンスぐらいは理解しとく必要があるね。