計算化学の参考書
HOW TO分子シミュレーション―分子動力学法、モンテカルロ法、ブラウン動力学法、散逸粒子動力学法
分子モデリング概説 – 量子力学からタンパク質構造予測まで
分子シミュレーション講座 朝倉書店シリーズ
分子シミュレーション 古典系から量子系手法まで 裳華房
また 量子論もかかわるので 物理化学の量子論の項目でハミルトニアンやらシュレディンガー方程式の基礎を読んでおきましょう
もちろん 量子論系の入門書を探すのもありです
ただ数がすさまじく内容もさまざまなので(結局ハイレベルの内容含む)とにかく
書店・図書館の立ち読みでこれなら読めそうというものを探すしかないです
また 演算では汎関数というものをよく用いますが
密度汎関数理論についてわかりやすいのが次の2冊
密度汎関数の基礎 講談社
密度汎関数理論入門 理論とその応用 吉岡書店
あとはCiniiやらいろいろで論文検索してください
WCG さんが回答