К сожалению, я видел только две книги по предмету:
Ацел и Домбр "Функциональные уравнения с несколькими переменными..." (2003).
Нечепуренко "Итерации вещественных функций и функциональные уравнения" (1997). Есть в электронном виде.
В конце этих книг есть библиографии.
