Afirmo que $P(n) \leq n$.
Vamos a probarlo por inducción en la cantidad de dígitos ($d$) de $n$.
Si $d=1$ es claro que $P(n) = n$.
Ahora si para $d=k$ esto esta probado sea $d=k+1$ donde le agregamos un dígito a la izquierda a $n$ dándonos $n' = d_{k+1}10^k + n$:
$P(n) \leq n \to P(n') = d_{k+1}P(n) \leq d_{k+1}n$
Queremos que $d_{k+1}n \leq d_{k+1}10^k + n = n'$ para rematar la desigualdad, y esto es cierto ya que:
$d_{k+1}n \leq d_{k+1}10^k + n \to n(d_{k+1}-1) \leq d_{k+1}10^k \to \frac{(d_{k+1}-1)}{d_{k+1}} \frac{n}{10^k} \leq 1$
Y en particular esto es cierto ya que $d_{k+1}-1 < d_{k+1}$ y $n < 10^k$
Por lo que estamos con el paso inductivo y queda probada la afirmación.
Ahora el problema nos dice que: $n^2 -17n + 56 = P(n) \leq n$
$n^2 -18n + 56 \leq 0$
Que es una cuadrática de coeficiente principal $>0$, por lo que los valores que verifican la inecuacion están entre sus raíces que son $4$ y $14$.
$4 \leq n \leq 14$
Si $n$ tiene un dígito luego se da que $n = n^2 -17n + 56$ por lo que $n=4$ es la única solución de un dígito.
Probamos a mano los casos $n = 10, 11, 12, 13, 14$ y vemos que ninguno anda.
Luego $n=4$ es la única solución.
Es decir que necesitamos que $17^2-4(56-P(n))$ sea un cuadrado perfecto.
como $0 \leq P(n) \leq 9$ probamos los 9 casos y obtenemos que $P(n) = 4$ es el único que funciona
$n = \frac{17 \pm \sqrt{17^2 - 4(56-4)}}{2}$
que nos da los resultados
$n = 13$ y $n = 4$ pero $n = 13$ no funciona, así que sólo nos queda $n = 4$.
Rta: El único $n$ que funciona es $n = 4$