Encontrar todas las parejas $(a, b)$ de números reales positivos tales que $\left \lfloor a\left \lfloor bn \right \rfloor \right \rfloor=n-1$ para todo entero positivo $n$.
Tenemos que $\lfloor a\lfloor bn\rfloor\rfloor=n-1\leq a\lfloor bn\rfloor\leq abn$, así que $ab\geq\frac{n-1}{n}$$\forall n\in N$, pero tenemos que $lim_{n\rightarrow\infty} \frac{n-1}{n}=1$, por lo tanto $ab\geq 1$
También tenemos que $\lfloor a\lfloor bn\rfloor\rfloor+1=n>a\lfloor bn\rfloor>a(bn-1)=abn-a$,
entonces nos queda que $n(1-ab)>-a$. Si $ab=1$ la desigualdad se cumple, pero si $ab>1$ nos queda que $n<\frac{a}{ab-1}$, o sea que $n$ no puede ser cualquier natural (absurdo), por lo tanto $ab=1$ y $b=\frac{1}{a}$
Para que sea $\lfloor a\lfloor\frac{n}{a}\rfloor\rfloor\leq n-1$ debe ser $a\lfloor\frac{n}{a}\rfloor<n$, lo cual se cumple siempre que no sea $\frac{n}{a}$ natural, pero si $a$ es racional, $a=\frac{p}{q}; p, q\in N$, tendremos que $\frac{n}{a}=\frac{nq}{p}$ será natural si $n$ es múltiplo de $p$ (absurdo), por lo tanto tenemos que $a$ es irracional.
Para que sea $\lfloor a\lfloor\frac{n}{a}\rfloor\rfloor\geq n-1$ debe ser $a\lfloor\frac{n}{a}\rfloor\geq n-1\implies\lfloor\frac{n-1}{a}+\frac{1}{a}\rfloor\geq\frac{n-1}{a}$. Si $a<1$ tenemos que $\frac{1}{a}>1$, y así $\lfloor\frac{n-1}{a}+\frac{1}{a}\rfloor\geq\lfloor\frac{n-1}{a}\rfloor+1>\frac{n-1}{a}$, por lo tanto la desigualdad se cumple. Pero si $a>1$ tenemos que $\frac{1}{a}<1$, entonces va a existir un natural $n$ tal que $\frac{n-2}{n-1}<\frac{1}{a}<\frac{n-1}{n}$, y así $n-2<(n-1)\frac{1}{a}<n\frac{1}{a}<n-1$, pero entonces no se cumple la desigualdad (absurdo).
Por lo tanto concluimos que las parejas que cumplen son $(a,\frac{1}{a})$, con $a$ irracional y $0<a<1$