Wlog, supponiamo che $ x\leq y \leq z $ : allora abbiamo anche $ xy\leq xz \leq yz $ .
Applicando la disuguaglianza di riarrangiamento alla terna $ (xy;xz ;yz ) $ otteniamo quindi
$ x^2yz+xy^2z+xyz^2 \geq 2xy^2z+x^2z^2 $
quindi possiamo scrivere
$ LHS\leq 3(x^2y^2+y^2z^2+z^2x^2)-4xy^2z-2x^2z^2= y^2 (3x^2-4xz +3z^2)+x^2z^2 $
Il trinomio tra parentesi ha discriminante negativo, quindi è sempre positivo. Inoltre è un paraboloide convesso, quindi avrà il proprio massimo sul contorno. Per $ x=0 $, il trinomio vale $ 3z^2 $, per $ x=1 $ vale $ 3z^2-4z+3 $, che a sua volta è convesso e ha il proprio massimo nell'intervallo $ [0;1] $ in $ z=1 $, dove vale 2.
Dunque la condizione che massimizza il trinomio è $ x=z=1 $, ed è anche quella che massimizza il termine $ x^2z^2 $ . Massimizzando $ y^2 $ con 1, otteniamo infine
$ LHS\leq y^2 (3x^2-4xz +3z^2)+x^2z^2\leq 1\cdot 2+1=3 $
Non sono sicuro che vada bene, quindi correggete pure se ce n'è bisogno...
