
Mi scuso per postare esplicitamente un “tentativo” di soluzione ma volevo sottoporlo per un riscontro sulla correttezza.
Anche per sostenere quanto detto da Talete

.
Dim.
Iª Parte)
Sia $p\ge 3$ DISPARI $p=2k+1$ e WLOG $x\le y$.
$\begin{align}
& \left( x;y \right)\in S\Rightarrow \sqrt{x}+\sqrt{y}<\sqrt{2p}\Rightarrow x+y+2\sqrt{xy}<2p\Rightarrow \\
& 4\sqrt{xy}\ \overset{AM-GM}{\mathop{\le }}\,x+y+2\sqrt{xy}<2p\Rightarrow 4xy<{{p}^{2}}\Rightarrow xy<\frac{{{p}^{2}}}{4}=\frac{4{{k}^{2}}+4k+1}{4}={{k}^{2}}+k+\frac{1}{4} \\
& \Rightarrow xy\le {{\left( \frac{p-1}{2} \right)}^{2}}+\left( \frac{p-1}{2} \right)\Rightarrow xy\le \left( \frac{p-1}{2} \right)\cdot \left( \frac{p+1}{2} \right). \\
\end{align}$
La coppia $\left( x;y \right)=\left( \frac{p-1}{2};\frac{p+1}{2} \right)\in S$ quindi $\sqrt{2p}-\sqrt{\frac{p-1}{2}}-\sqrt{\frac{p+1}{2}}$ è un candidato per minimo.
IIª Parte)
Claim: $\sqrt{2p}-\sqrt{\frac{p-1}{2}}-\sqrt{\frac{p+1}{2}}$
È il minimo su S.
Dim.
(Per assurdo!) Sia $\left( x;y \right)\in S$ tale che $0<\sqrt{2p}-\sqrt{x}-\sqrt{y}<\sqrt{2p}-\sqrt{\frac{p-1}{2}}-\sqrt{\frac{p+1}{2}}$.
Allora, essendo $p-1<\sqrt{{{p}^{2}}-1}$, si ha:
$\begin{align}
& \frac{p-1}{2}+\frac{p+1}{2}+\sqrt{{{p}^{2}}-1}<x+y+2\sqrt{xy}<2p\Rightarrow 2p-1<p+\sqrt{{{p}^{2}}-1}<x+y+2\sqrt{xy}<2p\Rightarrow \\
& 2p-1<x+y+2\sqrt{xy}<2p.\quad (*) \\
\end{align}$
Ma la relazione (*) è assurda, essendo $\left( x;y \right)\in \mathbb{N}\times \mathbb{N}$. (NON esisterebbero tali x,y!)