Proviamo prima due casi facili da controllare: mod 5 e mod 7.
$ 0 \longrightarrow 0 \equiv 0 \pmod p $
$ 1 \longrightarrow 1 \equiv 1 \pmod p $
$ 2 \longrightarrow 4 \equiv 4 \pmod p $
$ 3 \longrightarrow 9 \equiv 4 \pmod p $
$ 4 \longrightarrow 16 \equiv 1 \pmod p $
$ 0 \longrightarrow 0 \equiv 0 \pmod p $
$ 1 \longrightarrow 1 \equiv 1 \pmod p $
$ 2 \longrightarrow 4 \equiv 4 \pmod p $
$ 3 \longrightarrow 9 \equiv 2 \pmod p $
$ 4 \longrightarrow 16 \equiv 2 \pmod p $
$ 5 \longrightarrow 25 \equiv 4 \pmod p $
$ 6 \longrightarrow 36 \equiv 1 \pmod p $
Penso tu possa notare una certa simmetria, cioè ogni residuo quadratico, escluso lo 0, si ripete esattamente due volte.
Dimostrato questo seguirebbe immediatamente che essi sono $ \displaystyle \frac{p-1}{2} $, dacchè tutti i residui sono $ p $ e dobbiamo togliere lo 0.
Cerchiamo di capire in generale perché vale quanto detto: dato il residuo $ k $ ci sarà anche quello che puoi esprimere nella forma $ k-p $ [ad esempio, in quello di sopra, abbiamo $ 2 $ ma anche $ 7 $ che è $ \equiv 5-7=-2 \pmod 7 $], quest'ultimo ridotto mod $ p $ sarà equivalente a $ -k $ che elevato al quadrato è $ k^2 $, proprio come $ k $. Quindi i residui si presentano a coppie, 0 escluso, e sono $ \displaystyle \frac{p-1}{2} $.
Adesso però tu potresti muovermi un'obiezione: potrebbero esistere $ x^2 \equiv y^2 \pmod p $ con $ y \not =p-x $ e $ y \not = x $ $ \pmod p $.
Qui entra in gioco il suggerimento di EvaristeG, infatti $ x^2 -y^2 \equiv 0 \pmod p \longrightarrow (x-y)(x+y) \equiv 0 \pmod p \Rightarrow x \equiv \pm y \pmod p $,ma $ x $ e $ y $ sono residui quindi sono minori di $ p $ e conseguentemente $ x= \pm y $, e siamo proprio nei casi esclusi.
Questo conclude la dimostrazione.