equazioni parametriche di secondo grado

$x_1^2+x_2^2=s^2-2p$

dove:

$s=-\frac{b}{a}$

$p=\frac{c}{a}$

quindi: 

$s^2-2p=10$

Avrai sbagliato qualche calcolo.( forse non hai tenuto conto della realtà delle radici)

Io sono un po' tardo e devo rifare tutto per conto mio (senza LaTeχ [si legge LaTech, con acca aspirata]).
-----------------------------
La clausola a ≠ 0 garentisce la liceità delle equivalenze
* a*x^2 - 2*(a + 1)*x + (a - 3) = 0 ≡
≡ x^2 - 2*(1 + 1/a)*x + (1 - 3/a) = 0 ≡
≡ (x - (a + 1 - √(5*a + 1))/a)*(x - (a + 1 + √(5*a + 1))/a) = 0 ≡
≡ (x - X1)*(x - X2) = 0 ≡
≡ x^2 - s*x + p = 0
dove
* s = 2*(1 + 1/a) = X1 + X2
* p = (a - 3) = X1 * X2
---------------
Dal prodotto notevole "quadrato di binomio" si ha
* (m + n)^2 = m^2 + n^2 + 2*m*n ≡
≡ m^2 + n^2 = (m + n)^2 - 2*m*n = s^2 - 2*p
che, riportato alla tua equazione, vuol dire
* (X1)^2 + (X2)^2 = (2*(1 + 1/a))^2 - 2*(1 - 3/a) = 2*(a^2 + 7*a + 2)/a^2
-----------------------------
Punto G: soluzioni reali (5*a + 1 >= 0) tali che (2*(a^2 + 7*a + 2)/a^2 = 10)
* (2*(a^2 + 7*a + 2)/a^2 = 10) & (5*a + 1 >= 0) & (a != 0) ≡
≡ (a^2 - 7*a/4 - 1/2 = 0) & (a >= - 1/5) & (a != 0) ≡
≡ ((a = - 1/4) oppure (a = 2)) & (a >= - 1/5) & (a != 0) ≡
≡ a = 2
---------------
Verifica
* x^2 - 2*(1 + 1/2)*x + (1 - 3/2) = 0 ≡
≡ x^2 - 3*x - 1/2 = 0 ≡
≡ (x = (3 - √11)/2) oppure (x = (3 + √11)/2)
* ((3 - √11)/2)^2 + ((3 + √11)/2)^2 = (5 - 3*√11/2) + (5 + 3*√11/2) = 10
QED
-----------------------------
CONCLUSIONE
Io ho fatto quanto sopra come passatempo, ma non mi pare d'essermi distratto.
Dire "imposto così, ma ottengo risultato errato" non è molto informativo: posso dirti solo che imposti bene; ma se poi sia errato il tuo risultato o quello atteso dal libro come faccio a dirlo se non pubblichi nessuno dei due?