Aiuto esercizio: in un triangolo rettangolo la somma dei cateto è 10m, quali sono le misure dei cateti che rendono minime l’ipotenusa?

Scusa, ma che t'importa dello studio del segno?
Vai direttamente a minimizzare l'ipotenusa, che è ciò che l'esercizio chiede di fare.
------------------------------
In un triangolo rettangolo non degenere con lati
* 0 < a <= b < c = √(a^2 + b^2)
la somma dei cateti è vincolata a un valore dato
* a + b = s
quindi
* a = s - b
* c(b) = √((s - b)^2 + b^2)
* c'(b) = (2*b - s)/√((s - b)^2 + b^2)
* c''(b) = s^2/(((s - b)^2 + b^2))^(3/2)
---------------
La condizione di minimo relativo è
* (c'(b) = 0) & (c''(b) > 0) & (0 < b < s) ≡
≡ (b = s/2) & (s^2/(((s - s/2)^2 + (s/2)^2))^(3/2) > 0) & (0 < b < s) ≡
≡ (b = s/2) & (2*√2/|s| > 0) & (0 < b < s) ≡
≡ b = s/2
------------------------------
Per s = 10 cm si ottiene a = b = 5 cm, cioè si ottiene che il triangolo rettangolo richiesto è metà del quadrato che ha per lato la metà della somma dei cateti fissata,

come lecito attendersi sono due cateti uguali a minimizzare l'ipotenusa , così come sono due cateti uguali a massimizzare l'area a parità di loro somma 

Indichiamo l'ipotenusa del triangolo rettangolo con c. 

Vale la relazione:

c² = x² + (10 - x)² = 2x² - 20x + 100

Equazione di una parabola (a>0 : concavità verso l'alto) con minimo nell'ascissa del vertice:

x = - b/2a = 20/4 = 5

y = 10 - 5 = 5

Quindi: x=y = 5

Triangolo rettangolo isoscele di ipotenusa c= 5*radice (2)