A colpo d'occhio, e prescindendo dalla cretinaggine del risultato atteso (o sei tu che hai trascritto riassumendo?), la parte di maggior casino mi pare sia quella delle equivalenze.
* spessore s = 2 mm
* base b = (x + 10) cm = (x + 100) mm
* altezza h = x > 0 mm
* volume V = b*h*s = (x + 100)*x*2 = 2*(x + 50)^2 - 5000 mm^3
* densità ρ = 8.5 kg/dm^3 = 17/2000000 kg/mm^3
* massa m = ρ*V = 17*(x^2 + 100*x)/1000000 kg
* prezzo p = 5 €/kg
* costo f(x) = m*p = y = 17*(x^2 + 100*x)/200000 €
Disequazione
* (17*(x^2 + 100*x)/200000 < 50) & (x > 0) ≡
≡ ((x + 50)^2 < 10042500/17) & (x > 0) ≡
≡ (- √(10042500/17) < x + 50 < √(10042500/17)) & (x > 0) ≡
≡ (- √(10042500/17) - 50 < x < √(10042500/17) - 50) & (x > 0) ≡
≡ 0 < x < √(10042500/17) - 50 ~= 718.5930614555709 ~= 718 mm
e non si vede alcun motivo perché debba essere proprio x = 400 mm (come mi pareva, una cretinata).