Buenas,
el teo. de Lagrange, aplicado a este caso, dice que hay un c en el (0,2) tal que f(2)-f(0)=2f'(c). Ahora, ese c no sabés si es mayor o menor que 1, por lo que tenés que probar con las 2 partes de la función y ver en cual llegás a un resultado correcto, en lugar de utilizar la función cuando x ≥ 1. El resto del procedimiento es correcto, probablemente tengas algún error de cuentas. A mi me queda $$a=b=-1$$ y $$c=1$$, por lo que $$a^2+b^2+c^2=3$$
Saludos