Rodrigo,
La parametrización que tomaste no está mal, el problema es que te lleva a una integral complicada.
Por lo general cuando tenes x^2-y^2=1 te conviene usar x=cosh(t) e y=sinh(t), el cual nos induce una parametrización
alpha(t)=(cosh(t), sinh(t), cosh(t)sinh(t)), con t entre 0 y 1
Fijate si podes ahora, cualquier cosa pregunte nuevamente. Saludos
Gabriel