Hola Martín,
los extremos de una órbita corresponden tanto a como a ya que marcan que no hay un cambio instantáneo de la distancia al centro de fuerzas (como bien decís, están relacionados a partir de , por lo que si se anula uno se anula el otro): la partícula alcanzó un máximo o mínimo relativo de la distancia al centro de fuerzas.
Por lo tanto, tu búsqueda de tal que es una forma correcta de empezar a resolver el problema. Te sugiero que verifiques que ese se corresponde con la bisectriz del ángulo que forman las rectas punteadas en el problema, dada la simetría que debe tener la órbita con respecto al punto extremo, y que evalúes luego para ese hallado, tal como decís vos.
(Sería interesante también que no dejaras de ver que por el lado del análisis energético el resultado es el mismo.)
Saludos y suerte con las cuentas!
Ariel.