Hola, la hipotesis de convergenia es que si existe limite L entonces converge, entonces si $$ lim x_{n}=L => lim x_{n+1}=L $$ y como sabes que $$ x_{n+1} = \sqrt{2x_{n}^2+1} $$ sustituyendo te queda $$ L=\sqrt{2 L^2+1} $$ y despejando llegas a que $$ L^2=-1 $$ de donde sale la contradiccion ya que no no existe L