Consulta Colab NLP

Consulta Colab NLP

de Leonardo Martinez Hornak -
Número de respuestas: 7

Hola, 

Me está dando este error en el colab de Transformers:

XlaRuntimeError: INTERNAL: RET_CHECK failure (external/org_tensorflow/tensorflow/compiler/xla/service/gpu/gpu_compiler.cc:641) dnn != nullptr

El mismo sucede usando la respuesta "oficial" del primer ejercicio (dot product attention). Al parecer es un tema de versiones instaladas de CuDNN. 

¿Se comentó en el práctico cómo soluciarno?


Gracias.


En respuesta a Leonardo Martinez Hornak

Re: Consulta Colab NLP

de Pablo Muse -

Hola Leonardo,

Creo que por defecto va a correr en TPU y falla. Probá cambiando el runtime type a GPU primero, sino a nada. 

Cualquier otra duda sobre los prácticos escribile a Ignacio Ramírez a nacho@fing.edu.uy.

Saludos,

Pablo



En respuesta a Pablo Muse

Re: Consulta Colab NLP

de Alvaro Valdes -
Leonardo,

Resolviste la falla del colab de NLP?

Le puedo preguntar a Nacho, pero si ya tenes la respuesta mejor.

Gracias,
Alvaro
En respuesta a Alvaro Valdes

Re: Consulta Colab NLP

de Leonardo Martinez Hornak -
Hola Álvaro,

No, no pude resolver. Le mandé un correo a Ignacio pero no me ha contestado.
Por las dudas, el runtime ya lo tenía en GPU y hay una celda que verifica esto y da resultado correcto.

Gracias por tu ayuda,
En respuesta a Leonardo Martinez Hornak

Re: Consulta Colab NLP

de Alvaro Valdes -
Leonardo,

Proba agregando esto en una celda de código, antes de los pip install.

### Agregado Para que al menos funcione en GPU
import jax
import jax.numpy as jnp
from jax import grad, jit, vmap, pmap

import matplotlib.pyplot as plt
import numpy as np

key = jax.random.PRNGKey(42)

Con GPU logré que siga (que no de el error en esa primer función)

Si con eso funciona no me voy a quemar mas (sin fundamento teórico)

Contame como te fue.

Saludos,
Alvaro
En respuesta a Leonardo Martinez Hornak

Re: Consulta Colab NLP

de Ignacio Ramirez -

Perdón si no contesté antes.

La verdad es que tendría que ver todo de cero.

Talvez hay una confusión: yo no soy el que los hizo, ni el que mantiene, ni el responsable de los notebooks.

Sólo puedo responder por el de JAX, que ese sí lo hice, y un poco por el de GNN, que lo revisé.

Podríamos consultar a quien lo dio a ver que dice. Si querés te dirijo a esa persona.

Saludos.