Valentín, que tal?
Bueno, primero que nada la idea es empezar haciendo lo que hiciste vos, es decir, plantear la primera cardinal y la segunda cardinal para ambos cuerpos de tu sistema.
Respecto a eso te hago un par de comentarios:
·En la primera cardinal de la BARRA, te faltaron algunos términos, tené en cuenta que vas a tener fuerzas reactivas actuando en el punto O, manteniendo a la barra fija a ese punto.
·Te aconsejo escribir las fuerzas en una sola base, ya sea i,j,k o los versores para polares. Al momento de separar las ecuaciones en sus respectivas componentes, te va a facilitar la vida!
·Podés escribir la distancia d entre el punto O y el punto de contacto en función del ángulo y del radio del rodillo.
Una vez hecho esto, vas a tener 2 ecuaciones para cada componente (por ejemplo i y j) de cada cuerpo, correspondientes a la primera cardinal de la barra y del rodillo, y una ecuación más para cada cuerpo, correspondientes a la segunda cardinal de cada objeto.
Hasta ahí vamos bien, era más o menos lo que habías hecho salvo por algún error.
Una vez llegado a este punto, hay que plantear la condición de que el rodillo no deslice, ni contra el piso ni contra la barra.
Esta condición es la siguiente: 
≤
Por lo tanto tenés que plantear esa condición para las reacciones normales y tangenciales en el punto de contacto entre el rodillo y la barra y entre el rodillo y la superficie del piso. Para esto la idea es despejar las reacciones de las ecuaciones cardinales y ahí si plantear la condición.
Me explico?
Espero que te haya quedado más claro, igual te recomiendo que veas la clase de práctico del 11/06 que se subió al EVA y justo trata este ejercicio, hay una presentación muy clara y está el video de toda la clase disponible.
Suerte y cualquier cosa preguntá de nuevo!