Ciao!
Innanzi tutto notiamo che, come hai giustamente sottolineato, si tratta di un problema di statica: dobbiamo, quindi, partire dal presupposto che ci servirà sfruttare le equazioni cardinali.
$ \Biggl\{ \begin{matrix}\sum_i \vec{F}^{(est.)} \\\sum_i \vec{M}^{(est.)} \end{matrix} $
Ora, tutto sta nello scomporre lungo gli assi e nello scegliere un polo "comodo".
Asse y: $ \vec{P_{\perp}}+\vec{R_{A}}+\vec{R_{B}}=\vec{0} \rightarrow $
$ R_{A}+R_{B}-mgsin\theta=0 $
Asse x: $ \vec{P_{ \parallel }}+\vec{F_{att}}=\vec{0} \rightarrow mgcos\theta-F_{att}=0 \rightarrow $
$ F_{att}=mgcos\theta $
Momenti: Come accennato, va scelto un polo comodo. Dato che le uniche forze agenti sono il peso, le reazioni in A e B e la forza d'attrito, a mio avviso il polo più comodo possibile è il punto medio di AB.
$ \vec{M_{R_{A}}}+\vec{M_{R_{A}}}+\vec{M_{F_{att}}}+\vec{M_{P}} $
Prima di qualsiasi altra considerazione, occorre capire quali forze effettivamente generino un momento non nullo.
Notiamo che, dato che la forza d'attrito è applicata nel polo, il momento da essa generato sarà nullo.
Allo stesso modo, poiché la forza peso è applicata nel centro di massa dell'oggetto (intersezione delle diagonali), la componente perpendicolare non genera momento (la forza agisce lungo la congiungente di polo e punto d'applicazione).
Avremo quindi:
$ \vec{M_{R_{A}}}+\vec{M_{R_{A}}}+\vec{M_{P_{\parallel}}} $
Ora, prima di scriverne le espressioni esplicite, conviene determinare il segno dei momenti. Scegliamo come verso positivo quello entrante nel foglio.
$ \vec{R_{A}} $ tende a far ruotare il corpo in senso orario, quindi il momento ad essa dovuto è entrante nel foglio: quindi:
$ \vec{M_{R_{A}}} \rightarrow M_{R_{A}} $
$ \vec{R_{B}} $ tende a far ruotare il corpo in senso antiorario, quindi il momento ad essa dovuto è uscente dal foglio: quindi:
$ \vec{M_{R_{B}}} \rightarrow -M_{R_{B}} $
$ \vec{P_{\parallel}} $ tende a far ruotare il corpo in senso orario, quindi il momento ad esso dovuto è entrante nel foglio: quindi:
$ \vec{M_{P_{\parallel}}} \rightarrow M_{P_{\parallel}} $
In definitiva:
$ M_{R_{A}}-M_{R_{B}}+M_{P_{\parallel}}=0 $
Ora cerchiamo di esplicitarne le espressioni.
$ \vec{M_{R_{A}}}=\vec{R_{A}}\wedge $ $ \vec{b_{1}}=R_{A}b_{1}sin90=R_{A}b_{1}=R_{A}\frac{b}{2} $
$ \vec{M_{R_{B}}}=\vec{R_{B}}\wedge $ $ \vec{b_{2}}=R_{B}b_{2}sin90=R_{B}b_{2}=R_{B}\frac{b}{2} $
$ \vec{M_{P_{\parallel}}}=\vec{P_{\parallel}}\wedge $ $ \vec{b_{3}}=P_{\parallel}b_{3}sin90=P_{\parallel}b_{3}=mgcos\theta\frac{h}{2} $
Quindi:
$ M_{R_{A}}-M_{R_{B}}+M_{P_{\parallel}}=0 \rightarrow $
$ R_{A}\frac{b}{2}-R_{B}\frac{b}{2}+mgcos\theta\frac{h}{2}=0 $
Riassumendo:
$ \Biggl\{ \begin{matrix}-mgsin\theta+R_{A}+R_{B}=0\\F_{att}=mgcos\theta\\R_{A}\frac{b}{2}-R_{B}\frac{b}{2}+mgcos\theta\frac{h}{2}=0\end{matrix} \rightarrow $
$ \Biggl\{ \begin{matrix}-mgsin\theta+R_{A}+R_{B}=0\\F_{att}=mgcos\theta\\R_{A}b-R_{B}b+mgcos\theta h=0\end{matrix} $
L'equazione II risponde (come probabilmente hai notato dall'inizio) alla seconda richiesta: l'angolo per cui si risolve il sistema è, infatti, l'angolo limite per cui vale la condizione di statica.
Ora sfruttiamo le altre due per trovare le reazioni vincolari.
$ \Biggl\{ \begin{matrix}-mgsin\theta+R_{A}+R_{B}=0\\R_{A}b-R_{B}b+mgcos\theta h=0\end{matrix} \Biggl\{ \begin{matrix}R_{A}=mgsin\theta-R_{B}\\R_{A}b-R_{B}b+mgcos\theta h=0\end{matrix} \Biggl\{ \begin{matrix}R_{A}=mgsin\theta-R_{B}\\b(mgsin\theta-2R_{B})+hmgcos\theta=0\end{matrix} $
$ \Biggl\{ \begin{matrix}R_{A}=mgsin\theta-R_{B}\\R_{B}=\frac{1}{2}mgsin\theta+\frac{h}{2b}mgcos\theta\end{matrix} \Biggl\{ \begin{matrix}R_{A}=mgsin\theta-R_{B}\\R_{B}=\frac{1}{2}mg(sin\theta+\frac{h}{b}cos\theta)\end{matrix} $
In definitiva:
$ \Biggl\{ \begin{matrix}R_{A}=\frac{1}{2}mg(sin\theta-\frac{h}{b}cos\theta)\\R_{B}=\frac{1}{2}mg(sin\theta+\frac{h}{b}cos\theta)\end{matrix} $
Quindi:
$ \Biggl\{ \begin{matrix}R_{A}=\frac{1}{2}mg(sin\theta-\frac{h}{b}cos\theta)\\R_{B}=\frac{1}{2}mg(sin\theta+\frac{h}{b}cos\theta)\\F_{att}=mgcos\theta\end{matrix} $
Ora, una volta trovate le espressioni delle forze, concentriamoci sulla prima richiesta del problema (che si poteva ottenere anche in altro modo): l'angolo limite.
Il volo pindarico che va fatto in questo caso è abbastanza intuitivo: l'angolo limite corrisponde a quello per cui il corpo si ribalta, quindi quando il vertice A si stacca dal piano. In quel caso, $ R_{A}=0 $.
In definitiva, bisogna trovare il valore di $ \theta $ tale per cui la reazione in A si annulla.
$ R_{A}=\frac{1}{2}mg(sin\theta-\frac{h}{b}cos\theta)=0 $
$ sin\theta-\frac{h}{b}cos\theta=0 $
$ sin\theta=\frac{h}{b}cos\theta $
$ tan\theta=\frac{h}{b} $
Ti avevo accennato alla possibilità di ragionare in modo diverso per trovare subito la prima risposta. Effettivamente si può partire dalla condizione posta sulla reazione vincolare in corrispondenza dell'angolo limite (ovvero la sua nullità), e trasformare quella prima parte del problema in uno di geometria, ma ho impostato il problema in questo modo per arrivare a tutte le soluzioni con un unico "blocco" risolutivo (e, inoltre, operare in questo modo ti consente di ottenere il valore dell'angolo gratis, senza altre considerazioni).
Lascio a te il compito di sostituire i dati numerici. Spero di esserti stato d'aiuto.
PS. Ovviamente se riscontri errori di distrazione o se hai bisogno di chiarimenti, dimmi pure! 😀