Purtroppo con i sistemi di grado superiore al primo non esistono tecniche generali o procedimenti da preferire rispetto ad altri!
L'idea di fondo è sempre quella della sostituzione cercando di ricavare per prime le incognite più comode dalle equazioni più comode da sostituire poi nelle altre equazioni in modo che da quelle si riesca poi ad estrarre le altre incognite sempre nel modo più comodo possibile.
Nel caso del tuo sistema
\[\left\{ \begin{array}{l}
1 - \lambda (2x - y) = 0\\
1 - \lambda ( - x + 2y - 1) = 0\\
{x^2} - xy + {y^2} - y = 0
\end{array} \right.\]
mi sembra ovvio che dovresti lavorare prima tra le 2 prime equazioni che, essendo di primo grado rispetto alla x e y, ti consentiranno facilmente di ricavare la x e la y in funzione di $\lambda$ per poi sostituirle nella terza equazione (di secondo grado) per ricavare tutti i valori di $\lambda$ corrispondenti.
Saluti.
