Ciao,
\[z = f(x,y) = {x^3} - 3{x^2}y - 3x{y^2} + {y^3}\]
\[A = \{ \;(x,y) \in {R^2}\;|\;\;\left| x \right| < 1\;\;,\;\;\left| y \right| < 1\;\} \]
il dominio A dato non è altro che una zona di "vincolo" del dominio naturale della funzione che sarebbe ovviamente tutto ${R^2}$.
Si chiede in pratica di limitare la ricerca dei max e min assoluti all'interno della zona quadrata di lato 2 centrata nell'origine ossia
\[\begin{array}{l}
\left| x \right| < 1\;\;\; \to \;\;\; - 1 < x < 1\\
\left| y \right| < 1\;\;\; \to \;\;\; - 1 < y < 1
\end{array}\]
Poichè non sono compresi i bordi (x=-1, x=1, y=-1, y=1), cioè l'insieme vincolo è aperto, è sufficiente ricercare i punti critici di max e minimi relativi liberi su tutto il dominio naturale della funzione (${R^2}$), con il solito metodo del gradiente nullo (derivate parziali nulle) + studio dello Hessiano, e successivamente scartare tutti i punti (x,y) trovati che cadono fuori dalla zona di vincolo A.
A questo punto per tutti i punti di max e min trovati che cadono nella zona A basterà calcolare il valore di "quota" z della funzione in quei punti; ad esempio se abbiamo trovato i seguenti punti di max/min:
\[{P_1}({x_1},{y_1})\;\;\;{P_2}({x_2},{y_2})\;\;\;{P_3}({x_3},{y_3})\;\;\;...\]
calcoliamo le quote della funzione in quei punti
\[\begin{array}{l}
{z_1} = f({x_1},{y_1})\\
{z_2} = f({x_2},{y_2})\\
{z_3} = f({x_3},{y_3})\\
...
\end{array}\]
allora ne segue che:
il più alto valore di quota z sarà il max assoluto cercatoil più basso valore di quota z sarà il min assoluto cercatoSi noti che il problema è l'analogo dello studio dei max e min assoluti per le funzioni di una variabile (in Analisi 1) dove l'insieme A potrebbe essere ad esempio il solito intervallo A=[a,b] all'interno del quale si chiede di limitare lo studio dei max e min trovando (se esiste) il più alto/basso valore di quota della funzione y=f(x).
NB: Le cose confuse dette dal tuo prof universitario sono probabilmente dovute, oltre alla fretta, anche dal solito comportamento didattico errato di dare per scontato concetti base elementari che il 90% degli studenti non hanno mai acquisito nelle scuole superiori e che non sono quindi in grado di dedurre astrattamente anche cose banali che nessuno ha mai loro raccontato!

Saluti.