Convexidad y subgradientes · Definición

Convexidad y matriz hessiana

optimización continuaconvexidad y subgradientes

Antes de empezar necesitas conocer

Cuando una función tiene derivadas segundas, la convexidad puede verificarse sin comparar cuerdas. Basta examinar la curvatura en cada punto mediante la hessiana.

Definición

Criterio que caracteriza la convexidad de una función diferenciable dos veces mediante la hessiana \(\nabla^2 f(x)\), que debe ser semidefinida positiva en cada punto del dominio.

\[f \text{ convexa} \iff \nabla^2 f(x) \succeq 0 \ \forall x \in \operatorname{dom} f\]

Si \(f\) es dos veces diferenciable y su dominio \(\operatorname{dom} f\) es convexo, entonces \(f\) es convexa si y solo si \(\nabla^2 f(x) \succeq 0\) para todo \(x\). Si la desigualdad es estricta en todo punto, \(f\) es estrictamente convexa, aunque el recíproco no siempre vale. Se comprueba con valores propios no negativos o con menores principales no negativos.

Considere \(f(x,y)=x^2+xy+y^2\). Sus derivadas segundas dan \(\nabla^2 f=\begin{pmatrix}2&1\\1&2\end{pmatrix}\), cuyos valores propios son \(1\) y \(3\), ambos positivos. Por tanto \(f\) es estrictamente convexa en \(\mathbb{R}^2\).

Un error típico es concluir convexidad mirando solo las entradas de la hessiana, por ejemplo que sean positivas. Una matriz con todas sus entradas positivas puede tener un valor propio negativo, como \(\begin{pmatrix}1&3\\3&1\end{pmatrix}\), y entonces no es semidefinida positiva.

Para pensar

¿Puede una función estrictamente convexa tener hessiana nula en algún punto?

Sí. Por ejemplo, \(f(x)=x^4\) es estrictamente convexa y \(f''(0)=0\), así que la desigualdad estricta en la hessiana no es necesaria.

Ejercicios 10

  1. ¿Qué condición sobre la hessiana garantiza que \(f\) sea convexa?
  2. Si \(\nabla^2 f(x)\) es semidefinida negativa en todo punto, ¿qué tipo de función es \(f\)?
  3. Para \(f(x)=x^2\), ¿cuál es su hessiana \(\nabla^2 f(x)\)?
  4. ¿Qué significa que una matriz simétrica sea semidefinida positiva?
  5. ¿Qué clase de conjunto debe ser el dominio de \(f\) para aplicar el criterio de la hessiana?
  6. Calcule la hessiana de \(f(x,y)=x^2+3xy\) y determine si es semidefinida positiva.
  7. ¿Para qué valores de \(a\) la función \(f(x,y)=x^2+axy+y^2\) es convexa en \(\mathbb{R}^2\)?
  8. Sea \(f(x,y)=e^{x}+y^2\). ¿Es \(f\) convexa en \(\mathbb{R}^2\)?
  9. Sea \(f(x,y)=x^3+y^2\). ¿Qué puede concluirse sobre la convexidad de \(f\) en \(\{x\geq 0\}\)?
  10. Sea \(f(x,y)=x^2-y^2+2xy\). Determine si \(f\) es convexa en \(\mathbb{R}^2\) y justifique con la hessiana.

Referencias

  • Stephen Boyd, Lieven Vandenberghe, Convex Optimization, 1st edition, Cambridge University Press, 2004.
  • Jorge Nocedal, Stephen J. Wright, Numerical Optimization, 2nd edition, Springer, 2006.