Avant de définir les fonctions convexes, on introduit la notion d'ensemble convexe.
On remarque que pour $\lambda = 0$, $\lambda x + (1-\lambda) y = y$ et pour $\lambda = 1$, $\lambda x + (1-\lambda) y = x$. Géométriquement, les valeurs intermédiaires de $\lambda$ donnent tous les points du segment de droite entre $x$ et $y$. La condition signifie donc que tout segment de droite reliant deux points de $A$ est entièrement contenu dans $A$. Pour $\lambda = \frac{1}{2}$, on a d'ailleurs la moyenne arithmétique de $x$ et $y$, c'est-à-dire le milieu des deux points.
Exemple d'ensemble convexe.
On dit par ailleurs qu'un sous-ensemble de $\mathbb{R}^2$ est
concave s'il n'est pas convexe.
Exemple d'ensemble concave.
Exemple : Le disque $D = \{(x,y)\in \mathbb{R}^2 | x^2 + y^2 \leq 1\}$ est convexe.