TRAZOIDE

.
Existen varias formas. Una es dividiendo el pentágono en tres triángulos mediante sus diagonales. Después hallas cuadrados equivalentes a cada triángulo y por último un cuadrado suma de las areas de los tres cuadrados. El segundo método es el que te expongo con mas detenimiento.

SOLUCIÓN :

a1 - Designemos los vértices del pentágono como ABCDE. Unir dos vértices de lados contiguos, B y D por ejemplo.
a2 - Hacer una paralela a BD por C.
a3 - Donde corte a la prolongación de AB será el nuevo vértice X.
a4 - El pentágono se ha transformado en un cuadrilátero, el AXDE.
a5 - Repetir el proceso. Unir A con D.
a6 - Por E hacer una paralela a AD.
a7 - Donde corte a la prolongación de AX es el nuevo vértice Y.
a8 - El cuadrilátero queda transformado en un triángulo XDY.
a9 - Hallar la media proporcional entre la mitad de la base de ese triángulo, XY/2, y su altura. Se esta planteando (B/2) / L = L / H, donde B y H son la base y altura del triángulo y L el lado del cuadrado.
a10 - El resultado obtenido es el lado del cuadrado buscado.