Acabamos de ver que, desde el siglo XVI, se sabía que las ecuaciones polinómicas de grado inferior a cinco eran resolubles por radicales.

¿Podía afirmarselo mismo de las ecuaciones de grado superior?

Esta cuestión mantuvo ocupado a Paolo Ruffini durante buena parte de su vida.

En su Teoria generale delle equazioni, in cui si dimostra impossibile la soluzione algebraica delle equazioni generali di grado superiore al quarto, publicada en 1799, presentó una demostración sobre la imposibilidad de resolver por radicales las ecuaciones de grado superior al cuarto. Dicha demostración fue revisada en las versiones de 1803, 1808 y 1813.En la introducción de su memoria puede leerse:

La resolución algebraica de las ecuaciones generales de grado mayor que el cuarto es siempre imposible. (...) presentar la prueba de ello es la razón principal para publicar este volumen. El inmortal Lagrange, con sus reflexiones sublimes, ha proporcionado las bases de mi demostración.

La demostración de Ruffini no fue concluyente, dado que se apoyaba en una hipótesis incompleta, ni fue bien recibida por la mayoría de sus contemporáneos (algunos de ellos ni la entendieron) y sucesores.

Joseph Louis Lagrange (1736 – 1813) no contestó a las cartas de Ruffini en las que le solicitaba su opinión acerca de su memoria.

Giovanni Francisco Malfatti (1731 – 1807), en su Dubbii proposti al socio Paolo Ruffini sulla sua dimostrazione della imposibilita di risolvere le equazioni superiori al quarto grado, manifestó sus dudas acerca de la irresolubilidad de la quíntica.Adrien Marie Legendre (1752 – 1833) y Lazare Carnot (1753 – 1823) también se expresaron en similares términos.

Ruffni: Teoria Generale delle equazioni

Por su parte, Niels Henrik Abel (1802–1829) al que se debe la demostración definitiva de la irresolubilidad, refiriéndose a la prueba de Ruffini se despachaba así:

El primero, si no me equivoco, el único antes de mi que ha intentado demostrar la imposibilidad de la resolución algebraica de las ecuaciones generales, es el geómetra Ruffini; pero su memoria es tan complicada que es difícil juzgar la veracidad de su razonamiento. Me parece que su razonamiento nosiempre es satisfactorio.

El único matemático de prestigio que apoyó a Ruffini fue Augustin-Louis Cauchy (1789 – 1857) que, en una carta remitida en 1821, le decía:

(...) a mi juicio, su memoria prueba completamente la imposibilidad de resolver algebraicamente ecuaciones de grado superior al cuarto.

Lo que resulta sorprendente y extraño es que nadie descubriese el error cometido y se lo comunicase al interesado.

En su demostración Ruffini se apoyó en algunos resultados de Lagrange sobre grupos de permutaciones pero también utilizó conceptos, procedimientos y teoremas originales de Teoría de Grupos (véase el cuadro adjunto). Consideró funciones racionales de las raíces de la ecuación general de grado n y estudió el conjunto de las p permutaciones que las dejan invariables.

En particular, demostró que en el caso de la quíntica el grado n!/p (siendo p el número de permutaciones que dejan invariable la función)de la ecuación resolventepuede ser 2, 5 o 6, pero ni 3, ni 4. Esto significa que una resolvente (en el sentido de Lagrange) satisfaciendo una ecuación de grado 3 o 4 es imposible. Si n!/p no es 2, entonces debe ser divisible por 5. Si n!/p es 5, existen resolventes de Lagrange de quinto gradopero no se pueden reducir a ecuaciones binomias de grado 5.Esto equivale a decir que la quíntica es irresoluble por radicales.

Ruffini reclamó haber demostrado que la ecuación general de quinto grado es irresoluble por radicales; sin embargo, su prueba no fue concluyente dado que se basaba en la hipótesis de que estos radicales se pueden expresar como funciones racionales de las raíces. Fue Abel quien completó la demostración de Ruffini mostrando que los radicales necesarios para resolver una ecuación siempre se pueden elegir como funciones racionales de las raíces de la ecuación y de ciertas raíces de la unidad.