Appelons x1, x2, x3 les racines de l'équation du 3ème degré
et x1, x2, x3, x4 celles de l'équation du 4ème degré
(les 3 premières sont communes aux deux équations).
Dans l'équation du 3ème degré :
(1) x1+x2+x3=-5=-a
mais on ne connait rien de x1x2+x1x3+x2x3
ni de x1x2x3
puisque le terme en x et le terme constant sont sous la tache.
Dans l'équation du 4ème degré :
(2) x1+x2+x3+x4=-11=-b et
(3) x1x2+x1x3+x1x4+x2x3+x2x4+x3x4=-4=c
mais x1x2x3+x1x2x4+x1x3x4+x2x3x4 et
x1x2x3x4 sont inconnus (sous la tache).
Cherchons S = x12+x22+x32 =
(x1+x2+x3)2
- 2(x1x2+x1x3+x2x3)
(1) et (2) donnent x4 = a - b = -6
(3) s'écrit c=x1x2+x1x3+x2x3+x4(x1+x2+x3)
= x1x2+x1x3+x2x3 - a(a-b)
et donc x1x2+x1x3+x2x3 = c + a(a - b)
Et finalement S=a2 -2(c + a(a-b)) = 2ab -a² -2c = 93
Connaissant S, on peut décomposer S en somme de carrés entiers :
S = 8² + 5² + 2² = 6² + 5² + 4² + 4² = 7² + 6² + 2² + 2² = 9² + 2² +2² + 2²
La seule décomposition en somme de 3 carrés est 8² + 5² + 2²
Ceci est un heureux hasard car s'il n'y avait pas unicité de la décomposition en somme
de trois carrés,
ou si les solutions n'étaient pas entières, on ne pourait rien dire de plus.
Donc |x1| = 8, |x2| = 5, |x3| = 2
Reste à choisir les signes pour que x1 + x2 + x3 = -5.
La seule possibilité est -8, 5, -2.
Ceci permet de complèter les équations :
(x+8)(x-5)(x+2) = x3 + 5x2 -34x -80 = 0
(x+6)(x3+5x2-34x-80) = x4 + 11x3 -4x2 -284x -480 = 0