Задача с указанным ответом сформулирована некорректно. Верная формулировка должна выглядеть так:
"...от бОльшего числа он отнял полученную сумму цифр одного из чисел..."
Тогда ответ верный - 801, ибо:
у двух пар чисел совпадает сумма - у 2 и 3, и 4 и 5.
Причем сумма чисел равна одному числу - 9.
Таким образом, для того чтоб получить максимальное число при прочих равных условиях необходимо отнять из наибольшего числа полученную сумму.