Решение
Условие задачи равносильно тому, что при «правильно» выбранных n, k и m система состоящая из уравнений
 = y_1, r_{36}(a_1k_a_2m) = y_2})
┤ имеет единственное решение
})
при любой паре
})
. В этом случае разные пары
будут переходить в разные
, иначе получим противоречие с единственностью решения такой системы при некоторой паре
. Обратно, если разные пары
переходят в разные пары
, то при любой паре
такая система либо имеет единственное решение, либо не имеет решений. Однако в то же время количество различных пар
равно
, а значит количество соответствующих им различных пар
по крайней мере
, но ясно, что их число не превосходит
, а стало быть оно в точности равно
. Отсюда следует, что для любой пары
рассматриваемая система имеет решение и при том только одно. Можно показать, что уравнение
 = y_1})
имеет единственное решение
при любом
тогда и только тогда, когда n и 36 взаимнопросты. Следовательно, если n и 36 взаимнопросты, то из данного уравнения значение
находится однозначно и тогда второе уравнение системы примет вид:
 = r_{36}(y_2 - a_1k)})
. Аналогично, оно имеет единственное решение относительно
при любом
тогда и только тогда, когда m и 36 взаимнопросты, при этом значение параметра k на это свойство никак не влияет. Таким образом, однозначное расшифрование возможно при выборе взаимнопростых с 36 числах n, m и произвольном k. Пусть теперь n=k=m=17. Тогда для нахождения
нужно решить систему уравнений:
 = y_1, r_{36}(17(a_1+a_2)) = y_2})
. Легко видеть, что
 = 1})
. Отсюда легко проверить, что
})
и
})
.