Решение
Условие задачи равносильно тому, что при «правильно» выбранных n, k и m система состоящая из уравнений
┤ имеет единственное решение
при любой паре
. В этом случае разные пары
будут переходить в разные
, иначе получим противоречие с единственностью решения такой системы при некоторой паре
. Обратно, если разные пары
переходят в разные пары
, то при любой паре
такая система либо имеет единственное решение, либо не имеет решений. Однако в то же время количество различных пар
равно
, а значит количество соответствующих им различных пар
по крайней мере
, но ясно, что их число не превосходит
, а стало быть оно в точности равно
. Отсюда следует, что для любой пары
рассматриваемая система имеет решение и при том только одно. Можно показать, что уравнение
имеет единственное решение
при любом
тогда и только тогда, когда n и 36 взаимнопросты. Следовательно, если n и 36 взаимнопросты, то из данного уравнения значение
находится однозначно и тогда второе уравнение системы примет вид:
. Аналогично, оно имеет единственное решение относительно
при любом
тогда и только тогда, когда m и 36 взаимнопросты, при этом значение параметра k на это свойство никак не влияет. Таким образом, однозначное расшифрование возможно при выборе взаимнопростых с 36 числах n, m и произвольном k. Пусть теперь n=k=m=17. Тогда для нахождения
нужно решить систему уравнений:
. Легко видеть, что
. Отсюда легко проверить, что
и
.