]> asedeno.scripts.mit.edu Git - PuTTY.git/blob - sshdh.c
first pass
[PuTTY.git] / sshdh.c
1 /*
2  * Diffie-Hellman implementation for PuTTY.
3  */
4
5 #include "ssh.h"
6
7 /*
8  * The primes used in the group1 and group14 key exchange.
9  */
10 static const unsigned char P1[] = {
11     0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xC9, 0x0F, 0xDA, 0xA2,
12     0x21, 0x68, 0xC2, 0x34, 0xC4, 0xC6, 0x62, 0x8B, 0x80, 0xDC, 0x1C, 0xD1,
13     0x29, 0x02, 0x4E, 0x08, 0x8A, 0x67, 0xCC, 0x74, 0x02, 0x0B, 0xBE, 0xA6,
14     0x3B, 0x13, 0x9B, 0x22, 0x51, 0x4A, 0x08, 0x79, 0x8E, 0x34, 0x04, 0xDD,
15     0xEF, 0x95, 0x19, 0xB3, 0xCD, 0x3A, 0x43, 0x1B, 0x30, 0x2B, 0x0A, 0x6D,
16     0xF2, 0x5F, 0x14, 0x37, 0x4F, 0xE1, 0x35, 0x6D, 0x6D, 0x51, 0xC2, 0x45,
17     0xE4, 0x85, 0xB5, 0x76, 0x62, 0x5E, 0x7E, 0xC6, 0xF4, 0x4C, 0x42, 0xE9,
18     0xA6, 0x37, 0xED, 0x6B, 0x0B, 0xFF, 0x5C, 0xB6, 0xF4, 0x06, 0xB7, 0xED,
19     0xEE, 0x38, 0x6B, 0xFB, 0x5A, 0x89, 0x9F, 0xA5, 0xAE, 0x9F, 0x24, 0x11,
20     0x7C, 0x4B, 0x1F, 0xE6, 0x49, 0x28, 0x66, 0x51, 0xEC, 0xE6, 0x53, 0x81,
21     0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF
22 };
23 static const unsigned char P14[] = {
24     0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xC9, 0x0F, 0xDA, 0xA2,
25     0x21, 0x68, 0xC2, 0x34, 0xC4, 0xC6, 0x62, 0x8B, 0x80, 0xDC, 0x1C, 0xD1,
26     0x29, 0x02, 0x4E, 0x08, 0x8A, 0x67, 0xCC, 0x74, 0x02, 0x0B, 0xBE, 0xA6,
27     0x3B, 0x13, 0x9B, 0x22, 0x51, 0x4A, 0x08, 0x79, 0x8E, 0x34, 0x04, 0xDD,
28     0xEF, 0x95, 0x19, 0xB3, 0xCD, 0x3A, 0x43, 0x1B, 0x30, 0x2B, 0x0A, 0x6D,
29     0xF2, 0x5F, 0x14, 0x37, 0x4F, 0xE1, 0x35, 0x6D, 0x6D, 0x51, 0xC2, 0x45,
30     0xE4, 0x85, 0xB5, 0x76, 0x62, 0x5E, 0x7E, 0xC6, 0xF4, 0x4C, 0x42, 0xE9,
31     0xA6, 0x37, 0xED, 0x6B, 0x0B, 0xFF, 0x5C, 0xB6, 0xF4, 0x06, 0xB7, 0xED,
32     0xEE, 0x38, 0x6B, 0xFB, 0x5A, 0x89, 0x9F, 0xA5, 0xAE, 0x9F, 0x24, 0x11,
33     0x7C, 0x4B, 0x1F, 0xE6, 0x49, 0x28, 0x66, 0x51, 0xEC, 0xE4, 0x5B, 0x3D,
34     0xC2, 0x00, 0x7C, 0xB8, 0xA1, 0x63, 0xBF, 0x05, 0x98, 0xDA, 0x48, 0x36,
35     0x1C, 0x55, 0xD3, 0x9A, 0x69, 0x16, 0x3F, 0xA8, 0xFD, 0x24, 0xCF, 0x5F,
36     0x83, 0x65, 0x5D, 0x23, 0xDC, 0xA3, 0xAD, 0x96, 0x1C, 0x62, 0xF3, 0x56,
37     0x20, 0x85, 0x52, 0xBB, 0x9E, 0xD5, 0x29, 0x07, 0x70, 0x96, 0x96, 0x6D,
38     0x67, 0x0C, 0x35, 0x4E, 0x4A, 0xBC, 0x98, 0x04, 0xF1, 0x74, 0x6C, 0x08,
39     0xCA, 0x18, 0x21, 0x7C, 0x32, 0x90, 0x5E, 0x46, 0x2E, 0x36, 0xCE, 0x3B,
40     0xE3, 0x9E, 0x77, 0x2C, 0x18, 0x0E, 0x86, 0x03, 0x9B, 0x27, 0x83, 0xA2,
41     0xEC, 0x07, 0xA2, 0x8F, 0xB5, 0xC5, 0x5D, 0xF0, 0x6F, 0x4C, 0x52, 0xC9,
42     0xDE, 0x2B, 0xCB, 0xF6, 0x95, 0x58, 0x17, 0x18, 0x39, 0x95, 0x49, 0x7C,
43     0xEA, 0x95, 0x6A, 0xE5, 0x15, 0xD2, 0x26, 0x18, 0x98, 0xFA, 0x05, 0x10,
44     0x15, 0x72, 0x8E, 0x5A, 0x8A, 0xAC, 0xAA, 0x68, 0xFF, 0xFF, 0xFF, 0xFF,
45     0xFF, 0xFF, 0xFF, 0xFF
46 };
47
48 /*
49  * The generator g = 2 (used for both group1 and group14).
50  */
51 static const unsigned char G[] = { 2 };
52
53 struct dh_extra {
54     const unsigned char *pdata, *gdata; /* NULL means group exchange */
55     int plen, glen;
56 };
57
58 static const struct dh_extra extra_group1 = {
59     P1, G, lenof(P1), lenof(G),
60 };
61
62 static const struct ssh_kex ssh_diffiehellman_group1_sha1 = {
63     "diffie-hellman-group1-sha1", "group1",
64     KEXTYPE_DH, &ssh_sha1, &extra_group1,
65 };
66
67 static const struct ssh_kex *const group1_list[] = {
68     &ssh_diffiehellman_group1_sha1
69 };
70
71 const struct ssh_kexes ssh_diffiehellman_group1 = {
72     sizeof(group1_list) / sizeof(*group1_list),
73     group1_list
74 };
75
76 static const struct dh_extra extra_group14 = {
77     P14, G, lenof(P14), lenof(G),
78 };
79
80 static const struct ssh_kex ssh_diffiehellman_group14_sha1 = {
81     "diffie-hellman-group14-sha1", "group14",
82     KEXTYPE_DH, &ssh_sha1, &extra_group14,
83 };
84
85 static const struct ssh_kex *const group14_list[] = {
86     &ssh_diffiehellman_group14_sha1
87 };
88
89 const struct ssh_kexes ssh_diffiehellman_group14 = {
90     sizeof(group14_list) / sizeof(*group14_list),
91     group14_list
92 };
93
94 static const struct dh_extra extra_gex = {
95     NULL, NULL, 0, 0,
96 };
97
98 static const struct ssh_kex ssh_diffiehellman_gex_sha256 = {
99     "diffie-hellman-group-exchange-sha256", NULL,
100     KEXTYPE_DH, &ssh_sha256, &extra_gex,
101 };
102
103 static const struct ssh_kex ssh_diffiehellman_gex_sha1 = {
104     "diffie-hellman-group-exchange-sha1", NULL,
105     KEXTYPE_DH, &ssh_sha1, &extra_gex,
106 };
107
108 static const struct ssh_kex *const gex_list[] = {
109     &ssh_diffiehellman_gex_sha256,
110     &ssh_diffiehellman_gex_sha1
111 };
112
113 const struct ssh_kexes ssh_diffiehellman_gex = {
114     sizeof(gex_list) / sizeof(*gex_list),
115     gex_list
116 };
117
118 /*
119  * Variables.
120  */
121 struct dh_ctx {
122     Bignum x, e, p, q, qmask, g;
123 };
124
125 /*
126  * Common DH initialisation.
127  */
128 static void dh_init(struct dh_ctx *ctx)
129 {
130     ctx->q = bignum_rshift(ctx->p, 1);
131     ctx->qmask = bignum_bitmask(ctx->q);
132     ctx->x = ctx->e = NULL;
133 }
134
135 int dh_is_gex(const struct ssh_kex *kex)
136 {
137     const struct dh_extra *extra = (const struct dh_extra *)kex->extra;
138     return extra->pdata == NULL;
139 }
140
141 /*
142  * Initialise DH for a standard group.
143  */
144 void *dh_setup_group(const struct ssh_kex *kex)
145 {
146     const struct dh_extra *extra = (const struct dh_extra *)kex->extra;
147     struct dh_ctx *ctx = snew(struct dh_ctx);
148     ctx->p = bignum_from_bytes(extra->pdata, extra->plen);
149     ctx->g = bignum_from_bytes(extra->gdata, extra->glen);
150     dh_init(ctx);
151     return ctx;
152 }
153
154 /*
155  * Initialise DH for a server-supplied group.
156  */
157 void *dh_setup_gex(Bignum pval, Bignum gval)
158 {
159     struct dh_ctx *ctx = snew(struct dh_ctx);
160     ctx->p = copybn(pval);
161     ctx->g = copybn(gval);
162     dh_init(ctx);
163     return ctx;
164 }
165
166 /*
167  * Clean up and free a context.
168  */
169 void dh_cleanup(void *handle)
170 {
171     struct dh_ctx *ctx = (struct dh_ctx *)handle;
172     freebn(ctx->x);
173     freebn(ctx->e);
174     freebn(ctx->p);
175     freebn(ctx->g);
176     freebn(ctx->q);
177     freebn(ctx->qmask);
178     sfree(ctx);
179 }
180
181 /*
182  * DH stage 1: invent a number x between 1 and q, and compute e =
183  * g^x mod p. Return e.
184  * 
185  * If `nbits' is greater than zero, it is used as an upper limit
186  * for the number of bits in x. This is safe provided that (a) you
187  * use twice as many bits in x as the number of bits you expect to
188  * use in your session key, and (b) the DH group is a safe prime
189  * (which SSH demands that it must be).
190  * 
191  * P. C. van Oorschot, M. J. Wiener
192  * "On Diffie-Hellman Key Agreement with Short Exponents".
193  * Advances in Cryptology: Proceedings of Eurocrypt '96
194  * Springer-Verlag, May 1996.
195  */
196 Bignum dh_create_e(void *handle, int nbits)
197 {
198     struct dh_ctx *ctx = (struct dh_ctx *)handle;
199     int i;
200
201     int nbytes;
202     unsigned char *buf;
203
204     nbytes = ssh1_bignum_length(ctx->qmask);
205     buf = snewn(nbytes, unsigned char);
206
207     do {
208         /*
209          * Create a potential x, by ANDing a string of random bytes
210          * with qmask.
211          */
212         if (ctx->x)
213             freebn(ctx->x);
214         if (nbits == 0 || nbits > bignum_bitcount(ctx->qmask)) {
215             ssh1_write_bignum(buf, ctx->qmask);
216             for (i = 2; i < nbytes; i++)
217                 buf[i] &= random_byte();
218             ssh1_read_bignum(buf, nbytes, &ctx->x);   /* can't fail */
219         } else {
220             int b, nb;
221             ctx->x = bn_power_2(nbits);
222             b = nb = 0;
223             for (i = 0; i < nbits; i++) {
224                 if (nb == 0) {
225                     nb = 8;
226                     b = random_byte();
227                 }
228                 bignum_set_bit(ctx->x, i, b & 1);
229                 b >>= 1;
230                 nb--;
231             }
232         }
233     } while (bignum_cmp(ctx->x, One) <= 0 || bignum_cmp(ctx->x, ctx->q) >= 0);
234
235     sfree(buf);
236
237     /*
238      * Done. Now compute e = g^x mod p.
239      */
240     ctx->e = modpow(ctx->g, ctx->x, ctx->p);
241
242     return ctx->e;
243 }
244
245 /*
246  * DH stage 2-epsilon: given a number f, validate it to ensure it's in
247  * range. (RFC 4253 section 8: "Values of 'e' or 'f' that are not in
248  * the range [1, p-1] MUST NOT be sent or accepted by either side."
249  * Also, we rule out 1 and p-1 too, since that's easy to do and since
250  * they lead to obviously weak keys that even a passive eavesdropper
251  * can figure out.)
252  */
253 const char *dh_validate_f(void *handle, Bignum f)
254 {
255     struct dh_ctx *ctx = (struct dh_ctx *)handle;
256     if (bignum_cmp(f, One) <= 0) {
257         return "f value received is too small";
258     } else {
259         Bignum pm1 = bigsub(ctx->p, One);
260         int cmp = bignum_cmp(f, pm1);
261         freebn(pm1);
262         if (cmp >= 0)
263             return "f value received is too large";
264     }
265     return NULL;
266 }
267
268 /*
269  * DH stage 2: given a number f, compute K = f^x mod p.
270  */
271 Bignum dh_find_K(void *handle, Bignum f)
272 {
273     struct dh_ctx *ctx = (struct dh_ctx *)handle;
274     Bignum ret;
275     ret = modpow(f, ctx->x, ctx->p);
276     return ret;
277 }