]> asedeno.scripts.mit.edu Git - PuTTY.git/blob - sshsha.c
first pass
[PuTTY.git] / sshsha.c
1 /*
2  * SHA1 hash algorithm. Used in SSH-2 as a MAC, and the transform is
3  * also used as a `stirring' function for the PuTTY random number
4  * pool. Implemented directly from the specification by Simon
5  * Tatham.
6  */
7
8 #include "ssh.h"
9
10 /* ----------------------------------------------------------------------
11  * Core SHA algorithm: processes 16-word blocks into a message digest.
12  */
13
14 #define rol(x,y) ( ((x) << (y)) | (((uint32)x) >> (32-y)) )
15
16 static void SHA_Core_Init(uint32 h[5])
17 {
18     h[0] = 0x67452301;
19     h[1] = 0xefcdab89;
20     h[2] = 0x98badcfe;
21     h[3] = 0x10325476;
22     h[4] = 0xc3d2e1f0;
23 }
24
25 void SHATransform(word32 * digest, word32 * block)
26 {
27     word32 w[80];
28     word32 a, b, c, d, e;
29     int t;
30
31 #ifdef RANDOM_DIAGNOSTICS
32     {
33         extern int random_diagnostics;
34         if (random_diagnostics) {
35             int i;
36             printf("SHATransform:");
37             for (i = 0; i < 5; i++)
38                 printf(" %08x", digest[i]);
39             printf(" +");
40             for (i = 0; i < 16; i++)
41                 printf(" %08x", block[i]);
42         }
43     }
44 #endif
45
46     for (t = 0; t < 16; t++)
47         w[t] = block[t];
48
49     for (t = 16; t < 80; t++) {
50         word32 tmp = w[t - 3] ^ w[t - 8] ^ w[t - 14] ^ w[t - 16];
51         w[t] = rol(tmp, 1);
52     }
53
54     a = digest[0];
55     b = digest[1];
56     c = digest[2];
57     d = digest[3];
58     e = digest[4];
59
60     for (t = 0; t < 20; t++) {
61         word32 tmp =
62             rol(a, 5) + ((b & c) | (d & ~b)) + e + w[t] + 0x5a827999;
63         e = d;
64         d = c;
65         c = rol(b, 30);
66         b = a;
67         a = tmp;
68     }
69     for (t = 20; t < 40; t++) {
70         word32 tmp = rol(a, 5) + (b ^ c ^ d) + e + w[t] + 0x6ed9eba1;
71         e = d;
72         d = c;
73         c = rol(b, 30);
74         b = a;
75         a = tmp;
76     }
77     for (t = 40; t < 60; t++) {
78         word32 tmp = rol(a,
79                          5) + ((b & c) | (b & d) | (c & d)) + e + w[t] +
80             0x8f1bbcdc;
81         e = d;
82         d = c;
83         c = rol(b, 30);
84         b = a;
85         a = tmp;
86     }
87     for (t = 60; t < 80; t++) {
88         word32 tmp = rol(a, 5) + (b ^ c ^ d) + e + w[t] + 0xca62c1d6;
89         e = d;
90         d = c;
91         c = rol(b, 30);
92         b = a;
93         a = tmp;
94     }
95
96     digest[0] += a;
97     digest[1] += b;
98     digest[2] += c;
99     digest[3] += d;
100     digest[4] += e;
101
102 #ifdef RANDOM_DIAGNOSTICS
103     {
104         extern int random_diagnostics;
105         if (random_diagnostics) {
106             int i;
107             printf(" =");
108             for (i = 0; i < 5; i++)
109                 printf(" %08x", digest[i]);
110             printf("\n");
111         }
112     }
113 #endif
114 }
115
116 /* ----------------------------------------------------------------------
117  * Outer SHA algorithm: take an arbitrary length byte string,
118  * convert it into 16-word blocks with the prescribed padding at
119  * the end, and pass those blocks to the core SHA algorithm.
120  */
121
122 void SHA_Init(SHA_State * s)
123 {
124     SHA_Core_Init(s->h);
125     s->blkused = 0;
126     s->lenhi = s->lenlo = 0;
127 }
128
129 void SHA_Bytes(SHA_State * s, const void *p, int len)
130 {
131     const unsigned char *q = (const unsigned char *) p;
132     uint32 wordblock[16];
133     uint32 lenw = len;
134     int i;
135
136     /*
137      * Update the length field.
138      */
139     s->lenlo += lenw;
140     s->lenhi += (s->lenlo < lenw);
141
142     if (s->blkused && s->blkused + len < 64) {
143         /*
144          * Trivial case: just add to the block.
145          */
146         memcpy(s->block + s->blkused, q, len);
147         s->blkused += len;
148     } else {
149         /*
150          * We must complete and process at least one block.
151          */
152         while (s->blkused + len >= 64) {
153             memcpy(s->block + s->blkused, q, 64 - s->blkused);
154             q += 64 - s->blkused;
155             len -= 64 - s->blkused;
156             /* Now process the block. Gather bytes big-endian into words */
157             for (i = 0; i < 16; i++) {
158                 wordblock[i] =
159                     (((uint32) s->block[i * 4 + 0]) << 24) |
160                     (((uint32) s->block[i * 4 + 1]) << 16) |
161                     (((uint32) s->block[i * 4 + 2]) << 8) |
162                     (((uint32) s->block[i * 4 + 3]) << 0);
163             }
164             SHATransform(s->h, wordblock);
165             s->blkused = 0;
166         }
167         memcpy(s->block, q, len);
168         s->blkused = len;
169     }
170 }
171
172 void SHA_Final(SHA_State * s, unsigned char *output)
173 {
174     int i;
175     int pad;
176     unsigned char c[64];
177     uint32 lenhi, lenlo;
178
179     if (s->blkused >= 56)
180         pad = 56 + 64 - s->blkused;
181     else
182         pad = 56 - s->blkused;
183
184     lenhi = (s->lenhi << 3) | (s->lenlo >> (32 - 3));
185     lenlo = (s->lenlo << 3);
186
187     memset(c, 0, pad);
188     c[0] = 0x80;
189     SHA_Bytes(s, &c, pad);
190
191     c[0] = (lenhi >> 24) & 0xFF;
192     c[1] = (lenhi >> 16) & 0xFF;
193     c[2] = (lenhi >> 8) & 0xFF;
194     c[3] = (lenhi >> 0) & 0xFF;
195     c[4] = (lenlo >> 24) & 0xFF;
196     c[5] = (lenlo >> 16) & 0xFF;
197     c[6] = (lenlo >> 8) & 0xFF;
198     c[7] = (lenlo >> 0) & 0xFF;
199
200     SHA_Bytes(s, &c, 8);
201
202     for (i = 0; i < 5; i++) {
203         output[i * 4] = (s->h[i] >> 24) & 0xFF;
204         output[i * 4 + 1] = (s->h[i] >> 16) & 0xFF;
205         output[i * 4 + 2] = (s->h[i] >> 8) & 0xFF;
206         output[i * 4 + 3] = (s->h[i]) & 0xFF;
207     }
208 }
209
210 void SHA_Simple(const void *p, int len, unsigned char *output)
211 {
212     SHA_State s;
213
214     SHA_Init(&s);
215     SHA_Bytes(&s, p, len);
216     SHA_Final(&s, output);
217     smemclr(&s, sizeof(s));
218 }
219
220 /*
221  * Thin abstraction for things where hashes are pluggable.
222  */
223
224 static void *sha1_init(void)
225 {
226     SHA_State *s;
227
228     s = snew(SHA_State);
229     SHA_Init(s);
230     return s;
231 }
232
233 static void *sha1_copy(const void *vold)
234 {
235     const SHA_State *old = (const SHA_State *)vold;
236     SHA_State *s;
237
238     s = snew(SHA_State);
239     *s = *old;
240     return s;
241 }
242
243 static void sha1_free(void *handle)
244 {
245     SHA_State *s = handle;
246
247     smemclr(s, sizeof(*s));
248     sfree(s);
249 }
250
251 static void sha1_bytes(void *handle, const void *p, int len)
252 {
253     SHA_State *s = handle;
254
255     SHA_Bytes(s, p, len);
256 }
257
258 static void sha1_final(void *handle, unsigned char *output)
259 {
260     SHA_State *s = handle;
261
262     SHA_Final(s, output);
263     sha1_free(s);
264 }
265
266 const struct ssh_hash ssh_sha1 = {
267     sha1_init, sha1_copy, sha1_bytes, sha1_final, sha1_free, 20, "SHA-1"
268 };
269
270 /* ----------------------------------------------------------------------
271  * The above is the SHA-1 algorithm itself. Now we implement the
272  * HMAC wrapper on it.
273  */
274
275 static void *sha1_make_context(void *cipher_ctx)
276 {
277     return snewn(3, SHA_State);
278 }
279
280 static void sha1_free_context(void *handle)
281 {
282     smemclr(handle, 3 * sizeof(SHA_State));
283     sfree(handle);
284 }
285
286 static void sha1_key_internal(void *handle, unsigned char *key, int len)
287 {
288     SHA_State *keys = (SHA_State *)handle;
289     unsigned char foo[64];
290     int i;
291
292     memset(foo, 0x36, 64);
293     for (i = 0; i < len && i < 64; i++)
294         foo[i] ^= key[i];
295     SHA_Init(&keys[0]);
296     SHA_Bytes(&keys[0], foo, 64);
297
298     memset(foo, 0x5C, 64);
299     for (i = 0; i < len && i < 64; i++)
300         foo[i] ^= key[i];
301     SHA_Init(&keys[1]);
302     SHA_Bytes(&keys[1], foo, 64);
303
304     smemclr(foo, 64);                  /* burn the evidence */
305 }
306
307 static void sha1_key(void *handle, unsigned char *key)
308 {
309     sha1_key_internal(handle, key, 20);
310 }
311
312 static void sha1_key_buggy(void *handle, unsigned char *key)
313 {
314     sha1_key_internal(handle, key, 16);
315 }
316
317 static void hmacsha1_start(void *handle)
318 {
319     SHA_State *keys = (SHA_State *)handle;
320
321     keys[2] = keys[0];                /* structure copy */
322 }
323
324 static void hmacsha1_bytes(void *handle, unsigned char const *blk, int len)
325 {
326     SHA_State *keys = (SHA_State *)handle;
327     SHA_Bytes(&keys[2], (void *)blk, len);
328 }
329
330 static void hmacsha1_genresult(void *handle, unsigned char *hmac)
331 {
332     SHA_State *keys = (SHA_State *)handle;
333     SHA_State s;
334     unsigned char intermediate[20];
335
336     s = keys[2];                       /* structure copy */
337     SHA_Final(&s, intermediate);
338     s = keys[1];                       /* structure copy */
339     SHA_Bytes(&s, intermediate, 20);
340     SHA_Final(&s, hmac);
341 }
342
343 static void sha1_do_hmac(void *handle, unsigned char *blk, int len,
344                          unsigned long seq, unsigned char *hmac)
345 {
346     unsigned char seqbuf[4];
347
348     PUT_32BIT_MSB_FIRST(seqbuf, seq);
349     hmacsha1_start(handle);
350     hmacsha1_bytes(handle, seqbuf, 4);
351     hmacsha1_bytes(handle, blk, len);
352     hmacsha1_genresult(handle, hmac);
353 }
354
355 static void sha1_generate(void *handle, unsigned char *blk, int len,
356                           unsigned long seq)
357 {
358     sha1_do_hmac(handle, blk, len, seq, blk + len);
359 }
360
361 static int hmacsha1_verresult(void *handle, unsigned char const *hmac)
362 {
363     unsigned char correct[20];
364     hmacsha1_genresult(handle, correct);
365     return smemeq(correct, hmac, 20);
366 }
367
368 static int sha1_verify(void *handle, unsigned char *blk, int len,
369                        unsigned long seq)
370 {
371     unsigned char correct[20];
372     sha1_do_hmac(handle, blk, len, seq, correct);
373     return smemeq(correct, blk + len, 20);
374 }
375
376 static void hmacsha1_96_genresult(void *handle, unsigned char *hmac)
377 {
378     unsigned char full[20];
379     hmacsha1_genresult(handle, full);
380     memcpy(hmac, full, 12);
381 }
382
383 static void sha1_96_generate(void *handle, unsigned char *blk, int len,
384                              unsigned long seq)
385 {
386     unsigned char full[20];
387     sha1_do_hmac(handle, blk, len, seq, full);
388     memcpy(blk + len, full, 12);
389 }
390
391 static int hmacsha1_96_verresult(void *handle, unsigned char const *hmac)
392 {
393     unsigned char correct[20];
394     hmacsha1_genresult(handle, correct);
395     return smemeq(correct, hmac, 12);
396 }
397
398 static int sha1_96_verify(void *handle, unsigned char *blk, int len,
399                        unsigned long seq)
400 {
401     unsigned char correct[20];
402     sha1_do_hmac(handle, blk, len, seq, correct);
403     return smemeq(correct, blk + len, 12);
404 }
405
406 void hmac_sha1_simple(void *key, int keylen, void *data, int datalen,
407                       unsigned char *output) {
408     SHA_State states[2];
409     unsigned char intermediate[20];
410
411     sha1_key_internal(states, key, keylen);
412     SHA_Bytes(&states[0], data, datalen);
413     SHA_Final(&states[0], intermediate);
414
415     SHA_Bytes(&states[1], intermediate, 20);
416     SHA_Final(&states[1], output);
417 }
418
419 const struct ssh_mac ssh_hmac_sha1 = {
420     sha1_make_context, sha1_free_context, sha1_key,
421     sha1_generate, sha1_verify,
422     hmacsha1_start, hmacsha1_bytes, hmacsha1_genresult, hmacsha1_verresult,
423     "hmac-sha1", "hmac-sha1-etm@openssh.com",
424     20, 20,
425     "HMAC-SHA1"
426 };
427
428 const struct ssh_mac ssh_hmac_sha1_96 = {
429     sha1_make_context, sha1_free_context, sha1_key,
430     sha1_96_generate, sha1_96_verify,
431     hmacsha1_start, hmacsha1_bytes,
432     hmacsha1_96_genresult, hmacsha1_96_verresult,
433     "hmac-sha1-96", "hmac-sha1-96-etm@openssh.com",
434     12, 20,
435     "HMAC-SHA1-96"
436 };
437
438 const struct ssh_mac ssh_hmac_sha1_buggy = {
439     sha1_make_context, sha1_free_context, sha1_key_buggy,
440     sha1_generate, sha1_verify,
441     hmacsha1_start, hmacsha1_bytes, hmacsha1_genresult, hmacsha1_verresult,
442     "hmac-sha1", NULL,
443     20, 16,
444     "bug-compatible HMAC-SHA1"
445 };
446
447 const struct ssh_mac ssh_hmac_sha1_96_buggy = {
448     sha1_make_context, sha1_free_context, sha1_key_buggy,
449     sha1_96_generate, sha1_96_verify,
450     hmacsha1_start, hmacsha1_bytes,
451     hmacsha1_96_genresult, hmacsha1_96_verresult,
452     "hmac-sha1-96", NULL,
453     12, 16,
454     "bug-compatible HMAC-SHA1-96"
455 };