sshdss.c

   1 /*
   2  * Digital Signature Standard implementation for PuTTY.
   3  */
   4
   5 #include <stdio.h>
   6 #include <stdlib.h>
   7 #include <assert.h>
   8
   9 #include "ssh.h"
  10 #include "misc.h"
  11
  12 static void sha_mpint(SHA_State * s, Bignum b)
  13 {
  14     unsigned char lenbuf[4];
  15     int len;
  16     len = (bignum_bitcount(b) + 8) / 8;
  17     PUT_32BIT(lenbuf, len);
  18     SHA_Bytes(s, lenbuf, 4);
  19     while (len-- > 0) {
  20         lenbuf[0] = bignum_byte(b, len);
  21         SHA_Bytes(s, lenbuf, 1);
  22     }
  23     smemclr(lenbuf, sizeof(lenbuf));
  24 }
  25
  26 static void sha512_mpint(SHA512_State * s, Bignum b)
  27 {
  28     unsigned char lenbuf[4];
  29     int len;
  30     len = (bignum_bitcount(b) + 8) / 8;
  31     PUT_32BIT(lenbuf, len);
  32     SHA512_Bytes(s, lenbuf, 4);
  33     while (len-- > 0) {
  34         lenbuf[0] = bignum_byte(b, len);
  35         SHA512_Bytes(s, lenbuf, 1);
  36     }
  37     smemclr(lenbuf, sizeof(lenbuf));
  38 }
  39
  40 static void getstring(char **data, int *datalen, char **p, int *length)
  41 {
  42     *p = NULL;
  43     if (*datalen < 4)
  44         return;
  45     *length = toint(GET_32BIT(*data));
  46     if (*length < 0)
  47         return;
  48     *datalen -= 4;
  49     *data += 4;
  50     if (*datalen < *length)
  51         return;
  52     *p = *data;
  53     *data += *length;
  54     *datalen -= *length;
  55 }
  56 static Bignum getmp(char **data, int *datalen)
  57 {
  58     char *p;
  59     int length;
  60     Bignum b;
  61
  62     getstring(data, datalen, &p, &length);
  63     if (!p)
  64         return NULL;
  65     if (p[0] & 0x80)
  66         return NULL;                   /* negative mp */
  67     b = bignum_from_bytes((unsigned char *)p, length);
  68     return b;
  69 }
  70
  71 static Bignum get160(char **data, int *datalen)
  72 {
  73     Bignum b;
  74
  75     if (*datalen < 20)
  76         return NULL;
  77
  78     b = bignum_from_bytes((unsigned char *)*data, 20);
  79     *data += 20;
  80     *datalen -= 20;
  81
  82     return b;
  83 }
  84
  85 static void dss_freekey(void *key);    /* forward reference */
  86
  87 static void *dss_newkey(char *data, int len)
  88 {
  89     char *p;
  90     int slen;
  91     struct dss_key *dss;
  92
  93     dss = snew(struct dss_key);
  94     getstring(&data, &len, &p, &slen);
  95
  96 #ifdef DEBUG_DSS
  97     {
  98         int i;
  99         printf("key:");
 100         for (i = 0; i < len; i++)
 101             printf("  %02x", (unsigned char) (data[i]));
 102         printf("\n");
 103     }
 104 #endif
 105
 106     if (!p || slen != 7 || memcmp(p, "ssh-dss", 7)) {
 107         sfree(dss);
 108         return NULL;
 109     }
 110     dss->p = getmp(&data, &len);
 111     dss->q = getmp(&data, &len);
 112     dss->g = getmp(&data, &len);
 113     dss->y = getmp(&data, &len);
 114     dss->x = NULL;
 115
 116     if (!dss->p || !dss->q || !dss->g || !dss->y ||
 117         !bignum_cmp(dss->q, Zero) || !bignum_cmp(dss->p, Zero)) {
 118         /* Invalid key. */
 119         dss_freekey(dss);
 120         return NULL;
 121     }
 122
 123     return dss;
 124 }
 125
 126 static void dss_freekey(void *key)
 127 {
 128     struct dss_key *dss = (struct dss_key *) key;
 129     if (dss->p)
 130         freebn(dss->p);
 131     if (dss->q)
 132         freebn(dss->q);
 133     if (dss->g)
 134         freebn(dss->g);
 135     if (dss->y)
 136         freebn(dss->y);
 137     if (dss->x)
 138         freebn(dss->x);
 139     sfree(dss);
 140 }
 141
 142 static char *dss_fmtkey(void *key)
 143 {
 144     struct dss_key *dss = (struct dss_key *) key;
 145     char *p;
 146     int len, i, pos, nibbles;
 147     static const char hex[] = "0123456789abcdef";
 148     if (!dss->p)
 149         return NULL;
 150     len = 8 + 4 + 1;                   /* 4 x "0x", punctuation, \0 */
 151     len += 4 * (bignum_bitcount(dss->p) + 15) / 16;
 152     len += 4 * (bignum_bitcount(dss->q) + 15) / 16;
 153     len += 4 * (bignum_bitcount(dss->g) + 15) / 16;
 154     len += 4 * (bignum_bitcount(dss->y) + 15) / 16;
 155     p = snewn(len, char);
 156     if (!p)
 157         return NULL;
 158
 159     pos = 0;
 160     pos += sprintf(p + pos, "0x");
 161     nibbles = (3 + bignum_bitcount(dss->p)) / 4;
 162     if (nibbles < 1)
 163         nibbles = 1;
 164     for (i = nibbles; i--;)
 165         p[pos++] =
 166             hex[(bignum_byte(dss->p, i / 2) >> (4 * (i % 2))) & 0xF];
 167     pos += sprintf(p + pos, ",0x");
 168     nibbles = (3 + bignum_bitcount(dss->q)) / 4;
 169     if (nibbles < 1)
 170         nibbles = 1;
 171     for (i = nibbles; i--;)
 172         p[pos++] =
 173             hex[(bignum_byte(dss->q, i / 2) >> (4 * (i % 2))) & 0xF];
 174     pos += sprintf(p + pos, ",0x");
 175     nibbles = (3 + bignum_bitcount(dss->g)) / 4;
 176     if (nibbles < 1)
 177         nibbles = 1;
 178     for (i = nibbles; i--;)
 179         p[pos++] =
 180             hex[(bignum_byte(dss->g, i / 2) >> (4 * (i % 2))) & 0xF];
 181     pos += sprintf(p + pos, ",0x");
 182     nibbles = (3 + bignum_bitcount(dss->y)) / 4;
 183     if (nibbles < 1)
 184         nibbles = 1;
 185     for (i = nibbles; i--;)
 186         p[pos++] =
 187             hex[(bignum_byte(dss->y, i / 2) >> (4 * (i % 2))) & 0xF];
 188     p[pos] = '\0';
 189     return p;
 190 }
 191
 192 static char *dss_fingerprint(void *key)
 193 {
 194     struct dss_key *dss = (struct dss_key *) key;
 195     struct MD5Context md5c;
 196     unsigned char digest[16], lenbuf[4];
 197     char buffer[16 * 3 + 40];
 198     char *ret;
 199     int numlen, i;
 200
 201     MD5Init(&md5c);
 202     MD5Update(&md5c, (unsigned char *)"\0\0\0\7ssh-dss", 11);
 203
 204 #define ADD_BIGNUM(bignum) \
 205     numlen = (bignum_bitcount(bignum)+8)/8; \
 206     PUT_32BIT(lenbuf, numlen); MD5Update(&md5c, lenbuf, 4); \
 207     for (i = numlen; i-- ;) { \
 208         unsigned char c = bignum_byte(bignum, i); \
 209         MD5Update(&md5c, &c, 1); \
 210     }
 211     ADD_BIGNUM(dss->p);
 212     ADD_BIGNUM(dss->q);
 213     ADD_BIGNUM(dss->g);
 214     ADD_BIGNUM(dss->y);
 215 #undef ADD_BIGNUM
 216
 217     MD5Final(digest, &md5c);
 218
 219     sprintf(buffer, "ssh-dss %d ", bignum_bitcount(dss->p));
 220     for (i = 0; i < 16; i++)
 221         sprintf(buffer + strlen(buffer), "%s%02x", i ? ":" : "",
 222                 digest[i]);
 223     ret = snewn(strlen(buffer) + 1, char);
 224     if (ret)
 225         strcpy(ret, buffer);
 226     return ret;
 227 }
 228
 229 static int dss_verifysig(void *key, char *sig, int siglen,
 230                          char *data, int datalen)
 231 {
 232     struct dss_key *dss = (struct dss_key *) key;
 233     char *p;
 234     int slen;
 235     char hash[20];
 236     Bignum r, s, w, gu1p, yu2p, gu1yu2p, u1, u2, sha, v;
 237     int ret;
 238
 239     if (!dss->p)
 240         return 0;
 241
 242 #ifdef DEBUG_DSS
 243     {
 244         int i;
 245         printf("sig:");
 246         for (i = 0; i < siglen; i++)
 247             printf("  %02x", (unsigned char) (sig[i]));
 248         printf("\n");
 249     }
 250 #endif
 251     /*
 252      * Commercial SSH (2.0.13) and OpenSSH disagree over the format
 253      * of a DSA signature. OpenSSH is in line with RFC 4253:
 254      * it uses a string "ssh-dss", followed by a 40-byte string
 255      * containing two 160-bit integers end-to-end. Commercial SSH
 256      * can't be bothered with the header bit, and considers a DSA
 257      * signature blob to be _just_ the 40-byte string containing
 258      * the two 160-bit integers. We tell them apart by measuring
 259      * the length: length 40 means the commercial-SSH bug, anything
 260      * else is assumed to be RFC-compliant.
 261      */
 262     if (siglen != 40) {                /* bug not present; read admin fields */
 263         getstring(&sig, &siglen, &p, &slen);
 264         if (!p || slen != 7 || memcmp(p, "ssh-dss", 7)) {
 265             return 0;
 266         }
 267         sig += 4, siglen -= 4;         /* skip yet another length field */
 268     }
 269     r = get160(&sig, &siglen);
 270     s = get160(&sig, &siglen);
 271     if (!r || !s) {
 272         if (r)
 273             freebn(r);
 274         if (s)
 275             freebn(s);
 276         return 0;
 277     }
 278
 279     if (!bignum_cmp(s, Zero)) {
 280         freebn(r);
 281         freebn(s);
 282         return 0;
 283     }
 284
 285     /*
 286      * Step 1. w <- s^-1 mod q.
 287      */
 288     w = modinv(s, dss->q);
 289
 290     /*
 291      * Step 2. u1 <- SHA(message) * w mod q.
 292      */
 293     SHA_Simple(data, datalen, (unsigned char *)hash);
 294     p = hash;
 295     slen = 20;
 296     sha = get160(&p, &slen);
 297     u1 = modmul(sha, w, dss->q);
 298
 299     /*
 300      * Step 3. u2 <- r * w mod q.
 301      */
 302     u2 = modmul(r, w, dss->q);
 303
 304     /*
 305      * Step 4. v <- (g^u1 * y^u2 mod p) mod q.
 306      */
 307     gu1p = modpow(dss->g, u1, dss->p);
 308     yu2p = modpow(dss->y, u2, dss->p);
 309     gu1yu2p = modmul(gu1p, yu2p, dss->p);
 310     v = modmul(gu1yu2p, One, dss->q);
 311
 312     /*
 313      * Step 5. v should now be equal to r.
 314      */
 315
 316     ret = !bignum_cmp(v, r);
 317
 318     freebn(w);
 319     freebn(sha);
 320     freebn(u1);
 321     freebn(u2);
 322     freebn(gu1p);
 323     freebn(yu2p);
 324     freebn(gu1yu2p);
 325     freebn(v);
 326     freebn(r);
 327     freebn(s);
 328
 329     return ret;
 330 }
 331
 332 static unsigned char *dss_public_blob(void *key, int *len)
 333 {
 334     struct dss_key *dss = (struct dss_key *) key;
 335     int plen, qlen, glen, ylen, bloblen;
 336     int i;
 337     unsigned char *blob, *p;
 338
 339     plen = (bignum_bitcount(dss->p) + 8) / 8;
 340     qlen = (bignum_bitcount(dss->q) + 8) / 8;
 341     glen = (bignum_bitcount(dss->g) + 8) / 8;
 342     ylen = (bignum_bitcount(dss->y) + 8) / 8;
 343
 344     /*
 345      * string "ssh-dss", mpint p, mpint q, mpint g, mpint y. Total
 346      * 27 + sum of lengths. (five length fields, 20+7=27).
 347      */
 348     bloblen = 27 + plen + qlen + glen + ylen;
 349     blob = snewn(bloblen, unsigned char);
 350     p = blob;
 351     PUT_32BIT(p, 7);
 352     p += 4;
 353     memcpy(p, "ssh-dss", 7);
 354     p += 7;
 355     PUT_32BIT(p, plen);
 356     p += 4;
 357     for (i = plen; i--;)
 358         *p++ = bignum_byte(dss->p, i);
 359     PUT_32BIT(p, qlen);
 360     p += 4;
 361     for (i = qlen; i--;)
 362         *p++ = bignum_byte(dss->q, i);
 363     PUT_32BIT(p, glen);
 364     p += 4;
 365     for (i = glen; i--;)
 366         *p++ = bignum_byte(dss->g, i);
 367     PUT_32BIT(p, ylen);
 368     p += 4;
 369     for (i = ylen; i--;)
 370         *p++ = bignum_byte(dss->y, i);
 371     assert(p == blob + bloblen);
 372     *len = bloblen;
 373     return blob;
 374 }
 375
 376 static unsigned char *dss_private_blob(void *key, int *len)
 377 {
 378     struct dss_key *dss = (struct dss_key *) key;
 379     int xlen, bloblen;
 380     int i;
 381     unsigned char *blob, *p;
 382
 383     xlen = (bignum_bitcount(dss->x) + 8) / 8;
 384
 385     /*
 386      * mpint x, string[20] the SHA of p||q||g. Total 4 + xlen.
 387      */
 388     bloblen = 4 + xlen;
 389     blob = snewn(bloblen, unsigned char);
 390     p = blob;
 391     PUT_32BIT(p, xlen);
 392     p += 4;
 393     for (i = xlen; i--;)
 394         *p++ = bignum_byte(dss->x, i);
 395     assert(p == blob + bloblen);
 396     *len = bloblen;
 397     return blob;
 398 }
 399
 400 static void *dss_createkey(unsigned char *pub_blob, int pub_len,
 401                            unsigned char *priv_blob, int priv_len)
 402 {
 403     struct dss_key *dss;
 404     char *pb = (char *) priv_blob;
 405     char *hash;
 406     int hashlen;
 407     SHA_State s;
 408     unsigned char digest[20];
 409     Bignum ytest;
 410
 411     dss = dss_newkey((char *) pub_blob, pub_len);
 412     if (!dss)
 413         return NULL;
 414     dss->x = getmp(&pb, &priv_len);
 415     if (!dss->x) {
 416         dss_freekey(dss);
 417         return NULL;
 418     }
 419
 420     /*
 421      * Check the obsolete hash in the old DSS key format.
 422      */
 423     hashlen = -1;
 424     getstring(&pb, &priv_len, &hash, &hashlen);
 425     if (hashlen == 20) {
 426         SHA_Init(&s);
 427         sha_mpint(&s, dss->p);
 428         sha_mpint(&s, dss->q);
 429         sha_mpint(&s, dss->g);
 430         SHA_Final(&s, digest);
 431         if (0 != memcmp(hash, digest, 20)) {
 432             dss_freekey(dss);
 433             return NULL;
 434         }
 435     }
 436
 437     /*
 438      * Now ensure g^x mod p really is y.
 439      */
 440     ytest = modpow(dss->g, dss->x, dss->p);
 441     if (0 != bignum_cmp(ytest, dss->y)) {
 442         dss_freekey(dss);
 443         freebn(ytest);
 444         return NULL;
 445     }
 446     freebn(ytest);
 447
 448     return dss;
 449 }
 450
 451 static void *dss_openssh_createkey(unsigned char **blob, int *len)
 452 {
 453     char **b = (char **) blob;
 454     struct dss_key *dss;
 455
 456     dss = snew(struct dss_key);
 457
 458     dss->p = getmp(b, len);
 459     dss->q = getmp(b, len);
 460     dss->g = getmp(b, len);
 461     dss->y = getmp(b, len);
 462     dss->x = getmp(b, len);
 463
 464     if (!dss->p || !dss->q || !dss->g || !dss->y || !dss->x ||
 465         !bignum_cmp(dss->q, Zero) || !bignum_cmp(dss->p, Zero)) {
 466         /* Invalid key. */
 467         dss_freekey(dss);
 468         return NULL;
 469     }
 470
 471     return dss;
 472 }
 473
 474 static int dss_openssh_fmtkey(void *key, unsigned char *blob, int len)
 475 {
 476     struct dss_key *dss = (struct dss_key *) key;
 477     int bloblen, i;
 478
 479     bloblen =
 480         ssh2_bignum_length(dss->p) +
 481         ssh2_bignum_length(dss->q) +
 482         ssh2_bignum_length(dss->g) +
 483         ssh2_bignum_length(dss->y) +
 484         ssh2_bignum_length(dss->x);
 485
 486     if (bloblen > len)
 487         return bloblen;
 488
 489     bloblen = 0;
 490 #define ENC(x) \
 491     PUT_32BIT(blob+bloblen, ssh2_bignum_length((x))-4); bloblen += 4; \
 492     for (i = ssh2_bignum_length((x))-4; i-- ;) blob[bloblen++]=bignum_byte((x),i);
 493     ENC(dss->p);
 494     ENC(dss->q);
 495     ENC(dss->g);
 496     ENC(dss->y);
 497     ENC(dss->x);
 498
 499     return bloblen;
 500 }
 501
 502 static int dss_pubkey_bits(void *blob, int len)
 503 {
 504     struct dss_key *dss;
 505     int ret;
 506
 507     dss = dss_newkey((char *) blob, len);
 508     if (!dss)
 509         return -1;
 510     ret = bignum_bitcount(dss->p);
 511     dss_freekey(dss);
 512
 513     return ret;
 514 }
 515
 516 static unsigned char *dss_sign(void *key, char *data, int datalen, int *siglen)
 517 {
 518     /*
 519      * The basic DSS signing algorithm is:
 520      *
 521      *  - invent a random k between 1 and q-1 (exclusive).
 522      *  - Compute r = (g^k mod p) mod q.
 523      *  - Compute s = k^-1 * (hash + x*r) mod q.
 524      *
 525      * This has the dangerous properties that:
 526      *
 527      *  - if an attacker in possession of the public key _and_ the
 528      *    signature (for example, the host you just authenticated
 529      *    to) can guess your k, he can reverse the computation of s
 530      *    and work out x = r^-1 * (s*k - hash) mod q. That is, he
 531      *    can deduce the private half of your key, and masquerade
 532      *    as you for as long as the key is still valid.
 533      *
 534      *  - since r is a function purely of k and the public key, if
 535      *    the attacker only has a _range of possibilities_ for k
 536      *    it's easy for him to work through them all and check each
 537      *    one against r; he'll never be unsure of whether he's got
 538      *    the right one.
 539      *
 540      *  - if you ever sign two different hashes with the same k, it
 541      *    will be immediately obvious because the two signatures
 542      *    will have the same r, and moreover an attacker in
 543      *    possession of both signatures (and the public key of
 544      *    course) can compute k = (hash1-hash2) * (s1-s2)^-1 mod q,
 545      *    and from there deduce x as before.
 546      *
 547      *  - the Bleichenbacher attack on DSA makes use of methods of
 548      *    generating k which are significantly non-uniformly
 549      *    distributed; in particular, generating a 160-bit random
 550      *    number and reducing it mod q is right out.
 551      *
 552      * For this reason we must be pretty careful about how we
 553      * generate our k. Since this code runs on Windows, with no
 554      * particularly good system entropy sources, we can't trust our
 555      * RNG itself to produce properly unpredictable data. Hence, we
 556      * use a totally different scheme instead.
 557      *
 558      * What we do is to take a SHA-512 (_big_) hash of the private
 559      * key x, and then feed this into another SHA-512 hash that
 560      * also includes the message hash being signed. That is:
 561      *
 562      *   proto_k = SHA512 ( SHA512(x) || SHA160(message) )
 563      *
 564      * This number is 512 bits long, so reducing it mod q won't be
 565      * noticeably non-uniform. So
 566      *
 567      *   k = proto_k mod q
 568      *
 569      * This has the interesting property that it's _deterministic_:
 570      * signing the same hash twice with the same key yields the
 571      * same signature.
 572      *
 573      * Despite this determinism, it's still not predictable to an
 574      * attacker, because in order to repeat the SHA-512
 575      * construction that created it, the attacker would have to
 576      * know the private key value x - and by assumption he doesn't,
 577      * because if he knew that he wouldn't be attacking k!
 578      *
 579      * (This trick doesn't, _per se_, protect against reuse of k.
 580      * Reuse of k is left to chance; all it does is prevent
 581      * _excessively high_ chances of reuse of k due to entropy
 582      * problems.)
 583      *
 584      * Thanks to Colin Plumb for the general idea of using x to
 585      * ensure k is hard to guess, and to the Cambridge University
 586      * Computer Security Group for helping to argue out all the
 587      * fine details.
 588      */
 589     struct dss_key *dss = (struct dss_key *) key;
 590     SHA512_State ss;
 591     unsigned char digest[20], digest512[64];
 592     Bignum proto_k, k, gkp, hash, kinv, hxr, r, s;
 593     unsigned char *bytes;
 594     int nbytes, i;
 595
 596     SHA_Simple(data, datalen, digest);
 597
 598     /*
 599      * Hash some identifying text plus x.
 600      */
 601     SHA512_Init(&ss);
 602     SHA512_Bytes(&ss, "DSA deterministic k generator", 30);
 603     sha512_mpint(&ss, dss->x);
 604     SHA512_Final(&ss, digest512);
 605
 606     /*
 607      * Now hash that digest plus the message hash.
 608      */
 609     SHA512_Init(&ss);
 610     SHA512_Bytes(&ss, digest512, sizeof(digest512));
 611     SHA512_Bytes(&ss, digest, sizeof(digest));
 612     SHA512_Final(&ss, digest512);
 613
 614     smemclr(&ss, sizeof(ss));
 615
 616     /*
 617      * Now convert the result into a bignum, and reduce it mod q.
 618      */
 619     proto_k = bignum_from_bytes(digest512, 64);
 620     k = bigmod(proto_k, dss->q);
 621     freebn(proto_k);
 622
 623     smemclr(digest512, sizeof(digest512));
 624
 625     /*
 626      * Now we have k, so just go ahead and compute the signature.
 627      */
 628     gkp = modpow(dss->g, k, dss->p);   /* g^k mod p */
 629     r = bigmod(gkp, dss->q);           /* r = (g^k mod p) mod q */
 630     freebn(gkp);
 631
 632     hash = bignum_from_bytes(digest, 20);
 633     kinv = modinv(k, dss->q);          /* k^-1 mod q */
 634     hxr = bigmuladd(dss->x, r, hash);  /* hash + x*r */
 635     s = modmul(kinv, hxr, dss->q);     /* s = k^-1 * (hash + x*r) mod q */
 636     freebn(hxr);
 637     freebn(kinv);
 638     freebn(k);
 639     freebn(hash);
 640
 641     /*
 642      * Signature blob is
 643      *
 644      *   string  "ssh-dss"
 645      *   string  two 20-byte numbers r and s, end to end
 646      *
 647      * i.e. 4+7 + 4+40 bytes.
 648      */
 649     nbytes = 4 + 7 + 4 + 40;
 650     bytes = snewn(nbytes, unsigned char);
 651     PUT_32BIT(bytes, 7);
 652     memcpy(bytes + 4, "ssh-dss", 7);
 653     PUT_32BIT(bytes + 4 + 7, 40);
 654     for (i = 0; i < 20; i++) {
 655         bytes[4 + 7 + 4 + i] = bignum_byte(r, 19 - i);
 656         bytes[4 + 7 + 4 + 20 + i] = bignum_byte(s, 19 - i);
 657     }
 658     freebn(r);
 659     freebn(s);
 660
 661     *siglen = nbytes;
 662     return bytes;
 663 }
 664
 665 const struct ssh_signkey ssh_dss = {
 666     dss_newkey,
 667     dss_freekey,
 668     dss_fmtkey,
 669     dss_public_blob,
 670     dss_private_blob,
 671     dss_createkey,
 672     dss_openssh_createkey,
 673     dss_openssh_fmtkey,
 674     dss_pubkey_bits,
 675     dss_fingerprint,
 676     dss_verifysig,
 677     dss_sign,
 678     "ssh-dss",
 679     "dss"
 680 };