/[rdesktop]/jpeg/rdesktop/trunk/secure.c
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /jpeg/rdesktop/trunk/secure.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 438 by jsorg71, Fri Aug 1 17:01:58 2003 UTC revision 1327 by stargo, Fri Nov 3 19:56:42 2006 UTC
# Line 1  Line 1 
1  /* -*- c-basic-offset: 8 -*-  /* -*- c-basic-offset: 8 -*-
2     rdesktop: A Remote Desktop Protocol client.     rdesktop: A Remote Desktop Protocol client.
3     Protocol services - RDP encryption and licensing     Protocol services - RDP encryption and licensing
4     Copyright (C) Matthew Chapman 1999-2002     Copyright (C) Matthew Chapman 1999-2005
5    
6     This program is free software; you can redistribute it and/or modify     This program is free software; you can redistribute it and/or modify
7     it under the terms of the GNU General Public License as published by     it under the terms of the GNU General Public License as published by
# Line 20  Line 20 
20    
21  #include "rdesktop.h"  #include "rdesktop.h"
22    
 #ifdef WITH_OPENSSL  
23  #include <openssl/rc4.h>  #include <openssl/rc4.h>
24  #include <openssl/md5.h>  #include <openssl/md5.h>
25  #include <openssl/sha.h>  #include <openssl/sha.h>
26  #include <openssl/bn.h>  #include <openssl/bn.h>
27  #include <openssl/x509v3.h>  #include <openssl/x509v3.h>
28    
29    #if defined(OPENSSL_VERSION_NUMBER) && (OPENSSL_VERSION_NUMBER >= 0x0090800f)
30    #define D2I_X509_CONST const
31  #else  #else
32  #include "crypto/rc4.h"  #define D2I_X509_CONST
 #include "crypto/md5.h"  
 #include "crypto/sha.h"  
 #include "crypto/bn.h"  
33  #endif  #endif
34    
35  extern char hostname[16];  extern char g_hostname[16];
36  extern int width;  extern int g_width;
37  extern int height;  extern int g_height;
38  extern int keylayout;  extern unsigned int g_keylayout;
39    extern int g_keyboard_type;
40    extern int g_keyboard_subtype;
41    extern int g_keyboard_functionkeys;
42  extern BOOL g_encryption;  extern BOOL g_encryption;
43  extern BOOL g_licence_issued;  extern BOOL g_licence_issued;
44  extern BOOL g_use_rdp5;  extern BOOL g_use_rdp5;
45  extern int g_server_bpp;  extern BOOL g_console_session;
46    extern int g_server_depth;
47  extern uint16 mcs_userid;  extern uint16 mcs_userid;
48  extern VCHANNEL g_channels[];  extern VCHANNEL g_channels[];
49  extern unsigned int g_num_channels;  extern unsigned int g_num_channels;
# Line 49  static int rc4_key_len; Line 52  static int rc4_key_len;
52  static RC4_KEY rc4_decrypt_key;  static RC4_KEY rc4_decrypt_key;
53  static RC4_KEY rc4_encrypt_key;  static RC4_KEY rc4_encrypt_key;
54  static RSA *server_public_key;  static RSA *server_public_key;
55    static uint32 server_public_key_len;
56    
57  static uint8 sec_sign_key[16];  static uint8 sec_sign_key[16];
58  static uint8 sec_decrypt_key[16];  static uint8 sec_decrypt_key[16];
59  static uint8 sec_encrypt_key[16];  static uint8 sec_encrypt_key[16];
60  static uint8 sec_decrypt_update_key[16];  static uint8 sec_decrypt_update_key[16];
61  static uint8 sec_encrypt_update_key[16];  static uint8 sec_encrypt_update_key[16];
62  static uint8 sec_crypted_random[SEC_MODULUS_SIZE];  static uint8 sec_crypted_random[SEC_MAX_MODULUS_SIZE];
63    
64  uint16 g_server_rdp_version = 0;  uint16 g_server_rdp_version = 0;
65    
66    /* These values must be available to reset state - Session Directory */
67    static int sec_encrypt_use_count = 0;
68    static int sec_decrypt_use_count = 0;
69    
70    /*
71     * I believe this is based on SSLv3 with the following differences:
72     *  MAC algorithm (5.2.3.1) uses only 32-bit length in place of seq_num/type/length fields
73     *  MAC algorithm uses SHA1 and MD5 for the two hash functions instead of one or other
74     *  key_block algorithm (6.2.2) uses 'X', 'YY', 'ZZZ' instead of 'A', 'BB', 'CCC'
75     *  key_block partitioning is different (16 bytes each: MAC secret, decrypt key, encrypt key)
76     *  encryption/decryption keys updated every 4096 packets
77     * See http://wp.netscape.com/eng/ssl3/draft302.txt
78     */
79    
80  /*  /*
81   * General purpose 48-byte transformation, using two 32-byte salts (generally,   * 48-byte transformation used to generate master secret (6.1) and key material (6.2.2).
  * a client and server salt) and a global salt value used for padding.  
82   * Both SHA1 and MD5 algorithms are used.   * Both SHA1 and MD5 algorithms are used.
83   */   */
84  void  void
# Line 92  sec_hash_48(uint8 * out, uint8 * in, uin Line 109  sec_hash_48(uint8 * out, uint8 * in, uin
109  }  }
110    
111  /*  /*
112   * Weaker 16-byte transformation, also using two 32-byte salts, but   * 16-byte transformation used to generate export keys (6.2.2).
  * only using a single round of MD5.  
113   */   */
114  void  void
115  sec_hash_16(uint8 * out, uint8 * in, uint8 * salt1, uint8 * salt2)  sec_hash_16(uint8 * out, uint8 * in, uint8 * salt1, uint8 * salt2)
# Line 116  sec_make_40bit(uint8 * key) Line 132  sec_make_40bit(uint8 * key)
132          key[2] = 0x9e;          key[2] = 0x9e;
133  }  }
134    
135  /* Generate a session key and RC4 keys, given client and server randoms */  /* Generate encryption keys given client and server randoms */
136  static void  static void
137  sec_generate_keys(uint8 * client_key, uint8 * server_key, int rc4_key_size)  sec_generate_keys(uint8 * client_random, uint8 * server_random, int rc4_key_size)
138  {  {
139          uint8 session_key[48];          uint8 pre_master_secret[48];
140          uint8 temp_hash[48];          uint8 master_secret[48];
141          uint8 input[48];          uint8 key_block[48];
142    
143          /* Construct input data to hash */          /* Construct pre-master secret */
144          memcpy(input, client_key, 24);          memcpy(pre_master_secret, client_random, 24);
145          memcpy(input + 24, server_key, 24);          memcpy(pre_master_secret + 24, server_random, 24);
146    
147          /* Generate session key - two rounds of sec_hash_48 */          /* Generate master secret and then key material */
148          sec_hash_48(temp_hash, input, client_key, server_key, 65);          sec_hash_48(master_secret, pre_master_secret, client_random, server_random, 'A');
149          sec_hash_48(session_key, temp_hash, client_key, server_key, 88);          sec_hash_48(key_block, master_secret, client_random, server_random, 'X');
150    
151          /* Store first 16 bytes of session key, for generating signatures */          /* First 16 bytes of key material is MAC secret */
152          memcpy(sec_sign_key, session_key, 16);          memcpy(sec_sign_key, key_block, 16);
153    
154          /* Generate RC4 keys */          /* Generate export keys from next two blocks of 16 bytes */
155          sec_hash_16(sec_decrypt_key, &session_key[16], client_key, server_key);          sec_hash_16(sec_decrypt_key, &key_block[16], client_random, server_random);
156          sec_hash_16(sec_encrypt_key, &session_key[32], client_key, server_key);          sec_hash_16(sec_encrypt_key, &key_block[32], client_random, server_random);
157    
158          if (rc4_key_size == 1)          if (rc4_key_size == 1)
159          {          {
# Line 186  buf_out_uint32(uint8 * buffer, uint32 va Line 202  buf_out_uint32(uint8 * buffer, uint32 va
202          buffer[3] = (value >> 24) & 0xff;          buffer[3] = (value >> 24) & 0xff;
203  }  }
204    
205  /* Generate a signature hash, using a combination of SHA1 and MD5 */  /* Generate a MAC hash (5.2.3.1), using a combination of SHA1 and MD5 */
206  void  void
207  sec_sign(uint8 * signature, int siglen, uint8 * session_key, int keylen, uint8 * data, int datalen)  sec_sign(uint8 * signature, int siglen, uint8 * session_key, int keylen, uint8 * data, int datalen)
208  {  {
# Line 214  sec_sign(uint8 * signature, int siglen, Line 230  sec_sign(uint8 * signature, int siglen,
230          memcpy(signature, md5sig, siglen);          memcpy(signature, md5sig, siglen);
231  }  }
232    
233  /* Update an encryption key - similar to the signing process */  /* Update an encryption key */
234  static void  static void
235  sec_update(uint8 * key, uint8 * update_key)  sec_update(uint8 * key, uint8 * update_key)
236  {  {
# Line 246  sec_update(uint8 * key, uint8 * update_k Line 262  sec_update(uint8 * key, uint8 * update_k
262  static void  static void
263  sec_encrypt(uint8 * data, int length)  sec_encrypt(uint8 * data, int length)
264  {  {
265          static int use_count;          if (sec_encrypt_use_count == 4096)
   
         if (use_count == 4096)  
266          {          {
267                  sec_update(sec_encrypt_key, sec_encrypt_update_key);                  sec_update(sec_encrypt_key, sec_encrypt_update_key);
268                  RC4_set_key(&rc4_encrypt_key, rc4_key_len, sec_encrypt_key);                  RC4_set_key(&rc4_encrypt_key, rc4_key_len, sec_encrypt_key);
269                  use_count = 0;                  sec_encrypt_use_count = 0;
270          }          }
271    
272          RC4(&rc4_encrypt_key, length, data, data);          RC4(&rc4_encrypt_key, length, data, data);
273          use_count++;          sec_encrypt_use_count++;
274  }  }
275    
276  /* Decrypt data using RC4 */  /* Decrypt data using RC4 */
277  void  void
278  sec_decrypt(uint8 * data, int length)  sec_decrypt(uint8 * data, int length)
279  {  {
280          static int use_count;          if (sec_decrypt_use_count == 4096)
   
         if (use_count == 4096)  
281          {          {
282                  sec_update(sec_decrypt_key, sec_decrypt_update_key);                  sec_update(sec_decrypt_key, sec_decrypt_update_key);
283                  RC4_set_key(&rc4_decrypt_key, rc4_key_len, sec_decrypt_key);                  RC4_set_key(&rc4_decrypt_key, rc4_key_len, sec_decrypt_key);
284                  use_count = 0;                  sec_decrypt_use_count = 0;
285          }          }
286    
287          RC4(&rc4_decrypt_key, length, data, data);          RC4(&rc4_decrypt_key, length, data, data);
288          use_count++;          sec_decrypt_use_count++;
289  }  }
290    
291  static void  static void
# Line 292  reverse(uint8 * p, int len) Line 304  reverse(uint8 * p, int len)
304    
305  /* Perform an RSA public key encryption operation */  /* Perform an RSA public key encryption operation */
306  static void  static void
307  sec_rsa_encrypt(uint8 * out, uint8 * in, int len, uint8 * modulus, uint8 * exponent)  sec_rsa_encrypt(uint8 * out, uint8 * in, int len, uint32 modulus_size, uint8 * modulus,
308                    uint8 * exponent)
309  {  {
310          BN_CTX *ctx;          BN_CTX *ctx;
311          BIGNUM mod, exp, x, y;          BIGNUM mod, exp, x, y;
312          uint8 inr[SEC_MODULUS_SIZE];          uint8 inr[SEC_MAX_MODULUS_SIZE];
313          int outlen;          int outlen;
314    
315          reverse(modulus, SEC_MODULUS_SIZE);          reverse(modulus, modulus_size);
316          reverse(exponent, SEC_EXPONENT_SIZE);          reverse(exponent, SEC_EXPONENT_SIZE);
317          memcpy(inr, in, len);          memcpy(inr, in, len);
318          reverse(inr, len);          reverse(inr, len);
# Line 310  sec_rsa_encrypt(uint8 * out, uint8 * in, Line 323  sec_rsa_encrypt(uint8 * out, uint8 * in,
323          BN_init(&x);          BN_init(&x);
324          BN_init(&y);          BN_init(&y);
325    
326          BN_bin2bn(modulus, SEC_MODULUS_SIZE, &mod);          BN_bin2bn(modulus, modulus_size, &mod);
327          BN_bin2bn(exponent, SEC_EXPONENT_SIZE, &exp);          BN_bin2bn(exponent, SEC_EXPONENT_SIZE, &exp);
328          BN_bin2bn(inr, len, &x);          BN_bin2bn(inr, len, &x);
329          BN_mod_exp(&y, &x, &exp, &mod, ctx);          BN_mod_exp(&y, &x, &exp, &mod, ctx);
330          outlen = BN_bn2bin(&y, out);          outlen = BN_bn2bin(&y, out);
331          reverse(out, outlen);          reverse(out, outlen);
332          if (outlen < SEC_MODULUS_SIZE)          if (outlen < modulus_size)
333                  memset(out + outlen, 0, SEC_MODULUS_SIZE - outlen);                  memset(out + outlen, 0, modulus_size - outlen);
334    
335          BN_free(&y);          BN_free(&y);
336          BN_clear_free(&x);          BN_clear_free(&x);
# Line 349  sec_send_to_channel(STREAM s, uint32 fla Line 362  sec_send_to_channel(STREAM s, uint32 fla
362  {  {
363          int datalen;          int datalen;
364    
365    #ifdef WITH_SCARD
366            scard_sec_lock();
367    #endif
368    
369          s_pop_layer(s, sec_hdr);          s_pop_layer(s, sec_hdr);
370          if (!g_licence_issued || (flags & SEC_ENCRYPT))          if (!g_licence_issued || (flags & SEC_ENCRYPT))
371                  out_uint32_le(s, flags);                  out_uint32_le(s, flags);
# Line 368  sec_send_to_channel(STREAM s, uint32 fla Line 385  sec_send_to_channel(STREAM s, uint32 fla
385          }          }
386    
387          mcs_send_to_channel(s, channel);          mcs_send_to_channel(s, channel);
388    
389    #ifdef WITH_SCARD
390            scard_sec_unlock();
391    #endif
392  }  }
393    
394  /* Transmit secure transport packet */  /* Transmit secure transport packet */
# Line 383  sec_send(STREAM s, uint32 flags) Line 404  sec_send(STREAM s, uint32 flags)
404  static void  static void
405  sec_establish_key(void)  sec_establish_key(void)
406  {  {
407          uint32 length = SEC_MODULUS_SIZE + SEC_PADDING_SIZE;          uint32 length = server_public_key_len + SEC_PADDING_SIZE;
408          uint32 flags = SEC_CLIENT_RANDOM;          uint32 flags = SEC_CLIENT_RANDOM;
409          STREAM s;          STREAM s;
410    
411          s = sec_init(flags, 76);          s = sec_init(flags, length + 4);
412    
413          out_uint32_le(s, length);          out_uint32_le(s, length);
414          out_uint8p(s, sec_crypted_random, SEC_MODULUS_SIZE);          out_uint8p(s, sec_crypted_random, server_public_key_len);
415          out_uint8s(s, SEC_PADDING_SIZE);          out_uint8s(s, SEC_PADDING_SIZE);
416    
417          s_mark_end(s);          s_mark_end(s);
# Line 401  sec_establish_key(void) Line 422  sec_establish_key(void)
422  static void  static void
423  sec_out_mcs_data(STREAM s)  sec_out_mcs_data(STREAM s)
424  {  {
425          int hostlen = 2 * strlen(hostname);          int hostlen = 2 * strlen(g_hostname);
426          int length = 158 + 76 + 12 + 4;          int length = 158 + 76 + 12 + 4;
427          unsigned int i;          unsigned int i;
428    
# Line 411  sec_out_mcs_data(STREAM s) Line 432  sec_out_mcs_data(STREAM s)
432          if (hostlen > 30)          if (hostlen > 30)
433                  hostlen = 30;                  hostlen = 30;
434    
435          out_uint16_be(s, 5);    /* unknown */          /* Generic Conference Control (T.124) ConferenceCreateRequest */
436            out_uint16_be(s, 5);
437          out_uint16_be(s, 0x14);          out_uint16_be(s, 0x14);
438          out_uint8(s, 0x7c);          out_uint8(s, 0x7c);
439          out_uint16_be(s, 1);          out_uint16_be(s, 1);
# Line 424  sec_out_mcs_data(STREAM s) Line 446  sec_out_mcs_data(STREAM s)
446          out_uint16_le(s, 0xc001);          out_uint16_le(s, 0xc001);
447          out_uint8(s, 0);          out_uint8(s, 0);
448    
449          out_uint32_le(s, 0x61637544);   /* "Duca" ?! */          out_uint32_le(s, 0x61637544);   /* OEM ID: "Duca", as in Ducati. */
450          out_uint16_be(s, ((length - 14) | 0x8000));     /* remaining length */          out_uint16_be(s, ((length - 14) | 0x8000));     /* remaining length */
451    
452          /* Client information */          /* Client information */
# Line 432  sec_out_mcs_data(STREAM s) Line 454  sec_out_mcs_data(STREAM s)
454          out_uint16_le(s, 212);  /* length */          out_uint16_le(s, 212);  /* length */
455          out_uint16_le(s, g_use_rdp5 ? 4 : 1);   /* RDP version. 1 == RDP4, 4 == RDP5. */          out_uint16_le(s, g_use_rdp5 ? 4 : 1);   /* RDP version. 1 == RDP4, 4 == RDP5. */
456          out_uint16_le(s, 8);          out_uint16_le(s, 8);
457          out_uint16_le(s, width);          out_uint16_le(s, g_width);
458          out_uint16_le(s, height);          out_uint16_le(s, g_height);
459          out_uint16_le(s, 0xca01);          out_uint16_le(s, 0xca01);
460          out_uint16_le(s, 0xaa03);          out_uint16_le(s, 0xaa03);
461          out_uint32_le(s, keylayout);          out_uint32_le(s, g_keylayout);
462          out_uint32_le(s, 2600); /* Client build. We are now 2600 compatible :-) */          out_uint32_le(s, 2600); /* Client build. We are now 2600 compatible :-) */
463    
464          /* Unicode name of client, padded to 32 bytes */          /* Unicode name of client, padded to 32 bytes */
465          rdp_out_unistr(s, hostname, hostlen);          rdp_out_unistr(s, g_hostname, hostlen);
466          out_uint8s(s, 30 - hostlen);          out_uint8s(s, 30 - hostlen);
467    
468          out_uint32_le(s, 4);          /* See
469          out_uint32(s, 0);             http://msdn.microsoft.com/library/default.asp?url=/library/en-us/wceddk40/html/cxtsksupportingremotedesktopprotocol.asp */
470          out_uint32_le(s, 12);          out_uint32_le(s, g_keyboard_type);
471            out_uint32_le(s, g_keyboard_subtype);
472            out_uint32_le(s, g_keyboard_functionkeys);
473          out_uint8s(s, 64);      /* reserved? 4 + 12 doublewords */          out_uint8s(s, 64);      /* reserved? 4 + 12 doublewords */
474            out_uint16_le(s, 0xca01);       /* colour depth? */
         switch (g_server_bpp)  
         {  
                 case 8:  
                         out_uint16_le(s, 0xca01);  
                         break;  
                 case 15:  
                         out_uint16_le(s, 0xca02);  
                         break;  
                 case 16:  
                         out_uint16_le(s, 0xca03);  
                         break;  
                 case 24:  
                         out_uint16_le(s, 0xca04);  
                         break;  
         }  
475          out_uint16_le(s, 1);          out_uint16_le(s, 1);
476    
477          out_uint32(s, 0);          out_uint32(s, 0);
478          out_uint8(s, g_server_bpp);          out_uint8(s, g_server_depth);
479          out_uint16_le(s, 0x0700);          out_uint16_le(s, 0x0700);
480          out_uint8(s, 0);          out_uint8(s, 0);
481          out_uint32_le(s, 1);          out_uint32_le(s, 1);
# Line 474  sec_out_mcs_data(STREAM s) Line 483  sec_out_mcs_data(STREAM s)
483    
484          out_uint16_le(s, SEC_TAG_CLI_4);          out_uint16_le(s, SEC_TAG_CLI_4);
485          out_uint16_le(s, 12);          out_uint16_le(s, 12);
486          out_uint32_le(s, 9);          out_uint32_le(s, g_console_session ? 0xb : 9);
487          out_uint32(s, 0);          out_uint32(s, 0);
488    
489          /* Client encryption settings */          /* Client encryption settings */
# Line 514  sec_parse_public_key(STREAM s, uint8 ** Line 523  sec_parse_public_key(STREAM s, uint8 **
523          }          }
524    
525          in_uint32_le(s, modulus_len);          in_uint32_le(s, modulus_len);
526          if (modulus_len != SEC_MODULUS_SIZE + SEC_PADDING_SIZE)          modulus_len -= SEC_PADDING_SIZE;
527            if ((modulus_len < 64) || (modulus_len > SEC_MAX_MODULUS_SIZE))
528          {          {
529                  error("modulus len 0x%x\n", modulus_len);                  error("Bad server public key size (%u bits)\n", modulus_len * 8);
530                  return False;                  return False;
531          }          }
532    
533          in_uint8s(s, 8);        /* modulus_bits, unknown */          in_uint8s(s, 8);        /* modulus_bits, unknown */
534          in_uint8p(s, *exponent, SEC_EXPONENT_SIZE);          in_uint8p(s, *exponent, SEC_EXPONENT_SIZE);
535          in_uint8p(s, *modulus, SEC_MODULUS_SIZE);          in_uint8p(s, *modulus, modulus_len);
536          in_uint8s(s, SEC_PADDING_SIZE);          in_uint8s(s, SEC_PADDING_SIZE);
537            server_public_key_len = modulus_len;
538    
539          return s_check(s);          return s_check(s);
540  }  }
# Line 540  sec_parse_x509_key(X509 * cert) Line 551  sec_parse_x509_key(X509 * cert)
551          if (OBJ_obj2nid(cert->cert_info->key->algor->algorithm) == NID_md5WithRSAEncryption)          if (OBJ_obj2nid(cert->cert_info->key->algor->algorithm) == NID_md5WithRSAEncryption)
552          {          {
553                  DEBUG_RDP5(("Re-setting algorithm type to RSA in server certificate\n"));                  DEBUG_RDP5(("Re-setting algorithm type to RSA in server certificate\n"));
554                    ASN1_OBJECT_free(cert->cert_info->key->algor->algorithm);
555                  cert->cert_info->key->algor->algorithm = OBJ_nid2obj(NID_rsaEncryption);                  cert->cert_info->key->algor->algorithm = OBJ_nid2obj(NID_rsaEncryption);
556          }          }
557          epk = X509_get_pubkey(cert);          epk = X509_get_pubkey(cert);
# Line 549  sec_parse_x509_key(X509 * cert) Line 561  sec_parse_x509_key(X509 * cert)
561                  return False;                  return False;
562          }          }
563    
564          server_public_key = (RSA *) epk->pkey.ptr;          server_public_key = RSAPublicKey_dup((RSA *) epk->pkey.ptr);
565            EVP_PKEY_free(epk);
566    
567            server_public_key_len = RSA_size(server_public_key);
568            if ((server_public_key_len < 64) || (server_public_key_len > SEC_MAX_MODULUS_SIZE))
569            {
570                    error("Bad server public key size (%u bits)\n", server_public_key_len * 8);
571                    return False;
572            }
573    
574          return True;          return True;
575  }  }
# Line 624  sec_parse_crypt_info(STREAM s, uint32 * Line 644  sec_parse_crypt_info(STREAM s, uint32 *
644          }          }
645          else          else
646          {          {
647                    uint32 certcount;
648    
649                  DEBUG_RDP5(("We're going for the RDP5-style encryption\n"));                  DEBUG_RDP5(("We're going for the RDP5-style encryption\n"));
650                  in_uint8s(s, 4);        /* Number of certificates */                  in_uint32_le(s, certcount);     /* Number of certificates */
651    
652                    if (certcount < 2)
653                    {
654                            error("Server didn't send enough X509 certificates\n");
655                            return False;
656                    }
657    
658                    for (; certcount > 2; certcount--)
659                    {               /* ignore all the certificates between the root and the signing CA */
660                            uint32 ignorelen;
661                            X509 *ignorecert;
662    
663                            DEBUG_RDP5(("Ignored certs left: %d\n", certcount));
664    
665                            in_uint32_le(s, ignorelen);
666                            DEBUG_RDP5(("Ignored Certificate length is %d\n", ignorelen));
667                            ignorecert =
668                                    d2i_X509(NULL, (D2I_X509_CONST unsigned char **) &(s->p),
669                                             ignorelen);
670    
671                            if (ignorecert == NULL)
672                            {       /* XXX: error out? */
673                                    DEBUG_RDP5(("got a bad cert: this will probably screw up the rest of the communication\n"));
674                            }
675    
676    #ifdef WITH_DEBUG_RDP5
677                            DEBUG_RDP5(("cert #%d (ignored):\n", certcount));
678                            X509_print_fp(stdout, ignorecert);
679    #endif
680                    }
681    
682                  /* Do da funky X.509 stuffy                  /* Do da funky X.509 stuffy
683    
# Line 638  sec_parse_crypt_info(STREAM s, uint32 * Line 690  sec_parse_crypt_info(STREAM s, uint32 *
690    
691                  in_uint32_le(s, cacert_len);                  in_uint32_le(s, cacert_len);
692                  DEBUG_RDP5(("CA Certificate length is %d\n", cacert_len));                  DEBUG_RDP5(("CA Certificate length is %d\n", cacert_len));
693                  cacert = d2i_X509(NULL, &(s->p), cacert_len);                  cacert = d2i_X509(NULL, (D2I_X509_CONST unsigned char **) &(s->p), cacert_len);
694                  /* Note: We don't need to move s->p here - d2i_X509 is                  /* Note: We don't need to move s->p here - d2i_X509 is
695                     "kind" enough to do it for us */                     "kind" enough to do it for us */
696                  if (NULL == cacert)                  if (NULL == cacert)
# Line 657  sec_parse_crypt_info(STREAM s, uint32 * Line 709  sec_parse_crypt_info(STREAM s, uint32 *
709                     MITM-attacks.                     MITM-attacks.
710                   */                   */
711    
712                    X509_free(cacert);
713    
714                  in_uint32_le(s, cert_len);                  in_uint32_le(s, cert_len);
715                  DEBUG_RDP5(("Certificate length is %d\n", cert_len));                  DEBUG_RDP5(("Certificate length is %d\n", cert_len));
716                  server_cert = d2i_X509(NULL, &(s->p), cert_len);                  server_cert = d2i_X509(NULL, (D2I_X509_CONST unsigned char **) &(s->p), cert_len);
717                  if (NULL == server_cert)                  if (NULL == server_cert)
718                  {                  {
719                          error("Couldn't load Certificate from server\n");                          error("Couldn't load Certificate from server\n");
# Line 675  sec_parse_crypt_info(STREAM s, uint32 * Line 729  sec_parse_crypt_info(STREAM s, uint32 *
729                  if (!sec_parse_x509_key(server_cert))                  if (!sec_parse_x509_key(server_cert))
730                  {                  {
731                          DEBUG_RDP5(("Didn't parse X509 correctly\n"));                          DEBUG_RDP5(("Didn't parse X509 correctly\n"));
732                            X509_free(server_cert);
733                          return False;                          return False;
734                  }                  }
735                    X509_free(server_cert);
736                  return True;    /* There's some garbage here we don't care about */                  return True;    /* There's some garbage here we don't care about */
737          }          }
738          return s_check_end(s);          return s_check_end(s);
# Line 686  sec_parse_crypt_info(STREAM s, uint32 * Line 742  sec_parse_crypt_info(STREAM s, uint32 *
742  static void  static void
743  sec_process_crypt_info(STREAM s)  sec_process_crypt_info(STREAM s)
744  {  {
745          uint8 *server_random, *modulus, *exponent;          uint8 *server_random = NULL, *modulus = NULL, *exponent = NULL;
746          uint8 client_random[SEC_RANDOM_SIZE];          uint8 client_random[SEC_RANDOM_SIZE];
747          uint32 rc4_key_size;          uint32 rc4_key_size;
         uint8 inr[SEC_MODULUS_SIZE];  
748    
749          if (!sec_parse_crypt_info(s, &rc4_key_size, &server_random, &modulus, &exponent))          if (!sec_parse_crypt_info(s, &rc4_key_size, &server_random, &modulus, &exponent))
750          {          {
# Line 698  sec_process_crypt_info(STREAM s) Line 753  sec_process_crypt_info(STREAM s)
753          }          }
754    
755          DEBUG(("Generating client random\n"));          DEBUG(("Generating client random\n"));
         /* Generate a client random, and hence determine encryption keys */  
         // This is what the MS client do:  
         memset(inr, 0, SEC_RANDOM_SIZE);  
         /*  *ARIGL!* Plaintext attack, anyone?  
            I tried doing:  
            generate_random(inr);  
            ..but that generates connection errors now and then (yes,  
            "now and then". Something like 0 to 3 attempts needed before a  
            successful connection. Nice. Not!  
          */  
   
756          generate_random(client_random);          generate_random(client_random);
757    
758          if (NULL != server_public_key)          if (NULL != server_public_key)
759          {                       /* Which means we should use          {                       /* Which means we should use
760                                     RDP5-style encryption */                                     RDP5-style encryption */
761                    uint8 inr[SEC_MAX_MODULUS_SIZE];
762                    uint32 padding_len = server_public_key_len - SEC_RANDOM_SIZE;
763    
764                  memcpy(inr + SEC_RANDOM_SIZE, client_random, SEC_RANDOM_SIZE);                  /* This is what the MS client do: */
765                  reverse(inr + SEC_RANDOM_SIZE, SEC_RANDOM_SIZE);                  memset(inr, 0, padding_len);
766                    /*  *ARIGL!* Plaintext attack, anyone?
767                       I tried doing:
768                       generate_random(inr);
769                       ..but that generates connection errors now and then (yes,
770                       "now and then". Something like 0 to 3 attempts needed before a
771                       successful connection. Nice. Not!
772                     */
773                    memcpy(inr + padding_len, client_random, SEC_RANDOM_SIZE);
774                    reverse(inr + padding_len, SEC_RANDOM_SIZE);
775    
776                  RSA_public_encrypt(SEC_MODULUS_SIZE,                  RSA_public_encrypt(server_public_key_len,
777                                     inr, sec_crypted_random, server_public_key, RSA_NO_PADDING);                                     inr, sec_crypted_random, server_public_key, RSA_NO_PADDING);
778    
779                  reverse(sec_crypted_random, SEC_MODULUS_SIZE);                  reverse(sec_crypted_random, server_public_key_len);
780    
781                    RSA_free(server_public_key);
782                    server_public_key = NULL;
783          }          }
784          else          else
785          {                       /* RDP4-style encryption */          {                       /* RDP4-style encryption */
786                  sec_rsa_encrypt(sec_crypted_random,                  sec_rsa_encrypt(sec_crypted_random,
787                                  client_random, SEC_RANDOM_SIZE, modulus, exponent);                                  client_random, SEC_RANDOM_SIZE, server_public_key_len, modulus,
788                                    exponent);
789          }          }
790          sec_generate_keys(client_random, server_random, rc4_key_size);          sec_generate_keys(client_random, server_random, rc4_key_size);
791  }  }
# Line 739  sec_process_srv_info(STREAM s) Line 798  sec_process_srv_info(STREAM s)
798          in_uint16_le(s, g_server_rdp_version);          in_uint16_le(s, g_server_rdp_version);
799          DEBUG_RDP5(("Server RDP version is %d\n", g_server_rdp_version));          DEBUG_RDP5(("Server RDP version is %d\n", g_server_rdp_version));
800          if (1 == g_server_rdp_version)          if (1 == g_server_rdp_version)
801            {
802                  g_use_rdp5 = 0;                  g_use_rdp5 = 0;
803                    g_server_depth = 8;
804            }
805  }  }
806    
807    
# Line 751  sec_process_mcs_data(STREAM s) Line 813  sec_process_mcs_data(STREAM s)
813          uint8 *next_tag;          uint8 *next_tag;
814          uint8 len;          uint8 len;
815    
816          in_uint8s(s, 21);       /* header (T.124 stuff, probably) */          in_uint8s(s, 21);       /* header (T.124 ConferenceCreateResponse) */
817          in_uint8(s, len);          in_uint8(s, len);
818          if (len & 0x80)          if (len & 0x80)
819                  in_uint8(s, len);                  in_uint8(s, len);
# Line 792  sec_process_mcs_data(STREAM s) Line 854  sec_process_mcs_data(STREAM s)
854    
855  /* Receive secure transport packet */  /* Receive secure transport packet */
856  STREAM  STREAM
857  sec_recv(void)  sec_recv(uint8 * rdpver)
858  {  {
859          uint32 sec_flags;          uint32 sec_flags;
860          uint16 channel;          uint16 channel;
861          STREAM s;          STREAM s;
862    
863          while ((s = mcs_recv(&channel)) != NULL)          while ((s = mcs_recv(&channel, rdpver)) != NULL)
864          {          {
865                    if (rdpver != NULL)
866                    {
867                            if (*rdpver != 3)
868                            {
869                                    if (*rdpver & 0x80)
870                                    {
871                                            in_uint8s(s, 8);        /* signature */
872                                            sec_decrypt(s->p, s->end - s->p);
873                                    }
874                                    return s;
875                            }
876                    }
877                  if (g_encryption || !g_licence_issued)                  if (g_encryption || !g_licence_issued)
878                  {                  {
879                          in_uint32_le(s, sec_flags);                          in_uint32_le(s, sec_flags);
# Line 815  sec_recv(void) Line 889  sec_recv(void)
889                                  licence_process(s);                                  licence_process(s);
890                                  continue;                                  continue;
891                          }                          }
892    
893                            if (sec_flags & 0x0400) /* SEC_REDIRECT_ENCRYPT */
894                            {
895                                    uint8 swapbyte;
896    
897                                    in_uint8s(s, 8);        /* signature */
898                                    sec_decrypt(s->p, s->end - s->p);
899    
900                                    /* Check for a redirect packet, starts with 00 04 */
901                                    if (s->p[0] == 0 && s->p[1] == 4)
902                                    {
903                                            /* for some reason the PDU and the length seem to be swapped.
904                                               This isn't good, but we're going to do a byte for byte
905                                               swap.  So the first foure value appear as: 00 04 XX YY,
906                                               where XX YY is the little endian length. We're going to
907                                               use 04 00 as the PDU type, so after our swap this will look
908                                               like: XX YY 04 00 */
909                                            swapbyte = s->p[0];
910                                            s->p[0] = s->p[2];
911                                            s->p[2] = swapbyte;
912    
913                                            swapbyte = s->p[1];
914                                            s->p[1] = s->p[3];
915                                            s->p[3] = swapbyte;
916    
917                                            swapbyte = s->p[2];
918                                            s->p[2] = s->p[3];
919                                            s->p[3] = swapbyte;
920                                    }
921    #ifdef WITH_DEBUG
922                                    /* warning!  this debug statement will show passwords in the clear! */
923                                    hexdump(s->p, s->end - s->p);
924    #endif
925                            }
926    
927                  }                  }
928    
929                  if (channel != MCS_GLOBAL_CHANNEL)                  if (channel != MCS_GLOBAL_CHANNEL)
930                  {                  {
931                          channel_process(s, channel);                          channel_process(s, channel);
932                          continue;                          *rdpver = 0xff;
933                            return s;
934                  }                  }
935    
936                  return s;                  return s;
# Line 843  sec_connect(char *server, char *username Line 953  sec_connect(char *server, char *username
953          if (!mcs_connect(server, &mcs_data, username))          if (!mcs_connect(server, &mcs_data, username))
954                  return False;                  return False;
955    
956          //      sec_process_mcs_data(&mcs_data);          /*      sec_process_mcs_data(&mcs_data); */
957            if (g_encryption)
958                    sec_establish_key();
959            xfree(mcs_data.data);
960            return True;
961    }
962    
963    /* Establish a secure connection */
964    BOOL
965    sec_reconnect(char *server)
966    {
967            struct stream mcs_data;
968    
969            /* We exchange some RDP data during the MCS-Connect */
970            mcs_data.size = 512;
971            mcs_data.p = mcs_data.data = (uint8 *) xmalloc(mcs_data.size);
972            sec_out_mcs_data(&mcs_data);
973    
974            if (!mcs_reconnect(server, &mcs_data))
975                    return False;
976    
977            /*      sec_process_mcs_data(&mcs_data); */
978          if (g_encryption)          if (g_encryption)
979                  sec_establish_key();                  sec_establish_key();
980          xfree(mcs_data.data);          xfree(mcs_data.data);
# Line 856  sec_disconnect(void) Line 987  sec_disconnect(void)
987  {  {
988          mcs_disconnect();          mcs_disconnect();
989  }  }
990    
991    /* reset the state of the sec layer */
992    void
993    sec_reset_state(void)
994    {
995            g_server_rdp_version = 0;
996            sec_encrypt_use_count = 0;
997            sec_decrypt_use_count = 0;
998            mcs_reset_state();
999    }
Legend:
Removed from v.438  
changed lines
  Added in v.1327
  ViewVC Help
Powered by ViewVC 1.1.26