/[rdesktop]/sourceforge.net/trunk/rdesktop/secure.c
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /sourceforge.net/trunk/rdesktop/secure.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 25 by matty, Sat Jan 6 03:47:04 2001 UTC revision 32 by matty, Sat Sep 15 09:37:17 2001 UTC
# Line 1  Line 1 
1  /*  /*
2     rdesktop: A Remote Desktop Protocol client.     rdesktop: A Remote Desktop Protocol client.
3     Protocol services - RDP encryption and licensing     Protocol services - RDP encryption and licensing
4     Copyright (C) Matthew Chapman 1999-2000     Copyright (C) Matthew Chapman 1999-2001
5    
6     This program is free software; you can redistribute it and/or modify     This program is free software; you can redistribute it and/or modify
7     it under the terms of the GNU General Public License as published by     it under the terms of the GNU General Public License as published by
# Line 19  Line 19 
19  */  */
20    
21  #include "rdesktop.h"  #include "rdesktop.h"
22    
23    #ifdef WITH_OPENSSL
24    #include <openssl/rc4.h>
25    #include <openssl/md5.h>
26    #include <openssl/sha.h>
27    #include <openssl/bn.h>
28    #else
29  #include "crypto/rc4.h"  #include "crypto/rc4.h"
30  #include "crypto/md5.h"  #include "crypto/md5.h"
31  #include "crypto/sha.h"  #include "crypto/sha.h"
32  #include "crypto/arith.h"  #include "crypto/bn.h"
33    #endif
34    
35  extern char hostname[16];  extern char hostname[16];
36  extern int width;  extern int width;
37  extern int height;  extern int height;
38  extern int keylayout;  extern int keylayout;
39    extern BOOL encryption;
40    extern BOOL licence_issued;
41    
42  static int rc4_key_len;  static int rc4_key_len;
43  static RC4_KEY rc4_decrypt_key;  static RC4_KEY rc4_decrypt_key;
# Line 124  sec_generate_keys(uint8 *client_key, uin Line 134  sec_generate_keys(uint8 *client_key, uin
134    
135          if (rc4_key_size == 1)          if (rc4_key_size == 1)
136          {          {
137                  DEBUG("40-bit encryption enabled\n");                  DEBUG(("40-bit encryption enabled\n"));
138                  sec_make_40bit(sec_sign_key);                  sec_make_40bit(sec_sign_key);
139                  sec_make_40bit(sec_decrypt_key);                  sec_make_40bit(sec_decrypt_key);
140                  sec_make_40bit(sec_encrypt_key);                  sec_make_40bit(sec_encrypt_key);
# Line 132  sec_generate_keys(uint8 *client_key, uin Line 142  sec_generate_keys(uint8 *client_key, uin
142          }          }
143          else          else
144          {          {
145                  DEBUG("128-bit encryption enabled\n");                  DEBUG(("128-bit encryption enabled\n"));
146                  rc4_key_len = 16;                  rc4_key_len = 16;
147          }          }
148    
# Line 260  sec_decrypt(uint8 *data, int length) Line 270  sec_decrypt(uint8 *data, int length)
270          use_count++;          use_count++;
271  }  }
272    
 /* Read in a NUMBER from a buffer */  
 static void  
 sec_read_number(NUMBER * num, uint8 *buffer, int len)  
 {  
         INT *data = num->n_part;  
         int i, j;  
   
         for (i = 0, j = 0; j < len; i++, j += 2)  
                 data[i] = buffer[j] | (buffer[j + 1] << 8);  
   
         num->n_len = i;  
 }  
   
 /* Write a NUMBER to a buffer */  
273  static void  static void
274  sec_write_number(NUMBER * num, uint8 *buffer, int len)  reverse(uint8 *p, int len)
275  {  {
         INT *data = num->n_part;  
276          int i, j;          int i, j;
277            uint8 temp;
278    
279          for (i = 0, j = 0; j < len; i++, j += 2)          for (i = 0, j = len-1; i < j; i++, j--)
280          {          {
281                  buffer[j] = data[i] & 0xff;                  temp = p[i];
282                  buffer[j + 1] = data[i] >> 8;                  p[i] = p[j];
283                    p[j] = temp;
284          }          }
285  }  }
286    
# Line 292  static void Line 289  static void
289  sec_rsa_encrypt(uint8 *out, uint8 *in, int len,  sec_rsa_encrypt(uint8 *out, uint8 *in, int len,
290                  uint8 *modulus, uint8 *exponent)                  uint8 *modulus, uint8 *exponent)
291  {  {
292          NUMBER data, key;          BN_CTX ctx;
293            BIGNUM mod, exp, x, y;
294          /* Set modulus for arithmetic */          uint8 inr[SEC_MODULUS_SIZE];
295          sec_read_number(&key, modulus, SEC_MODULUS_SIZE);          int outlen;
296          m_init(&key, NULL);  
297            reverse(modulus, SEC_MODULUS_SIZE);
298          /* Exponentiate */          reverse(exponent, SEC_EXPONENT_SIZE);
299          sec_read_number(&data, in, len);          memcpy(inr, in, len);
300          sec_read_number(&key, exponent, SEC_EXPONENT_SIZE);          reverse(inr, len);
301          m_exp(&data, &key, &data);  
302          sec_write_number(&data, out, SEC_MODULUS_SIZE);          BN_CTX_init(&ctx);
303            BN_init(&mod);
304            BN_init(&exp);
305            BN_init(&x);
306            BN_init(&y);
307    
308            BN_bin2bn(modulus, SEC_MODULUS_SIZE, &mod);
309            BN_bin2bn(exponent, SEC_EXPONENT_SIZE, &exp);
310            BN_bin2bn(inr, len, &x);
311            BN_mod_exp(&y, &x, &exp, &mod, &ctx);
312            outlen = BN_bn2bin(&y, out);
313            reverse(out, outlen);
314            if (outlen < SEC_MODULUS_SIZE)
315                    memset(out+outlen, 0, SEC_MODULUS_SIZE-outlen);
316    
317            BN_free(&y);
318            BN_clear_free(&x);
319            BN_free(&exp);
320            BN_free(&mod);
321            BN_CTX_free(&ctx);
322  }  }
323    
324  /* Initialise secure transport packet */  /* Initialise secure transport packet */
# Line 312  sec_init(uint32 flags, int maxlen) Line 328  sec_init(uint32 flags, int maxlen)
328          int hdrlen;          int hdrlen;
329          STREAM s;          STREAM s;
330    
331          hdrlen = (flags & SEC_ENCRYPT) ? 12 : 4;          if (!licence_issued)
332                    hdrlen = (flags & SEC_ENCRYPT) ? 12 : 4;
333            else
334                    hdrlen = (flags & SEC_ENCRYPT) ? 12 : 0;
335          s = mcs_init(maxlen + hdrlen);          s = mcs_init(maxlen + hdrlen);
336          s_push_layer(s, sec_hdr, hdrlen);          s_push_layer(s, sec_hdr, hdrlen);
337    
# Line 326  sec_send(STREAM s, uint32 flags) Line 345  sec_send(STREAM s, uint32 flags)
345          int datalen;          int datalen;
346    
347          s_pop_layer(s, sec_hdr);          s_pop_layer(s, sec_hdr);
348          out_uint32_le(s, flags);          if (!licence_issued || (flags & SEC_ENCRYPT))
349                    out_uint32_le(s, flags);
350    
351          if (flags & SEC_ENCRYPT)          if (flags & SEC_ENCRYPT)
352          {          {
353                  flags &= ~SEC_ENCRYPT;                  flags &= ~SEC_ENCRYPT;
354                  datalen = s->end - s->p - 8;                  datalen = s->end - s->p - 8;
355    
356  #if RDP_DEBUG  #if WITH_DEBUG
357                  DEBUG("Sending encrypted packet:\n");                  DEBUG(("Sending encrypted packet:\n"));
358                  hexdump(s->p + 8, datalen);                  hexdump(s->p + 8, datalen);
359  #endif  #endif
360    
# Line 412  sec_out_mcs_data(STREAM s) Line 432  sec_out_mcs_data(STREAM s)
432          /* Client encryption settings */          /* Client encryption settings */
433          out_uint16_le(s, SEC_TAG_CLI_CRYPT);          out_uint16_le(s, SEC_TAG_CLI_CRYPT);
434          out_uint16(s, 8);       /* length */          out_uint16(s, 8);       /* length */
435          out_uint32_le(s, 1);    /* encryption enabled */          out_uint32_le(s, encryption ? 1 : 0);   /* encryption enabled */
436          s_mark_end(s);          s_mark_end(s);
437  }  }
438    
# Line 425  sec_parse_public_key(STREAM s, uint8 **m Line 445  sec_parse_public_key(STREAM s, uint8 **m
445          in_uint32_le(s, magic);          in_uint32_le(s, magic);
446          if (magic != SEC_RSA_MAGIC)          if (magic != SEC_RSA_MAGIC)
447          {          {
448                  ERROR("RSA magic 0x%x\n", magic);                  error("RSA magic 0x%x\n", magic);
449                  return False;                  return False;
450          }          }
451    
452          in_uint32_le(s, modulus_len);          in_uint32_le(s, modulus_len);
453          if (modulus_len != SEC_MODULUS_SIZE + SEC_PADDING_SIZE)          if (modulus_len != SEC_MODULUS_SIZE + SEC_PADDING_SIZE)
454          {          {
455                  ERROR("modulus len 0x%x\n", modulus_len);                  error("modulus len 0x%x\n", modulus_len);
456                  return False;                  return False;
457          }          }
458    
# Line 460  sec_parse_crypt_info(STREAM s, uint32 *r Line 480  sec_parse_crypt_info(STREAM s, uint32 *r
480    
481          if (random_len != SEC_RANDOM_SIZE)          if (random_len != SEC_RANDOM_SIZE)
482          {          {
483                  ERROR("random len %d\n", random_len);                  error("random len %d\n", random_len);
484                  return False;                  return False;
485          }          }
486    
# Line 495  sec_parse_crypt_info(STREAM s, uint32 *r Line 515  sec_parse_crypt_info(STREAM s, uint32 *r
515                                  break;                                  break;
516    
517                          default:                          default:
518                                  NOTIMP("crypt tag 0x%x\n", tag);                                  unimpl("crypt tag 0x%x\n", tag);
519                  }                  }
520    
521                  s->p = next_tag;                  s->p = next_tag;
# Line 553  sec_process_mcs_data(STREAM s) Line 573  sec_process_mcs_data(STREAM s)
573                                  break;                                  break;
574    
575                          default:                          default:
576                                  NOTIMP("response tag 0x%x\n", tag);                                  unimpl("response tag 0x%x\n", tag);
577                  }                  }
578    
579                  s->p = next_tag;                  s->p = next_tag;
# Line 569  sec_recv() Line 589  sec_recv()
589    
590          while ((s = mcs_recv()) != NULL)          while ((s = mcs_recv()) != NULL)
591          {          {
592                  in_uint32_le(s, sec_flags);                  if (encryption || !licence_issued)
   
                 if (sec_flags & SEC_LICENCE_NEG)  
593                  {                  {
594                          licence_process(s);                          in_uint32_le(s, sec_flags);
                         continue;  
                 }  
595    
596                  if (sec_flags & SEC_ENCRYPT)                          if (sec_flags & SEC_LICENCE_NEG)
597                  {                          {
598                          in_uint8s(s, 8);        /* signature */                                  licence_process(s);
599                          sec_decrypt(s->p, s->end - s->p);                                  continue;
600                            }
601    
602                            if (sec_flags & SEC_ENCRYPT)
603                            {
604                                    in_uint8s(s, 8);        /* signature */
605                                    sec_decrypt(s->p, s->end - s->p);
606                            }
607                  }                  }
608    
609                  return s;                  return s;
# Line 604  sec_connect(char *server) Line 627  sec_connect(char *server)
627                  return False;                  return False;
628    
629          sec_process_mcs_data(&mcs_data);          sec_process_mcs_data(&mcs_data);
630          sec_establish_key();          if (encryption)
631                    sec_establish_key();
632          return True;          return True;
633  }  }
634    
Legend:
Removed from v.25  
changed lines
  Added in v.32
  ViewVC Help
Powered by ViewVC 1.1.26