/[rdesktop]/sourceforge.net/trunk/rdesktop/secure.c
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /sourceforge.net/trunk/rdesktop/secure.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 363 by matthewc, Wed Apr 16 08:03:59 2003 UTC revision 677 by n-ki, Mon Apr 26 13:48:39 2004 UTC
# Line 34  Line 34 
34  #endif  #endif
35    
36  extern char hostname[16];  extern char hostname[16];
37  extern int width;  extern int g_width;
38  extern int height;  extern int g_height;
39  extern int keylayout;  extern int keylayout;
40  extern BOOL encryption;  extern BOOL g_encryption;
41  extern BOOL licence_issued;  extern BOOL g_licence_issued;
42  extern BOOL use_rdp5;  extern BOOL g_use_rdp5;
43  extern int server_bpp;  extern BOOL g_console_session;
44    extern int g_server_bpp;
45    extern uint16 mcs_userid;
46    extern VCHANNEL g_channels[];
47    extern unsigned int g_num_channels;
48    
49  static int rc4_key_len;  static int rc4_key_len;
50  static RC4_KEY rc4_decrypt_key;  static RC4_KEY rc4_decrypt_key;
# Line 54  static uint8 sec_decrypt_update_key[16]; Line 58  static uint8 sec_decrypt_update_key[16];
58  static uint8 sec_encrypt_update_key[16];  static uint8 sec_encrypt_update_key[16];
59  static uint8 sec_crypted_random[SEC_MODULUS_SIZE];  static uint8 sec_crypted_random[SEC_MODULUS_SIZE];
60    
61  uint16 server_rdp_version = 0;  uint16 g_server_rdp_version = 0;
62    
63  /*  /*
64   * General purpose 48-byte transformation, using two 32-byte salts (generally,   * General purpose 48-byte transformation, using two 32-byte salts (generally,
# Line 330  sec_init(uint32 flags, int maxlen) Line 334  sec_init(uint32 flags, int maxlen)
334          int hdrlen;          int hdrlen;
335          STREAM s;          STREAM s;
336    
337          if (!licence_issued)          if (!g_licence_issued)
338                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 4;                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 4;
339          else          else
340                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 0;                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 0;
# Line 340  sec_init(uint32 flags, int maxlen) Line 344  sec_init(uint32 flags, int maxlen)
344          return s;          return s;
345  }  }
346    
347  /* Transmit secure transport packet */  /* Transmit secure transport packet over specified channel */
348  void  void
349  sec_send(STREAM s, uint32 flags)  sec_send_to_channel(STREAM s, uint32 flags, uint16 channel)
350  {  {
351          int datalen;          int datalen;
352    
353          s_pop_layer(s, sec_hdr);          s_pop_layer(s, sec_hdr);
354          if (!licence_issued || (flags & SEC_ENCRYPT))          if (!g_licence_issued || (flags & SEC_ENCRYPT))
355                  out_uint32_le(s, flags);                  out_uint32_le(s, flags);
356    
357          if (flags & SEC_ENCRYPT)          if (flags & SEC_ENCRYPT)
# Line 364  sec_send(STREAM s, uint32 flags) Line 368  sec_send(STREAM s, uint32 flags)
368                  sec_encrypt(s->p + 8, datalen);                  sec_encrypt(s->p + 8, datalen);
369          }          }
370    
371          mcs_send(s);          mcs_send_to_channel(s, channel);
372    }
373    
374    /* Transmit secure transport packet */
375    
376    void
377    sec_send(STREAM s, uint32 flags)
378    {
379            sec_send_to_channel(s, flags, MCS_GLOBAL_CHANNEL);
380  }  }
381    
382    
383  /* Transfer the client random to the server */  /* Transfer the client random to the server */
384  static void  static void
385  sec_establish_key(void)  sec_establish_key(void)
# Line 390  static void Line 403  static void
403  sec_out_mcs_data(STREAM s)  sec_out_mcs_data(STREAM s)
404  {  {
405          int hostlen = 2 * strlen(hostname);          int hostlen = 2 * strlen(hostname);
406          int length = 158 + 76 + 12 + 4 + 20;          int length = 158 + 76 + 12 + 4;
407            unsigned int i;
408    
409            if (g_num_channels > 0)
410                    length += g_num_channels * 12 + 8;
411    
412          if (hostlen > 30)          if (hostlen > 30)
413                  hostlen = 30;                  hostlen = 30;
414    
415          out_uint16_be(s, 5);    /* unknown */          /* Generic Conference Control (T.124) ConferenceCreateRequest */
416            out_uint16_be(s, 5);
417          out_uint16_be(s, 0x14);          out_uint16_be(s, 0x14);
418          out_uint8(s, 0x7c);          out_uint8(s, 0x7c);
419          out_uint16_be(s, 1);          out_uint16_be(s, 1);
# Line 408  sec_out_mcs_data(STREAM s) Line 426  sec_out_mcs_data(STREAM s)
426          out_uint16_le(s, 0xc001);          out_uint16_le(s, 0xc001);
427          out_uint8(s, 0);          out_uint8(s, 0);
428    
429          out_uint32_le(s, 0x61637544);   /* "Duca" ?! */          out_uint32_le(s, 0x61637544);   /* OEM ID: "Duca", as in Ducati. */
430          out_uint16_be(s, ((length - 14) | 0x8000));     /* remaining length */          out_uint16_be(s, ((length - 14) | 0x8000));     /* remaining length */
431    
432          /* Client information */          /* Client information */
433          out_uint16_le(s, SEC_TAG_CLI_INFO);          out_uint16_le(s, SEC_TAG_CLI_INFO);
434          out_uint16_le(s, 212);  /* length */          out_uint16_le(s, 212);  /* length */
435          out_uint16_le(s, use_rdp5 ? 4 : 1);     /* RDP version. 1 == RDP4, 4 == RDP5. */          out_uint16_le(s, g_use_rdp5 ? 4 : 1);   /* RDP version. 1 == RDP4, 4 == RDP5. */
436          out_uint16_le(s, 8);          out_uint16_le(s, 8);
437          out_uint16_le(s, width);          out_uint16_le(s, g_width);
438          out_uint16_le(s, height);          out_uint16_le(s, g_height);
439          out_uint16_le(s, 0xca01);          out_uint16_le(s, 0xca01);
440          out_uint16_le(s, 0xaa03);          out_uint16_le(s, 0xaa03);
441          out_uint32_le(s, keylayout);          out_uint32_le(s, keylayout);
# Line 431  sec_out_mcs_data(STREAM s) Line 449  sec_out_mcs_data(STREAM s)
449          out_uint32(s, 0);          out_uint32(s, 0);
450          out_uint32_le(s, 12);          out_uint32_le(s, 12);
451          out_uint8s(s, 64);      /* reserved? 4 + 12 doublewords */          out_uint8s(s, 64);      /* reserved? 4 + 12 doublewords */
452            out_uint16_le(s, 0xca01);       /* colour depth? */
453          switch (server_bpp)          out_uint16_le(s, 1);
         {  
                 case 8:  
                         out_uint16_le(s, 0xca01);  
                         break;  
                 case 15:  
                         out_uint16_le(s, 0xca02);  
                         break;  
                 case 16:  
                         out_uint16_le(s, 0xca03);  
                         break;  
                 case 24:  
                         out_uint16_le(s, 0xca04);  
                         break;  
         }  
         out_uint16(s, 1);  
454    
455          out_uint32(s, 0);          out_uint32(s, 0);
456          out_uint8(s, server_bpp);          out_uint8(s, g_server_bpp);
457          out_uint16_le(s, 0x0700);          out_uint16_le(s, 0x0700);
458          out_uint8(s, 0);          out_uint8(s, 0);
459          out_uint32_le(s, 1);          out_uint32_le(s, 1);
# Line 458  sec_out_mcs_data(STREAM s) Line 461  sec_out_mcs_data(STREAM s)
461    
462          out_uint16_le(s, SEC_TAG_CLI_4);          out_uint16_le(s, SEC_TAG_CLI_4);
463          out_uint16_le(s, 12);          out_uint16_le(s, 12);
464          out_uint32_le(s, 9);          out_uint32_le(s, g_console_session ? 0xb : 9);
465          out_uint32_le(s, 0);          out_uint32(s, 0);
466    
467          /* Client encryption settings */          /* Client encryption settings */
468          out_uint16_le(s, SEC_TAG_CLI_CRYPT);          out_uint16_le(s, SEC_TAG_CLI_CRYPT);
469          out_uint16_le(s, 12);   /* length */          out_uint16_le(s, 12);   /* length */
470          out_uint32_le(s, encryption ? 0x3 : 0); /* encryption supported, 128-bit supported */          out_uint32_le(s, g_encryption ? 0x3 : 0);       /* encryption supported, 128-bit supported */
471          out_uint32_le(s, 0);    /* Unknown */          out_uint32(s, 0);       /* Unknown */
472    
473          out_uint16_le(s, SEC_TAG_CLI_CHANNELS);          DEBUG_RDP5(("g_num_channels is %d\n", g_num_channels));
474          out_uint16_le(s, 20);   /* length */          if (g_num_channels > 0)
475          out_uint32_le(s, 1);    /* number of virtual channels */          {
476          out_uint8p(s, "cliprdr", 8);    /* name padded to 8(?) */                  out_uint16_le(s, SEC_TAG_CLI_CHANNELS);
477          out_uint16(s, 0);                  out_uint16_le(s, g_num_channels * 12 + 8);      /* length */
478          out_uint16_le(s, 0xc0a0);       /* Flags. Rumours tell this is documented in MSDN. */                  out_uint32_le(s, g_num_channels);       /* number of virtual channels */
479                    for (i = 0; i < g_num_channels; i++)
480                    {
481                            DEBUG_RDP5(("Requesting channel %s\n", g_channels[i].name));
482                            out_uint8a(s, g_channels[i].name, 8);
483                            out_uint32_be(s, g_channels[i].flags);
484                    }
485            }
486    
487          s_mark_end(s);          s_mark_end(s);
488  }  }
# Line 563  sec_parse_crypt_info(STREAM s, uint32 * Line 573  sec_parse_crypt_info(STREAM s, uint32 *
573          if (end > s->end)          if (end > s->end)
574                  return False;                  return False;
575    
576          in_uint32_le(s, flags); /* 1 = RDP4-style, 0x80000002 = X.509 */          in_uint32_le(s, flags); /* 1 = RDP4-style, 0x80000002 = X.509 */
577          if (flags & 1)          if (flags & 1)
578          {          {
579                  DEBUG_RDP5(("We're going for the RDP4-style encryption\n"));                  DEBUG_RDP5(("We're going for the RDP4-style encryption\n"));
# Line 601  sec_parse_crypt_info(STREAM s, uint32 * Line 611  sec_parse_crypt_info(STREAM s, uint32 *
611          }          }
612          else          else
613          {          {
614                    uint32 certcount;
615    
616                  DEBUG_RDP5(("We're going for the RDP5-style encryption\n"));                  DEBUG_RDP5(("We're going for the RDP5-style encryption\n"));
617                  in_uint8s(s, 4);        /* Number of certificates */                  in_uint32_le(s, certcount);     /* Number of certificates */
618    
619                    if (certcount < 2)
620                    {
621                            error("Server didn't send enough X509 certificates\n");
622                            return False;
623                    }
624    
625                    for (; certcount > 2; certcount--)
626                    {               /* ignore all the certificates between the root and the signing CA */
627                            uint32 ignorelen;
628                            X509 *ignorecert;
629    
630                            DEBUG_RDP5(("Ignored certs left: %d\n", certcount));
631    
632                            in_uint32_le(s, ignorelen);
633                            DEBUG_RDP5(("Ignored Certificate length is %d\n", ignorelen));
634                            ignorecert = d2i_X509(NULL, &(s->p), ignorelen);
635    
636                            if (ignorecert == NULL)
637                            {       /* XXX: error out? */
638                                    DEBUG_RDP5(("got a bad cert: this will probably screw up the rest of the communication\n"));
639                            }
640    
641    #ifdef WITH_DEBUG_RDP5
642                            DEBUG_RDP5(("cert #%d (ignored):\n", certcount));
643                            X509_print_fp(stdout, ignorecert);
644    #endif
645                    }
646    
647                  /* Do da funky X.509 stuffy                  /* Do da funky X.509 stuffy
648    
# Line 614  sec_parse_crypt_info(STREAM s, uint32 * Line 654  sec_parse_crypt_info(STREAM s, uint32 *
654                   */                   */
655    
656                  in_uint32_le(s, cacert_len);                  in_uint32_le(s, cacert_len);
657                    DEBUG_RDP5(("CA Certificate length is %d\n", cacert_len));
658                  cacert = d2i_X509(NULL, &(s->p), cacert_len);                  cacert = d2i_X509(NULL, &(s->p), cacert_len);
659                  /* Note: We don't need to move s->p here - d2i_X509 is                  /* Note: We don't need to move s->p here - d2i_X509 is
660                     "kind" enough to do it for us */                     "kind" enough to do it for us */
# Line 634  sec_parse_crypt_info(STREAM s, uint32 * Line 675  sec_parse_crypt_info(STREAM s, uint32 *
675                   */                   */
676    
677                  in_uint32_le(s, cert_len);                  in_uint32_le(s, cert_len);
678                    DEBUG_RDP5(("Certificate length is %d\n", cert_len));
679                  server_cert = d2i_X509(NULL, &(s->p), cert_len);                  server_cert = d2i_X509(NULL, &(s->p), cert_len);
680                  if (NULL == server_cert)                  if (NULL == server_cert)
681                  {                  {
# Line 674  sec_process_crypt_info(STREAM s) Line 716  sec_process_crypt_info(STREAM s)
716    
717          DEBUG(("Generating client random\n"));          DEBUG(("Generating client random\n"));
718          /* Generate a client random, and hence determine encryption keys */          /* Generate a client random, and hence determine encryption keys */
719          generate_random(inr);          /* This is what the MS client do: */
720          // This is what the MS client do:          memset(inr, 0, SEC_RANDOM_SIZE);
721          //      memset(inr, 0, SEC_RANDOM_SIZE);          /*  *ARIGL!* Plaintext attack, anyone?
722          // *ARIGL!*             I tried doing:
723               generate_random(inr);
724               ..but that generates connection errors now and then (yes,
725               "now and then". Something like 0 to 3 attempts needed before a
726               successful connection. Nice. Not!
727             */
728    
729          generate_random(client_random);          generate_random(client_random);
730          if (NULL != server_public_key)          if (NULL != server_public_key)
731          {                       /* Which means we should use          {                       /* Which means we should use
# Line 705  sec_process_crypt_info(STREAM s) Line 753  sec_process_crypt_info(STREAM s)
753  static void  static void
754  sec_process_srv_info(STREAM s)  sec_process_srv_info(STREAM s)
755  {  {
756          in_uint16_le(s, server_rdp_version);          in_uint16_le(s, g_server_rdp_version);
757          DEBUG_RDP5(("Server RDP version is %d\n", server_rdp_version));          DEBUG_RDP5(("Server RDP version is %d\n", g_server_rdp_version));
758            if (1 == g_server_rdp_version)
759            {
760                    g_use_rdp5 = 0;
761                    g_server_bpp = 8;
762            }
763  }  }
764    
765    
# Line 718  sec_process_mcs_data(STREAM s) Line 771  sec_process_mcs_data(STREAM s)
771          uint8 *next_tag;          uint8 *next_tag;
772          uint8 len;          uint8 len;
773    
774          in_uint8s(s, 21);       /* header (T.124 stuff, probably) */          in_uint8s(s, 21);       /* header (T.124 ConferenceCreateResponse) */
775          in_uint8(s, len);          in_uint8(s, len);
776          if (len & 0x80)          if (len & 0x80)
777                  in_uint8(s, len);                  in_uint8(s, len);
# Line 739  sec_process_mcs_data(STREAM s) Line 792  sec_process_mcs_data(STREAM s)
792                                  sec_process_srv_info(s);                                  sec_process_srv_info(s);
793                                  break;                                  break;
794    
                         case SEC_TAG_SRV_3:  
                                 break;  
   
795                          case SEC_TAG_SRV_CRYPT:                          case SEC_TAG_SRV_CRYPT:
796                                  sec_process_crypt_info(s);                                  sec_process_crypt_info(s);
797                                  break;                                  break;
798    
799                            case SEC_TAG_SRV_CHANNELS:
800                                    /* FIXME: We should parse this information and
801                                       use it to map RDP5 channels to MCS
802                                       channels */
803                                    break;
804    
805                          default:                          default:
806                                  unimpl("response tag 0x%x\n", tag);                                  unimpl("response tag 0x%x\n", tag);
807                  }                  }
# Line 764  sec_recv(void) Line 820  sec_recv(void)
820    
821          while ((s = mcs_recv(&channel)) != NULL)          while ((s = mcs_recv(&channel)) != NULL)
822          {          {
823                  if (encryption || !licence_issued)                  if (g_encryption || !g_licence_issued)
824                  {                  {
825                          in_uint32_le(s, sec_flags);                          in_uint32_le(s, sec_flags);
826    
                         if (sec_flags & SEC_LICENCE_NEG)  
                         {  
                                 if (sec_flags & SEC_ENCRYPT) {  
                                         DEBUG_RDP5(("Encrypted license detected\n"));  
                                 }  
                                 licence_process(s);  
                                 continue;  
                         }  
   
827                          if (sec_flags & SEC_ENCRYPT)                          if (sec_flags & SEC_ENCRYPT)
828                          {                          {
829                                  in_uint8s(s, 8);        /* signature */                                  in_uint8s(s, 8);        /* signature */
830                                  sec_decrypt(s->p, s->end - s->p);                                  sec_decrypt(s->p, s->end - s->p);
831                          }                          }
832    
833                            if (sec_flags & SEC_LICENCE_NEG)
834                            {
835                                    licence_process(s);
836                                    continue;
837                            }
838                  }                  }
839    
840                  if (MCS_GLOBAL_CHANNEL == channel)                  if (channel != MCS_GLOBAL_CHANNEL)
841                  {                  {
842                          return s;                          channel_process(s, channel);
843                            continue;
844                  }                  }
                 else  
                         rdp5_process_channel(s, channel);  
845    
846                    return s;
847          }          }
848    
849          return NULL;          return NULL;
# Line 804  sec_connect(char *server, char *username Line 857  sec_connect(char *server, char *username
857    
858          /* We exchange some RDP data during the MCS-Connect */          /* We exchange some RDP data during the MCS-Connect */
859          mcs_data.size = 512;          mcs_data.size = 512;
860          mcs_data.p = mcs_data.data = xmalloc(mcs_data.size);          mcs_data.p = mcs_data.data = (uint8 *) xmalloc(mcs_data.size);
861          sec_out_mcs_data(&mcs_data);          sec_out_mcs_data(&mcs_data);
862    
863          if (!mcs_connect(server, &mcs_data, username))          if (!mcs_connect(server, &mcs_data, username))
864                  return False;                  return False;
865    
866          //      sec_process_mcs_data(&mcs_data);          /*      sec_process_mcs_data(&mcs_data); */
867          if (encryption)          if (g_encryption)
868                  sec_establish_key();                  sec_establish_key();
869          xfree(mcs_data.data);          xfree(mcs_data.data);
870          return True;          return True;
Legend:
Removed from v.363  
changed lines
  Added in v.677
  ViewVC Help
Powered by ViewVC 1.1.26