/[rdesktop]/sourceforge.net/trunk/rdesktop/secure.c
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /sourceforge.net/trunk/rdesktop/secure.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 363 by matthewc, Wed Apr 16 08:03:59 2003 UTC revision 482 by matthewc, Thu Oct 9 04:21:19 2003 UTC
# Line 34  Line 34 
34  #endif  #endif
35    
36  extern char hostname[16];  extern char hostname[16];
37  extern int width;  extern int g_width;
38  extern int height;  extern int g_height;
39  extern int keylayout;  extern int keylayout;
40  extern BOOL encryption;  extern BOOL g_encryption;
41  extern BOOL licence_issued;  extern BOOL g_licence_issued;
42  extern BOOL use_rdp5;  extern BOOL g_use_rdp5;
43  extern int server_bpp;  extern BOOL g_console_session;
44    extern int g_server_bpp;
45    extern uint16 mcs_userid;
46    extern VCHANNEL g_channels[];
47    extern unsigned int g_num_channels;
48    
49  static int rc4_key_len;  static int rc4_key_len;
50  static RC4_KEY rc4_decrypt_key;  static RC4_KEY rc4_decrypt_key;
# Line 54  static uint8 sec_decrypt_update_key[16]; Line 58  static uint8 sec_decrypt_update_key[16];
58  static uint8 sec_encrypt_update_key[16];  static uint8 sec_encrypt_update_key[16];
59  static uint8 sec_crypted_random[SEC_MODULUS_SIZE];  static uint8 sec_crypted_random[SEC_MODULUS_SIZE];
60    
61  uint16 server_rdp_version = 0;  uint16 g_server_rdp_version = 0;
62    
63  /*  /*
64   * General purpose 48-byte transformation, using two 32-byte salts (generally,   * General purpose 48-byte transformation, using two 32-byte salts (generally,
# Line 330  sec_init(uint32 flags, int maxlen) Line 334  sec_init(uint32 flags, int maxlen)
334          int hdrlen;          int hdrlen;
335          STREAM s;          STREAM s;
336    
337          if (!licence_issued)          if (!g_licence_issued)
338                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 4;                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 4;
339          else          else
340                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 0;                  hdrlen = (flags & SEC_ENCRYPT) ? 12 : 0;
# Line 340  sec_init(uint32 flags, int maxlen) Line 344  sec_init(uint32 flags, int maxlen)
344          return s;          return s;
345  }  }
346    
347  /* Transmit secure transport packet */  /* Transmit secure transport packet over specified channel */
348  void  void
349  sec_send(STREAM s, uint32 flags)  sec_send_to_channel(STREAM s, uint32 flags, uint16 channel)
350  {  {
351          int datalen;          int datalen;
352    
353          s_pop_layer(s, sec_hdr);          s_pop_layer(s, sec_hdr);
354          if (!licence_issued || (flags & SEC_ENCRYPT))          if (!g_licence_issued || (flags & SEC_ENCRYPT))
355                  out_uint32_le(s, flags);                  out_uint32_le(s, flags);
356    
357          if (flags & SEC_ENCRYPT)          if (flags & SEC_ENCRYPT)
# Line 364  sec_send(STREAM s, uint32 flags) Line 368  sec_send(STREAM s, uint32 flags)
368                  sec_encrypt(s->p + 8, datalen);                  sec_encrypt(s->p + 8, datalen);
369          }          }
370    
371          mcs_send(s);          mcs_send_to_channel(s, channel);
372    }
373    
374    /* Transmit secure transport packet */
375    
376    void
377    sec_send(STREAM s, uint32 flags)
378    {
379            sec_send_to_channel(s, flags, MCS_GLOBAL_CHANNEL);
380  }  }
381    
382    
383  /* Transfer the client random to the server */  /* Transfer the client random to the server */
384  static void  static void
385  sec_establish_key(void)  sec_establish_key(void)
# Line 390  static void Line 403  static void
403  sec_out_mcs_data(STREAM s)  sec_out_mcs_data(STREAM s)
404  {  {
405          int hostlen = 2 * strlen(hostname);          int hostlen = 2 * strlen(hostname);
406          int length = 158 + 76 + 12 + 4 + 20;          int length = 158 + 76 + 12 + 4;
407            unsigned int i;
408    
409            if (g_num_channels > 0)
410                    length += g_num_channels * 12 + 8;
411    
412          if (hostlen > 30)          if (hostlen > 30)
413                  hostlen = 30;                  hostlen = 30;
# Line 414  sec_out_mcs_data(STREAM s) Line 431  sec_out_mcs_data(STREAM s)
431          /* Client information */          /* Client information */
432          out_uint16_le(s, SEC_TAG_CLI_INFO);          out_uint16_le(s, SEC_TAG_CLI_INFO);
433          out_uint16_le(s, 212);  /* length */          out_uint16_le(s, 212);  /* length */
434          out_uint16_le(s, use_rdp5 ? 4 : 1);     /* RDP version. 1 == RDP4, 4 == RDP5. */          out_uint16_le(s, g_use_rdp5 ? 4 : 1);   /* RDP version. 1 == RDP4, 4 == RDP5. */
435          out_uint16_le(s, 8);          out_uint16_le(s, 8);
436          out_uint16_le(s, width);          out_uint16_le(s, g_width);
437          out_uint16_le(s, height);          out_uint16_le(s, g_height);
438          out_uint16_le(s, 0xca01);          out_uint16_le(s, 0xca01);
439          out_uint16_le(s, 0xaa03);          out_uint16_le(s, 0xaa03);
440          out_uint32_le(s, keylayout);          out_uint32_le(s, keylayout);
# Line 432  sec_out_mcs_data(STREAM s) Line 449  sec_out_mcs_data(STREAM s)
449          out_uint32_le(s, 12);          out_uint32_le(s, 12);
450          out_uint8s(s, 64);      /* reserved? 4 + 12 doublewords */          out_uint8s(s, 64);      /* reserved? 4 + 12 doublewords */
451    
452          switch (server_bpp)          switch (g_server_bpp)
453          {          {
454                  case 8:                  case 8:
455                          out_uint16_le(s, 0xca01);                          out_uint16_le(s, 0xca01);
# Line 447  sec_out_mcs_data(STREAM s) Line 464  sec_out_mcs_data(STREAM s)
464                          out_uint16_le(s, 0xca04);                          out_uint16_le(s, 0xca04);
465                          break;                          break;
466          }          }
467          out_uint16(s, 1);          out_uint16_le(s, 1);
468    
469          out_uint32(s, 0);          out_uint32(s, 0);
470          out_uint8(s, server_bpp);          out_uint8(s, g_server_bpp);
471          out_uint16_le(s, 0x0700);          out_uint16_le(s, 0x0700);
472          out_uint8(s, 0);          out_uint8(s, 0);
473          out_uint32_le(s, 1);          out_uint32_le(s, 1);
# Line 458  sec_out_mcs_data(STREAM s) Line 475  sec_out_mcs_data(STREAM s)
475    
476          out_uint16_le(s, SEC_TAG_CLI_4);          out_uint16_le(s, SEC_TAG_CLI_4);
477          out_uint16_le(s, 12);          out_uint16_le(s, 12);
478          out_uint32_le(s, 9);          out_uint32_le(s, g_console_session ? 0xb : 9);
479          out_uint32_le(s, 0);          out_uint32(s, 0);
480    
481          /* Client encryption settings */          /* Client encryption settings */
482          out_uint16_le(s, SEC_TAG_CLI_CRYPT);          out_uint16_le(s, SEC_TAG_CLI_CRYPT);
483          out_uint16_le(s, 12);   /* length */          out_uint16_le(s, 12);   /* length */
484          out_uint32_le(s, encryption ? 0x3 : 0); /* encryption supported, 128-bit supported */          out_uint32_le(s, g_encryption ? 0x3 : 0);       /* encryption supported, 128-bit supported */
485          out_uint32_le(s, 0);    /* Unknown */          out_uint32(s, 0);       /* Unknown */
486    
487          out_uint16_le(s, SEC_TAG_CLI_CHANNELS);          DEBUG_RDP5(("g_num_channels is %d\n", g_num_channels));
488          out_uint16_le(s, 20);   /* length */          if (g_num_channels > 0)
489          out_uint32_le(s, 1);    /* number of virtual channels */          {
490          out_uint8p(s, "cliprdr", 8);    /* name padded to 8(?) */                  out_uint16_le(s, SEC_TAG_CLI_CHANNELS);
491          out_uint16(s, 0);                  out_uint16_le(s, g_num_channels * 12 + 8);      /* length */
492          out_uint16_le(s, 0xc0a0);       /* Flags. Rumours tell this is documented in MSDN. */                  out_uint32_le(s, g_num_channels);       /* number of virtual channels */
493                    for (i = 0; i < g_num_channels; i++)
494                    {
495                            DEBUG_RDP5(("Requesting channel %s\n", g_channels[i].name));
496                            out_uint8a(s, g_channels[i].name, 8);
497                            out_uint32_be(s, g_channels[i].flags);
498                    }
499            }
500    
501          s_mark_end(s);          s_mark_end(s);
502  }  }
# Line 563  sec_parse_crypt_info(STREAM s, uint32 * Line 587  sec_parse_crypt_info(STREAM s, uint32 *
587          if (end > s->end)          if (end > s->end)
588                  return False;                  return False;
589    
590          in_uint32_le(s, flags); /* 1 = RDP4-style, 0x80000002 = X.509 */          in_uint32_le(s, flags); /* 1 = RDP4-style, 0x80000002 = X.509 */
591          if (flags & 1)          if (flags & 1)
592          {          {
593                  DEBUG_RDP5(("We're going for the RDP4-style encryption\n"));                  DEBUG_RDP5(("We're going for the RDP4-style encryption\n"));
# Line 614  sec_parse_crypt_info(STREAM s, uint32 * Line 638  sec_parse_crypt_info(STREAM s, uint32 *
638                   */                   */
639    
640                  in_uint32_le(s, cacert_len);                  in_uint32_le(s, cacert_len);
641                    DEBUG_RDP5(("CA Certificate length is %d\n", cacert_len));
642                  cacert = d2i_X509(NULL, &(s->p), cacert_len);                  cacert = d2i_X509(NULL, &(s->p), cacert_len);
643                  /* Note: We don't need to move s->p here - d2i_X509 is                  /* Note: We don't need to move s->p here - d2i_X509 is
644                     "kind" enough to do it for us */                     "kind" enough to do it for us */
# Line 634  sec_parse_crypt_info(STREAM s, uint32 * Line 659  sec_parse_crypt_info(STREAM s, uint32 *
659                   */                   */
660    
661                  in_uint32_le(s, cert_len);                  in_uint32_le(s, cert_len);
662                    DEBUG_RDP5(("Certificate length is %d\n", cert_len));
663                  server_cert = d2i_X509(NULL, &(s->p), cert_len);                  server_cert = d2i_X509(NULL, &(s->p), cert_len);
664                  if (NULL == server_cert)                  if (NULL == server_cert)
665                  {                  {
# Line 674  sec_process_crypt_info(STREAM s) Line 700  sec_process_crypt_info(STREAM s)
700    
701          DEBUG(("Generating client random\n"));          DEBUG(("Generating client random\n"));
702          /* Generate a client random, and hence determine encryption keys */          /* Generate a client random, and hence determine encryption keys */
         generate_random(inr);  
703          // This is what the MS client do:          // This is what the MS client do:
704          //      memset(inr, 0, SEC_RANDOM_SIZE);          memset(inr, 0, SEC_RANDOM_SIZE);
705          // *ARIGL!*          /*  *ARIGL!* Plaintext attack, anyone?
706               I tried doing:
707               generate_random(inr);
708               ..but that generates connection errors now and then (yes,
709               "now and then". Something like 0 to 3 attempts needed before a
710               successful connection. Nice. Not!
711             */
712    
713          generate_random(client_random);          generate_random(client_random);
714          if (NULL != server_public_key)          if (NULL != server_public_key)
715          {                       /* Which means we should use          {                       /* Which means we should use
# Line 705  sec_process_crypt_info(STREAM s) Line 737  sec_process_crypt_info(STREAM s)
737  static void  static void
738  sec_process_srv_info(STREAM s)  sec_process_srv_info(STREAM s)
739  {  {
740          in_uint16_le(s, server_rdp_version);          in_uint16_le(s, g_server_rdp_version);
741          DEBUG_RDP5(("Server RDP version is %d\n", server_rdp_version));          DEBUG_RDP5(("Server RDP version is %d\n", g_server_rdp_version));
742            if (1 == g_server_rdp_version)
743                    g_use_rdp5 = 0;
744  }  }
745    
746    
# Line 739  sec_process_mcs_data(STREAM s) Line 773  sec_process_mcs_data(STREAM s)
773                                  sec_process_srv_info(s);                                  sec_process_srv_info(s);
774                                  break;                                  break;
775    
                         case SEC_TAG_SRV_3:  
                                 break;  
   
776                          case SEC_TAG_SRV_CRYPT:                          case SEC_TAG_SRV_CRYPT:
777                                  sec_process_crypt_info(s);                                  sec_process_crypt_info(s);
778                                  break;                                  break;
779    
780                            case SEC_TAG_SRV_CHANNELS:
781                                    /* FIXME: We should parse this information and
782                                       use it to map RDP5 channels to MCS
783                                       channels */
784                                    break;
785    
786                          default:                          default:
787                                  unimpl("response tag 0x%x\n", tag);                                  unimpl("response tag 0x%x\n", tag);
788                  }                  }
# Line 764  sec_recv(void) Line 801  sec_recv(void)
801    
802          while ((s = mcs_recv(&channel)) != NULL)          while ((s = mcs_recv(&channel)) != NULL)
803          {          {
804                  if (encryption || !licence_issued)                  if (g_encryption || !g_licence_issued)
805                  {                  {
806                          in_uint32_le(s, sec_flags);                          in_uint32_le(s, sec_flags);
807    
                         if (sec_flags & SEC_LICENCE_NEG)  
                         {  
                                 if (sec_flags & SEC_ENCRYPT) {  
                                         DEBUG_RDP5(("Encrypted license detected\n"));  
                                 }  
                                 licence_process(s);  
                                 continue;  
                         }  
   
808                          if (sec_flags & SEC_ENCRYPT)                          if (sec_flags & SEC_ENCRYPT)
809                          {                          {
810                                  in_uint8s(s, 8);        /* signature */                                  in_uint8s(s, 8);        /* signature */
811                                  sec_decrypt(s->p, s->end - s->p);                                  sec_decrypt(s->p, s->end - s->p);
812                          }                          }
813    
814                            if (sec_flags & SEC_LICENCE_NEG)
815                            {
816                                    licence_process(s);
817                                    continue;
818                            }
819                  }                  }
820    
821                  if (MCS_GLOBAL_CHANNEL == channel)                  if (channel != MCS_GLOBAL_CHANNEL)
822                  {                  {
823                          return s;                          channel_process(s, channel);
824                            continue;
825                  }                  }
                 else  
                         rdp5_process_channel(s, channel);  
826    
827                    return s;
828          }          }
829    
830          return NULL;          return NULL;
# Line 804  sec_connect(char *server, char *username Line 838  sec_connect(char *server, char *username
838    
839          /* We exchange some RDP data during the MCS-Connect */          /* We exchange some RDP data during the MCS-Connect */
840          mcs_data.size = 512;          mcs_data.size = 512;
841          mcs_data.p = mcs_data.data = xmalloc(mcs_data.size);          mcs_data.p = mcs_data.data = (uint8 *) xmalloc(mcs_data.size);
842          sec_out_mcs_data(&mcs_data);          sec_out_mcs_data(&mcs_data);
843    
844          if (!mcs_connect(server, &mcs_data, username))          if (!mcs_connect(server, &mcs_data, username))
845                  return False;                  return False;
846    
847          //      sec_process_mcs_data(&mcs_data);          //      sec_process_mcs_data(&mcs_data);
848          if (encryption)          if (g_encryption)
849                  sec_establish_key();                  sec_establish_key();
850          xfree(mcs_data.data);          xfree(mcs_data.data);
851          return True;          return True;
Legend:
Removed from v.363  
changed lines
  Added in v.482
  ViewVC Help
Powered by ViewVC 1.1.26