]> git.sur5r.net Git - openldap/blobdiff - libraries/liblber/encode.c
ITS#897 Internal connection that is closed on one end and about to
[openldap] / libraries / liblber / encode.c
index 3003ddb3300357e97ec02f3fd45bd2eb0de1bd3a..dae8090ee8b65f0dbea04a90ef43bf7b8b300743 100644 (file)
@@ -1,7 +1,7 @@
 /* encode.c - ber output encoding routines */
 /* $OpenLDAP$ */
 /*
- * Copyright 1998-1999 The OpenLDAP Foundation, All Rights Reserved.
+ * Copyright 1998-2000 The OpenLDAP Foundation, All Rights Reserved.
  * COPYING RESTRICTIONS APPLY, see COPYRIGHT file
  */
 /* Portions
@@ -26,9 +26,6 @@
 #include <ac/socket.h>
 #include <ac/string.h>
 
-#undef LDAP_F_PRE
-#define LDAP_F_PRE LDAP_F_EXPORT
-
 #include "lber-int.h"
 
 static int ber_put_len LDAP_P((
@@ -58,11 +55,10 @@ ber_calc_taglen( ber_tag_t tag )
        for ( i = sizeof(ber_tag_t) - 1; i > 0; i-- ) {
                mask = ((ber_tag_t)0xffU << (i * 8));
                /* not all zero */
-               if ( tag & mask )
-                       break;
+               if ( tag & mask ) break;
        }
 
-       return( i + 1 );
+       return i + 1;
 }
 
 static int
@@ -102,7 +98,7 @@ ber_calc_lenlen( ber_len_t len )
         */
 
        if ( len <= (ber_len_t) 0x7FU )
-               return( 1 );
+               return 1;
 
        /*
         * long len otherwise - one byte with bit 8 set, giving the
@@ -110,13 +106,13 @@ ber_calc_lenlen( ber_len_t len )
         */
 
        if ( len <= (ber_len_t) 0xffU )
-               return( 2 );
+               return 2;
        if ( len <= (ber_len_t) 0xffffU )
-               return( 3 );
+               return 3;
        if ( len <= (ber_len_t) 0xffffffU )
-               return( 4 );
+               return 4;
 
-       return( 5 );
+       return 5;
 }
 
 static int
@@ -138,7 +134,7 @@ ber_put_len( BerElement *ber, ber_len_t len, int nosos )
 
        if ( len <= 127 ) {
                char length_byte = (char) len;
-               return( ber_write( ber, &length_byte, 1, nosos ) );
+               return ber_write( ber, &length_byte, 1, nosos );
        }
 
        /*
@@ -150,18 +146,17 @@ ber_put_len( BerElement *ber, ber_len_t len, int nosos )
        for ( i = sizeof(ber_len_t) - 1; i > 0; i-- ) {
                mask = ((ber_len_t)0xffU << (i * 8));
                /* not all zero */
-               if ( len & mask )
-                       break;
+               if ( len & mask ) break;
        }
        lenlen = (unsigned char) ++i;
        if ( lenlen > 4 )
-               return( -1 );
+               return -1;
 
        lenlen |= 0x80UL;
 
        /* write the length of the length */
        if ( ber_write( ber, &lenlen, 1, nosos ) != 1 )
-               return( -1 );
+               return -1;
 
        for( j=0; j<i; j++) {
                netlen[(sizeof(ber_len_t)-1) - j] = (unsigned char)(len & 0xffU);
@@ -203,12 +198,10 @@ ber_put_int_or_enum(
 
                if ( sign ) {
                        /* not all ones */
-                       if ( (unum & mask) != mask )
-                               break;
+                       if ( (unum & mask) != mask ) break;
                } else {
                        /* not all zero */
-                       if ( unum & mask )
-                               break;
+                       if ( unum & mask ) break;
                }
        }
 
@@ -217,16 +210,18 @@ ber_put_int_or_enum(
         * byte matches the sign bit, we need to "back up" a byte.
         */
        mask = (unum & ((ber_uint_t)0x80U << (i * 8)));
-       if ( (mask && !sign) || (sign && !mask) )
+       if ( (mask && !sign) || (sign && !mask) ) {
                i++;
+       }
 
        len = i + 1;
 
-       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 )
-               return( -1 );
+       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 ) {
+               return -1;
+       }
 
        if ( (lenlen = ber_put_len( ber, len, 0 )) == -1 )
-               return( -1 );
+               return -1;
        i++;
 
        for( j=0; j<i; j++ ) {
@@ -251,10 +246,11 @@ ber_put_enum(
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_ENUMERATED;
+       }
 
-       return( ber_put_int_or_enum( ber, num, tag ) );
+       return ber_put_int_or_enum( ber, num, tag );
 }
 
 int
@@ -266,10 +262,11 @@ ber_put_int(
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_INTEGER;
+       }
 
-       return( ber_put_int_or_enum( ber, num, tag ) );
+       return ber_put_int_or_enum( ber, num, tag );
 }
 
 int
@@ -281,32 +278,18 @@ ber_put_ostring(
 {
        ber_len_t       taglen, lenlen;
        int rc;
-#ifdef STR_TRANSLATION
-       int     free_str;
-#endif /* STR_TRANSLATION */
 
        assert( ber != NULL );
        assert( str != NULL );
 
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_OCTETSTRING;
+       }
 
        if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 )
-               return( -1 );
-
-#ifdef STR_TRANSLATION
-       if ( len > 0 && ( ber->ber_options & LBER_TRANSLATE_STRINGS ) != 0 &&
-           ber->ber_encode_translate_proc ) {
-               if ( (*(ber->ber_encode_translate_proc))( &str, &len, 0 ) != 0 ) {
-                       return( -1 );
-               }
-               free_str = 1;
-       } else {
-               free_str = 0;
-       }
-#endif /* STR_TRANSLATION */
+               return -1;
 
        if ( (lenlen = ber_put_len( ber, len, 0 )) == -1 ||
                (ber_len_t) ber_write( ber, str, len, 0 ) != len ) {
@@ -316,13 +299,7 @@ ber_put_ostring(
                rc = taglen + lenlen + len;
        }
 
-#ifdef STR_TRANSLATION
-       if ( free_str ) {
-               LBER_FREE( str );
-       }
-#endif /* STR_TRANSLATION */
-
-       return( rc );
+       return rc;
 }
 
 int
@@ -352,7 +329,7 @@ ber_put_string(
 
        assert( BER_VALID( ber ) );
 
-       return( ber_put_ostring( ber, str, strlen( str ), tag ));
+       return ber_put_ostring( ber, str, strlen( str ), tag );
 }
 
 int
@@ -370,25 +347,30 @@ ber_put_bitstring(
 
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_BITSTRING;
+       }
 
-       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 )
-               return( -1 );
+       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 ) {
+               return -1;
+       }
 
        len = ( blen + 7 ) / 8;
        unusedbits = (unsigned char) ((len * 8) - blen);
-       if ( (lenlen = ber_put_len( ber, len + 1, 0 )) == -1 )
-               return( -1 );
+       if ( (lenlen = ber_put_len( ber, len + 1, 0 )) == -1 ) {
+               return -1;
+       }
 
-       if ( ber_write( ber, (char *)&unusedbits, 1, 0 ) != 1 )
-               return( -1 );
+       if ( ber_write( ber, (char *)&unusedbits, 1, 0 ) != 1 ) {
+               return -1;
+       }
 
-       if ( (ber_len_t) ber_write( ber, str, len, 0 ) != len )
-               return( -1 );
+       if ( (ber_len_t) ber_write( ber, str, len, 0 ) != len ) {
+               return -1;
+       }
 
        /* return length of tag + length + unused bit count + contents */
-       return( taglen + 1 + lenlen + len );
+       return taglen + 1 + lenlen + len;
 }
 
 int
@@ -399,16 +381,19 @@ ber_put_null( BerElement *ber, ber_tag_t tag )
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_NULL;
+       }
 
-       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 )
-               return( -1 );
+       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 ) {
+               return -1;
+       }
 
-       if ( ber_put_len( ber, 0, 0 ) != 1 )
-               return( -1 );
+       if ( ber_put_len( ber, 0, 0 ) != 1 ) {
+               return -1;
+       }
 
-       return( taglen + 1 );
+       return taglen + 1;
 }
 
 int
@@ -418,8 +403,8 @@ ber_put_boolean(
        ber_tag_t tag )
 {
        ber_len_t               taglen;
-       unsigned char   trueval = 0xFFU;
-       unsigned char   falseval = 0x00U;
+       unsigned char   trueval = (unsigned char) -1;
+       unsigned char   falseval = 0;
 
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
@@ -427,17 +412,21 @@ ber_put_boolean(
        if ( tag == LBER_DEFAULT )
                tag = LBER_BOOLEAN;
 
-       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 )
-               return( -1 );
+       if ( (taglen = ber_put_tag( ber, tag, 0 )) == -1 ) {
+               return -1;
+       }
 
-       if ( ber_put_len( ber, 1, 0 ) != 1 )
-               return( -1 );
+       if ( ber_put_len( ber, 1, 0 ) != 1 ) {
+               return -1;
+       }
 
        if ( ber_write( ber, (char *)(boolval ? &trueval : &falseval), 1, 0 )
-           != 1 )
-               return( -1 );
+               != 1 )
+       {
+               return -1;
+       }
 
-       return( taglen + 2 );
+       return taglen + 2;
 }
 
 #define FOUR_BYTE_LEN  5
@@ -454,14 +443,16 @@ ber_start_seqorset(
 
        new = (Seqorset *) LBER_CALLOC( 1, sizeof(Seqorset) );
 
-       if ( new == NULL )
-               return( -1 );
+       if ( new == NULL ) {
+               return -1;
+       }
 
        new->sos_ber = ber;
-       if ( ber->ber_sos == NULL )
+       if ( ber->ber_sos == NULL ) {
                new->sos_first = ber->ber_ptr;
-       else
+       } else {
                new->sos_first = ber->ber_sos->sos_ptr;
+       }
 
        /* Set aside room for a 4 byte length field */
        new->sos_ptr = new->sos_first + ber_calc_taglen( tag ) + FOUR_BYTE_LEN;
@@ -470,7 +461,7 @@ ber_start_seqorset(
        new->sos_next = ber->ber_sos;
        ber->ber_sos = new;
 
-       return( 0 );
+       return 0;
 }
 
 int
@@ -479,10 +470,11 @@ ber_start_seq( BerElement *ber, ber_tag_t tag )
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_SEQUENCE;
+       }
 
-       return( ber_start_seqorset( ber, tag ) );
+       return ber_start_seqorset( ber, tag );
 }
 
 int
@@ -491,10 +483,11 @@ ber_start_set( BerElement *ber, ber_tag_t tag )
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       if ( tag == LBER_DEFAULT )
+       if ( tag == LBER_DEFAULT ) {
                tag = LBER_SET;
+       }
 
-       return( ber_start_seqorset( ber, tag ) );
+       return ber_start_seqorset( ber, tag );
 }
 
 static int
@@ -521,8 +514,9 @@ ber_put_seqorset( BerElement *ber )
 
        len = (*sos)->sos_clen;
 
-       if ( sizeof(ber_len_t) > 4 && len > 0xffffffffUL )
-               return( -1 );
+       if ( sizeof(ber_len_t) > 4 && len > 0xffffffffUL ) {
+               return -1;
+       }
 
        if ( ber->ber_options & LBER_USE_DER ) {
                lenlen = ber_calc_lenlen( len );
@@ -548,8 +542,9 @@ ber_put_seqorset( BerElement *ber )
 
                if ( ber->ber_options & LBER_USE_DER ) {
                        /* Write the length in the minimum # of octets */
-                       if ( ber_put_len( ber, len, 1 ) == -1 )
-                               return( -1 );
+                       if ( ber_put_len( ber, len, 1 ) == -1 ) {
+                               return -1;
+                       }
 
                        if (lenlen != FOUR_BYTE_LEN) {
                                /*
@@ -557,15 +552,16 @@ ber_put_seqorset( BerElement *ber )
                                 * the length field.  Move the data if
                                 * we don't actually need that much
                                 */
-                               SAFEMEMCPY( (*sos)->sos_first + taglen +
+                               AC_MEMCPY( (*sos)->sos_first + taglen +
                                    lenlen, (*sos)->sos_first + taglen +
                                    FOUR_BYTE_LEN, len );
                        }
                } else {
                        /* Fill FOUR_BYTE_LEN bytes for length field */
                        /* one byte of length length */
-                       if ( ber_write( ber, (char *)&ltag, 1, 1 ) != 1 )
-                               return( -1 );
+                       if ( ber_write( ber, (char *)&ltag, 1, 1 ) != 1 ) {
+                               return -1;
+                       }
 
                        /* the length itself */
                        rc  = ber_write( ber,
@@ -573,7 +569,7 @@ ber_put_seqorset( BerElement *ber )
                                FOUR_BYTE_LEN-1, 1 );
 
                        if( rc != FOUR_BYTE_LEN - 1 ) {
-                               return( -1 );
+                               return -1;
                        }
                }
                /* The ber_ptr is at the set/seq start - move it to the end */
@@ -584,6 +580,21 @@ ber_put_seqorset( BerElement *ber )
                unsigned char nettag[sizeof(ber_tag_t)];
                ber_tag_t tmptag = (*sos)->sos_tag;
 
+               if( ber->ber_sos->sos_ptr > ber->ber_end ) {
+                       /* The sos_ptr exceeds the end of the BerElement
+                        * this can happen, for example, when the sos_ptr
+                        * is near the end and no data was written for the
+                        * 'V'.  We must realloc the BerElement to ensure
+                        * we don't overwrite the buffer when writing
+                        * the tag and length fields.
+                        */
+                       ber_len_t ext = ber->ber_sos->sos_ptr - ber->ber_end;
+
+                       if( ber_realloc( ber,  ext ) != 0 ) {
+                               return -1;
+                       }
+               }
+
                /* the tag */
                taglen = ber_calc_taglen( tmptag );
 
@@ -592,7 +603,7 @@ ber_put_seqorset( BerElement *ber )
                        tmptag >>= 8;
                }
 
-               SAFEMEMCPY( (*sos)->sos_first,
+               AC_FMEMCPY( (*sos)->sos_first,
                        &nettag[sizeof(ber_tag_t) - taglen],
                        taglen );
 
@@ -603,12 +614,12 @@ ber_put_seqorset( BerElement *ber )
                }
 
                /* one byte of length length */
-               SAFEMEMCPY( (*sos)->sos_first + 1, &ltag, 1 );
+               (*sos)->sos_first[1] = ltag;
 
                if ( ber->ber_options & LBER_USE_DER ) {
                        if (lenlen > 1) {
                                /* Write the length itself */
-                               SAFEMEMCPY( (*sos)->sos_first + 2,
+                               AC_FMEMCPY( (*sos)->sos_first + 2,
                                    &netlen[sizeof(ber_len_t) - (lenlen - 1)],
                                        lenlen - 1 );
                        }
@@ -618,13 +629,13 @@ ber_put_seqorset( BerElement *ber )
                                 * the length field.  Move the data if
                                 * we don't actually need that much
                                 */
-                               SAFEMEMCPY( (*sos)->sos_first + taglen +
+                               AC_FMEMCPY( (*sos)->sos_first + taglen +
                                    lenlen, (*sos)->sos_first + taglen +
                                    FOUR_BYTE_LEN, len );
                        }
                } else {
                        /* the length itself */
-                       SAFEMEMCPY( (*sos)->sos_first + taglen + 1,
+                       AC_FMEMCPY( (*sos)->sos_first + taglen + 1,
                            &netlen[sizeof(ber_len_t) - (FOUR_BYTE_LEN - 1)],
                                FOUR_BYTE_LEN - 1 );
                }
@@ -637,7 +648,7 @@ ber_put_seqorset( BerElement *ber )
        LBER_FREE( (char *) (*sos) );
        *sos = next;
 
-       return( taglen + lenlen + len );
+       return taglen + lenlen + len;
 }
 
 int
@@ -646,7 +657,7 @@ ber_put_seq( BerElement *ber )
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       return( ber_put_seqorset( ber ) );
+       return ber_put_seqorset( ber );
 }
 
 int
@@ -655,9 +666,12 @@ ber_put_set( BerElement *ber )
        assert( ber != NULL );
        assert( BER_VALID( ber ) );
 
-       return( ber_put_seqorset( ber ) );
+       return ber_put_seqorset( ber );
 }
 
+/* N tag */
+static ber_tag_t lber_int_null = 0;
+
 /* VARARGS */
 int
 ber_printf( BerElement *ber, LDAP_CONST char *fmt, ... )
@@ -707,6 +721,15 @@ ber_printf( BerElement *ber, LDAP_CONST char *fmt, ... )
                        rc = ber_put_null( ber, ber->ber_tag );
                        break;
 
+               case 'N':       /* Debug NULL */
+                       if( lber_int_null != 0 ) {
+                               /* Insert NULL to ensure peer ignores unknown tags */
+                               rc = ber_put_null( ber, lber_int_null );
+                       } else {
+                               rc = 0;
+                       }
+                       break;
+
                case 'o':       /* octet string (non-null terminated) */
                        s = va_arg( ap, char * );
                        len = va_arg( ap, ber_len_t );
@@ -789,5 +812,5 @@ ber_printf( BerElement *ber, LDAP_CONST char *fmt, ... )
 
        va_end( ap );
 
-       return( rc );
+       return rc;
 }