]> git.sur5r.net Git - openldap/blob - libraries/libldif/line64.c
ITS#1328 LDIFv1 CR/LF fix
[openldap] / libraries / libldif / line64.c
1 /* line64.c - routines for dealing with the slapd line format */
2 /* $OpenLDAP$ */
3 /*
4  * Copyright 1998-2000 The OpenLDAP Foundation, All Rights Reserved.
5  * COPYING RESTRICTIONS APPLY, see COPYRIGHT file
6  */
7
8 #include "portable.h"
9
10 #include <stdio.h>
11
12 #include <ac/stdlib.h>
13 #include <ac/ctype.h>
14
15 #include <ac/string.h>
16 #include <ac/socket.h>
17 #include <ac/time.h>
18
19 int ldif_debug = 0;
20
21 #include "ldap_log.h"
22 #include "lber_pvt.h"
23 #include "ldif.h"
24
25 #define RIGHT2                  0x03
26 #define RIGHT4                  0x0f
27 #define CONTINUED_LINE_MARKER   '\r'
28
29 #ifdef CSRIMALLOC
30 #define ber_memalloc malloc
31 #define ber_memcalloc calloc
32 #define ber_memrealloc realloc
33 #define ber_strdup strdup
34 #endif
35
36 static const char nib2b64[0x40] =
37         "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/";
38
39 static const unsigned char b642nib[0x80] = {
40         0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff,
41         0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff,
42         0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff,
43         0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff,
44         0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff,
45         0xff, 0xff, 0xff, 0x3e, 0xff, 0xff, 0xff, 0x3f,
46         0x34, 0x35, 0x36, 0x37, 0x38, 0x39, 0x3a, 0x3b,
47         0x3c, 0x3d, 0xff, 0xff, 0xff, 0xff, 0xff, 0xff,
48         0xff, 0x00, 0x01, 0x02, 0x03, 0x04, 0x05, 0x06,
49         0x07, 0x08, 0x09, 0x0a, 0x0b, 0x0c, 0x0d, 0x0e,
50         0x0f, 0x10, 0x11, 0x12, 0x13, 0x14, 0x15, 0x16,
51         0x17, 0x18, 0x19, 0xff, 0xff, 0xff, 0xff, 0xff,
52         0xff, 0x1a, 0x1b, 0x1c, 0x1d, 0x1e, 0x1f, 0x20,
53         0x21, 0x22, 0x23, 0x24, 0x25, 0x26, 0x27, 0x28,
54         0x29, 0x2a, 0x2b, 0x2c, 0x2d, 0x2e, 0x2f, 0x30,
55         0x31, 0x32, 0x33, 0xff, 0xff, 0xff, 0xff, 0xff
56 };
57
58 /*
59  * ldif_parse_line - takes a line of the form "type:[:] value" and splits it
60  * into components "type" and "value".  if a double colon separates type from
61  * value, then value is encoded in base 64, and parse_line un-decodes it
62  * (in place) before returning.
63  */
64
65 int
66 ldif_parse_line(
67     LDAP_CONST char     *line,
68     char        **typep,
69     char        **valuep,
70     ber_len_t *vlenp
71 )
72 {
73         char    *s, *p, *d; 
74         char    nib;
75         int     b64, url;
76         char    *freeme, *type, *value;
77         ber_len_t vlen;
78
79         *typep = NULL;
80         *valuep = NULL;
81         *vlenp = 0;
82
83         /* skip any leading space */
84         while ( isspace( (unsigned char) *line ) ) {
85                 line++;
86         }
87
88         freeme = ber_strdup( line );
89
90         if( freeme == NULL ) {
91                 ber_pvt_log_printf( LDAP_DEBUG_ANY, ldif_debug,
92                         "ldif_parse_line: line malloc failed\n");
93                 return( -1 );
94         }
95
96         type = freeme;
97
98         s = strchr( type, ':' );
99
100         if ( s == NULL ) {
101                 ber_pvt_log_printf( LDAP_DEBUG_PARSE, ldif_debug,
102                         "ldif_parse_line: missing ':' after %s\n",
103                         type );
104                 ber_memfree( freeme );
105                 return( -1 );
106         }
107
108         /* trim any space between type and : */
109         for ( p = &s[-1]; p > type && isspace( * (unsigned char *) p ); p-- ) {
110                 *p = '\0';
111         }
112         *s++ = '\0';
113
114         url = 0;
115         b64 = 0;
116
117         if ( *s == '\0' ) {
118                 /* no value */
119                 value = "";
120                 vlen = 0;
121                 goto done;
122         }
123                 
124         if ( *s == '<' ) {
125                 s++;
126                 url = 1;
127         } else if ( *s == ':' ) {
128                 /* base 64 encoded value */
129                 s++;
130                 b64 = 1;
131         }
132
133         /* skip space between : and value */
134         while ( isspace( (unsigned char) *s ) ) {
135                 s++;
136         }
137
138         /* check for continued line markers that should be deleted */
139         for ( p = s, d = s; *p; p++ ) {
140                 if ( *p != CONTINUED_LINE_MARKER )
141                         *d++ = *p;
142         }
143         *d = '\0';
144
145         /* if no value is present, error out */
146         if ( *s == '\0' ) {
147                 ber_pvt_log_printf( LDAP_DEBUG_PARSE, ldif_debug,
148                         "ldif_parse_line: %s missing %svalue\n", type,
149                                 url ? "URL " : b64 ? "base64 " : "" );
150                 value = NULL;
151                 vlen = 0;
152                 goto done;
153         }
154
155         if ( b64 ) {
156                 char *byte = s;
157
158                 value = s;
159
160                 for ( p = s, vlen = 0; p < d; p += 4, vlen += 3 ) {
161                         int i;
162                         for ( i = 0; i < 4; i++ ) {
163                                 if ( p[i] != '=' && (p[i] & 0x80 ||
164                                     b642nib[ p[i] & 0x7f ] > 0x3f) ) {
165                                         ber_pvt_log_printf( LDAP_DEBUG_ANY, ldif_debug,
166                                                 "ldif_parse_line: %s: invalid base64 encoding"
167                                                 " char (%c) 0x%x\n",
168                                             type, p[i], p[i] );
169                                         ber_memfree( freeme );
170                                         return( -1 );
171                                 }
172                         }
173
174                         /* first digit */
175                         nib = b642nib[ p[0] & 0x7f ];
176                         byte[0] = nib << 2;
177                         /* second digit */
178                         nib = b642nib[ p[1] & 0x7f ];
179                         byte[0] |= nib >> 4;
180                         byte[1] = (nib & RIGHT4) << 4;
181                         /* third digit */
182                         if ( p[2] == '=' ) {
183                                 vlen += 1;
184                                 break;
185                         }
186                         nib = b642nib[ p[2] & 0x7f ];
187                         byte[1] |= nib >> 2;
188                         byte[2] = (nib & RIGHT2) << 6;
189                         /* fourth digit */
190                         if ( p[3] == '=' ) {
191                                 vlen += 2;
192                                 break;
193                         }
194                         nib = b642nib[ p[3] & 0x7f ];
195                         byte[2] |= nib;
196
197                         byte += 3;
198                 }
199                 s[ vlen ] = '\0';
200
201         } else if ( url ) {
202                 if( ldif_fetch_url( s, &value, &vlen ) ) {
203                         ber_pvt_log_printf( LDAP_DEBUG_ANY, ldif_debug,
204                                 "ldif_parse_line: %s: URL \"%s\" fetch failed\n",
205                                 type, s );
206                         ber_memfree( freeme );
207                         return( -1 );
208                 }
209
210         } else {
211                 value = s;
212                 vlen = (int) (d - s);
213         }
214
215 done:
216         type = ber_strdup( type );
217
218         if( type == NULL ) {
219                 ber_pvt_log_printf( LDAP_DEBUG_ANY, ldif_debug,
220                         "ldif_parse_line: type malloc failed\n");
221                 ber_memfree( freeme );
222                 return( -1 );
223         }
224
225         if( !url && value != NULL ) {
226                 p = ber_memalloc( vlen + 1 );
227                 if( p == NULL ) {
228                         ber_pvt_log_printf( LDAP_DEBUG_ANY, ldif_debug,
229                                 "ldif_parse_line: value malloc failed\n");
230                         ber_memfree( type );
231                         ber_memfree( freeme );
232                         return( -1 );
233                 }
234                 AC_MEMCPY( p, value, vlen );
235                 p[vlen] = '\0';
236                 value = p;
237         }
238
239         ber_memfree( freeme );
240
241         *typep = type;
242         *valuep = value;
243         *vlenp = vlen;
244
245         return( 0 );
246 }
247
248 /*
249  * ldif_getline - return the next "line" (minus newline) of input from a
250  * string buffer of lines separated by newlines, terminated by \n\n
251  * or \0.  this routine handles continued lines, bundling them into
252  * a single big line before returning.  if a line begins with a white
253  * space character, it is a continuation of the previous line. the white
254  * space character (nb: only one char), and preceeding newline are changed
255  * into CONTINUED_LINE_MARKER chars, to be deleted later by the
256  * ldif_parse_line() routine above.
257  *
258  * ldif_getline will skip over any line which starts '#'.
259  *
260  * ldif_getline takes a pointer to a pointer to the buffer on the first call,
261  * which it updates and must be supplied on subsequent calls.
262  */
263
264 char *
265 ldif_getline( char **next )
266 {
267         char *line;
268
269         do {
270                 if ( *next == NULL || **next == '\n' || **next == '\0' ) {
271                         return( NULL );
272                 }
273
274                 line = *next;
275
276                 while ( (*next = strchr( *next, '\n' )) != NULL ) {
277                         unsigned char c = (*next)[1];
278
279 #if CONTINUED_LINE_MARKER != '\r'
280                         if ( (*next)[-1] == '\r' ) {
281                                 (*next)[-1] = CONTINUED_LINE_MARKER;
282                         }
283 #endif
284
285                         if ( !isspace( c ) || c == '\n' ) {
286                                 *(*next)++ = '\0';
287                                 break;
288                         }
289
290                         **next = CONTINUED_LINE_MARKER;
291                         (*next)[1] = CONTINUED_LINE_MARKER;
292                         (*next)++;
293                 }
294         } while( *line == '#' );
295
296         return( line );
297 }
298
299 /* compatibility with U-Mich off by one bug */
300 #define LDIF_KLUDGE 1
301
302 void
303 ldif_sput(
304         char **out,
305         int type,
306         LDAP_CONST char *name,
307         LDAP_CONST char *val,
308         ber_len_t vlen )
309 {
310         const unsigned char *byte, *stop;
311         unsigned char   buf[3];
312         unsigned long   bits;
313         char            *save;
314         int             pad;
315
316         ber_len_t savelen;
317         ber_len_t len=0;
318         ber_len_t i;
319
320         /* prefix */
321         switch( type ) {
322         case LDIF_PUT_COMMENT:
323                 *(*out)++ = '#';
324                 len++;
325
326                 if( vlen ) {
327                         *(*out)++ = ' ';
328                         len++;
329                 }
330
331                 break;
332
333         case LDIF_PUT_SEP:
334                 *(*out)++ = '\n';
335                 return;
336         }
337
338         /* name (attribute type) */
339         if( name != NULL ) {
340                 /* put the name + ":" */
341                 for ( i=0 ; name[i]; i++ ) {
342                         *(*out)++ = name[i];
343                         len++;
344                 }
345
346                 if( type != LDIF_PUT_COMMENT ) {
347                         *(*out)++ = ':';
348                         len++;
349                 }
350
351         }
352 #ifdef LDAP_DEBUG
353         else {
354                 assert( type == LDIF_PUT_COMMENT );
355         }
356 #endif
357
358         if( vlen == 0 ) {
359                 *(*out)++ = '\n';
360                 return;
361         }
362
363         switch( type ) {
364         case LDIF_PUT_NOVALUE:
365                 *(*out)++ = '\n';
366                 return;
367
368         case LDIF_PUT_URL: /* url value */
369                 *(*out)++ = '<';
370                 len++;
371                 break;
372
373         case LDIF_PUT_B64: /* base64 value */
374                 *(*out)++ = ':';
375                 len++;
376                 break;
377         }
378
379         switch( type ) {
380         case LDIF_PUT_TEXT:
381         case LDIF_PUT_URL:
382         case LDIF_PUT_B64:
383                 *(*out)++ = ' ';
384                 len++;
385                 /* fall-thru */
386
387         case LDIF_PUT_COMMENT:
388                 /* pre-encoded names */
389                 for ( i=0; i < vlen; i++ ) {
390                         if ( len > LDIF_LINE_WIDTH ) {
391                                 *(*out)++ = '\n';
392                                 *(*out)++ = ' ';
393                                 len = 1;
394                         }
395
396                         *(*out)++ = val[i];
397                         len++;
398                 }
399                 *(*out)++ = '\n';
400                 return;
401         }
402
403         save = *out;
404         savelen = len;
405
406         *(*out)++ = ' ';
407         len++;
408
409         stop = (const unsigned char *) (val + vlen);
410
411         if ( type == LDIF_PUT_VALUE
412                 && isgraph( val[0] ) && val[0] != ':' && val[0] != '<'
413                 && isgraph( val[vlen-1] )
414 #ifndef LDAP_BINARY_DEBUG
415                 && strstr( name, ";binary" ) == NULL
416 #endif
417 #ifndef LDAP_PASSWD_DEBUG
418                 && strcasecmp( name, "userPassword" ) != 0      /* encode userPassword */
419                 && strcasecmp( name, "2.5.4.35" ) != 0          /* encode userPassword */
420 #endif
421         ) {
422                 int b64 = 0;
423
424                 for ( byte = (const unsigned char *) val; byte < stop;
425                     byte++, len++ )
426                 {
427                         if ( !isascii( *byte ) || !isprint( *byte ) ) {
428                                 b64 = 1;
429                                 break;
430                         }
431                         if ( len > LDIF_LINE_WIDTH+LDIF_KLUDGE ) {
432                                 *(*out)++ = '\n';
433                                 *(*out)++ = ' ';
434                                 len = 1;
435                         }
436                         *(*out)++ = *byte;
437                 }
438
439                 if( !b64 ) {
440                         *(*out)++ = '\n';
441                         return;
442                 }
443         }
444
445         *out = save;
446         *(*out)++ = ':';
447         *(*out)++ = ' ';
448         len = savelen + 2;
449
450         /* convert to base 64 (3 bytes => 4 base 64 digits) */
451         for ( byte = (const unsigned char *) val;
452                 byte < stop - 2;
453             byte += 3 )
454         {
455                 bits = (byte[0] & 0xff) << 16;
456                 bits |= (byte[1] & 0xff) << 8;
457                 bits |= (byte[2] & 0xff);
458
459                 for ( i = 0; i < 4; i++, len++, bits <<= 6 ) {
460                         if ( len > LDIF_LINE_WIDTH+LDIF_KLUDGE ) {
461                                 *(*out)++ = '\n';
462                                 *(*out)++ = ' ';
463                                 len = 1;
464                         }
465
466                         /* get b64 digit from high order 6 bits */
467                         *(*out)++ = nib2b64[ (bits & 0xfc0000L) >> 18 ];
468                 }
469         }
470
471         /* add padding if necessary */
472         if ( byte < stop ) {
473                 for ( i = 0; byte + i < stop; i++ ) {
474                         buf[i] = byte[i];
475                 }
476                 for ( pad = 0; i < 3; i++, pad++ ) {
477                         buf[i] = '\0';
478                 }
479                 byte = buf;
480                 bits = (byte[0] & 0xff) << 16;
481                 bits |= (byte[1] & 0xff) << 8;
482                 bits |= (byte[2] & 0xff);
483
484                 for ( i = 0; i < 4; i++, len++, bits <<= 6 ) {
485                         if ( len > LDIF_LINE_WIDTH+LDIF_KLUDGE ) {
486                                 *(*out)++ = '\n';
487                                 *(*out)++ = ' ';
488                                 len = 1;
489                         }
490
491                         if( i + pad < 4 ) {
492                                 /* get b64 digit from low order 6 bits */
493                                 *(*out)++ = nib2b64[ (bits & 0xfc0000L) >> 18 ];
494                         } else {
495                                 *(*out)++ = '=';
496                         }
497                 }
498         }
499         *(*out)++ = '\n';
500 }
501
502
503 /*
504  * ldif_type_and_value return BER malloc'd, zero-terminated LDIF line
505  */
506 char *
507 ldif_put(
508         int type,
509         LDAP_CONST char *name,
510         LDAP_CONST char *val,
511         ber_len_t vlen )
512 {
513     char        *buf, *p;
514     ber_len_t nlen;
515
516     nlen = ( name != NULL ) ? strlen( name ) : 0;
517
518         buf = (char *) ber_memalloc( LDIF_SIZE_NEEDED( nlen, vlen ) + 1 );
519
520     if ( buf == NULL ) {
521                 ber_pvt_log_printf( LDAP_DEBUG_ANY, ldif_debug,
522                         "ldif_type_and_value: malloc failed!" );
523                 return NULL;
524     }
525
526     p = buf;
527     ldif_sput( &p, type, name, val, vlen );
528     *p = '\0';
529
530     return( buf );
531 }
532
533 int ldif_is_not_printable(
534         LDAP_CONST char *val,
535         ber_len_t vlen )
536 {
537         if( vlen == 0 || val == NULL  ) {
538                 return -1;
539         }
540
541         if( isgraph( val[0] ) && val[0] != ':' && val[0] != '<' &&
542                 isgraph( val[vlen-1] ) )
543         {
544                 ber_len_t i;
545
546                 for ( i = 0; val[i]; i++ ) {
547                         if ( !isascii( val[i] ) || !isprint( val[i] ) ) {
548                                 return 1;
549                         }
550                 }
551
552                 return 0;
553         }
554
555         return 1;
556 }
557
558 /*
559  * slap_read_ldif - read an ldif record.  Return 1 for success, 0 for EOF.
560  */
561 int
562 ldif_read_record(
563         FILE        *fp,
564         int         *lno,               /* ptr to line number counter              */
565         char        **bufp,     /* ptr to malloced output buffer           */
566         int         *buflenp )  /* ptr to length of *bufp                  */
567 {
568         char        linebuf[BUFSIZ], *line, *nbufp;
569         ber_len_t   lcur = 0, len, linesize;
570         int         last_ch = '\n', found_entry = 0, stop;
571
572         line     = linebuf;
573         linesize = sizeof( linebuf );
574
575         for ( stop = feof( fp );  !stop;  last_ch = line[len-1] ) {
576                 if ( fgets( line, linesize, fp ) == NULL ) {
577                         stop = 1;
578                         /* Add \n in case the file does not end with newline */
579                         line = "\n";
580                 }
581                 len = strlen( line );
582
583                 if ( last_ch == '\n' ) {
584                         (*lno)++;
585
586                         if ( line[0] == '\n' ) {
587                                 if ( !found_entry )
588                                         continue;
589                                 break;
590                         }
591
592                         if ( !found_entry ) {
593                                 /* Found a new entry */
594                                 found_entry = 1;
595
596                                 if ( isdigit( (unsigned char) line[0] ) ) {
597                                         /* skip index */
598                                         continue;
599                                 }
600                         }                       
601                 }
602
603                 if ( *buflenp - lcur <= len ) {
604                         *buflenp += len + BUFSIZ;
605                         nbufp = ber_memrealloc( *bufp, *buflenp );
606                         if( nbufp == NULL ) {
607                                 return 0;
608                         }
609                         *bufp = nbufp;
610                 }
611                 strcpy( *bufp + lcur, line );
612                 lcur += len;
613         }
614
615         return( found_entry );
616 }