从字符串中删除重复的单词时,出现字符串标记化问题

时间:2018-12-18 11:41:14

标签: c string duplicates tokenize strtok

我在下面的代码中尝试做的是将字符串标记化并将每个标记存储在动态分配的结构中,但排除任何重复项。

这种代码有效,直到输入包含两个相等单词的字符串。例如,字符串“ this this”也将存储第二个单词,即使它是相同的。但是,如果我输入“ this this is”,它将删除第二个“ this”,并完全忽略字符串的最后一个单词,因此如果字符串中有重复项,则不会被删除。

#include <stdio.h>
#include <stdlib.h>
#include <string.h>

#define dim 70


typedef struct string {
  char* token[25];
} string;

int main() {

  string* New = malloc(dim*sizeof(string));

  char* s;
  char* buffer = NULL;
  int i = 0, r = 0;

  s = malloc(dim * sizeof(char));

  fgets(s, dim, stdin);

  printf("The string is: %s\n", s); 

  New->token[i] = malloc(dim*sizeof(char));
  New->token[i] = strtok(s, " ");
  ++i;

  while((buffer = strtok(NULL, " ")) && buffer != NULL){

    printf("\nbuffer is: %s", buffer);

    for(r = 0; r < i; ++r) {

      if(strcmp(New->token[r], buffer) != 0 && r == i-1) {

        New->token[i] = malloc(strlen(buffer)*sizeof(char)+1);
        New->token[i] = buffer;
        ++i;

      }
      else if(New->token[r] == buffer) {
            break;
      }

    }



  }

printf("\n New string: ");
for(i = 0; New->token[i] != NULL; ++i) {
   printf(" %s", New->token[i]);
}


return 0;
}

在我看来,这应该可以正常工作,但是我真的很难在这里找到我做错了什么。如果您需要其他信息,请问我,对于最终缺乏清晰度(以及我的英语),我深表歉意。

3 个答案:

答案 0 :(得分:1)

完全重写此答案,以解决一些我第一次没有看到的根本错误的事情。请参阅底部代码中的嵌入式注释,以解释一些构造更改:

我完全按原样运行了代码,看到了您所描述的内容,除了在另一个答案中关于使用strcmp的注释之外,还发现了几行可以调整或删除的代码以实现此目的您描述的内容:

首先,结构定义创建一个指向char数组的指针。根据代码后面的内容,您需要的是一个简单的char数组

typedef struct string {
  //char* token[25]; //this create a pointer to array of 25 char
  char token[25]; //this is all you need
} string;

您将在后面看到,这将大大简化内存分配。

一些基本问题:

在解析定界符中包含\n换行符。当在输入字符串的结尾处击中<enter>时,将添加一个换行符,从而导致this的第一个实例和this\n的第二个实例不相等。

while((buffer = strtok(NULL, " \n")) && buffer != NULL){
                               ^^

此行正在创建未初始化的内存。

string* New = malloc(dim*sizeof(string)); 

关于使用 malloc() calloc() 的说明: malloc()会留下未创建的内存,而 calloc()创建一个内存块,所有内存块均初始化为0

使用malloc()创建的内存

enter image description here

使用calloc()创建的内存:

enter image description here

这在您的代码中的多个地方变得很重要,但是特别是我在上一节中看到了一个问题:

for(i = 0; New->token[i] != NULL; ++i) {
   printf(" %s", New->token[i]);
}

如果未初始化为New创建的内存,则当索引i递增到显式写入的内存区域之外并循环尝试时,会出现运行时错误。测试New->token[i]。如果New->token[i]包含0以外的任何内容,它将尝试打印该内存区域。

您还应该通过调用 free() 释放代码中创建的每个内存实例。

所有这些以及更多内容都可以通过以下代码重写来解决: (针对这是一个字符串,一个字符串进行了测试。)

typedef struct string {
  //char* token[25]; //this create a pointer to array of 25 char
  char token[25]; //this is all you need
} string;

int main() {
    char* s;
    char* buffer = NULL;
    int i = 0, r = 0;

    string* New = calloc(dim, sizeof(string));//Note: This creates an array of New.
                                              //Example: New[i]
                                              //Not: New->token[i]
    s = calloc(dim , sizeof(char));
    fgets(s, dim, stdin);
    printf("The string is: %s\n", s); 
    buffer = strtok(s, " \n");
    strcpy(New[i].token, buffer); //use strcpy instead of = for strings
    //restuctured the parsing loop to a more conventional construct
    // when using strtok:
    if(buffer)
    {
        ++i;
        while(buffer){
            printf("\nbuffer is: %s", buffer);
            for(r = 0; r < i; ++r) {
                if(strcmp(New[r].token, buffer) != 0 && r == i-1) {
                    strcpy(New[i].token, buffer);
                    ++i;
                }
                else if(strcmp(New[r].token, buffer)==0) {
                    break;
                }
            }
            buffer = strtok(NULL, " \n");
        }
    }
    printf("\n New string: ");
    for(i = 0; i<dim; i++) {
        if(New[i].token) printf(" %s", New[i].token);
    }
    free(New);
    free(s);
    return 0;
}

答案 1 :(得分:0)

您比较指针而不是比较字符串。替换

  }
  else if(New->token[r] == buffer) {
        break;

使用

  }
  else if(strcmp(New->token[r], buffer) == 0) {
        break;

您还需要复制缓冲区:

memcpy(New->token[i],buffer,strlen(buffer)+1);

代替

New->token[i] = buffer;

或将两行(以及malloc)替换为

New->token[i] = strdup(buffer);

最好将strtok替换为strtok_r(strtok不可重入)。

答案 2 :(得分:0)

结构似乎不必要。
这使用了一个指针数组来存储令牌。
可以使用strspnstrcspn解析输入。
唯一标记添加到指针数组。

#include <stdio.h>
#include <stdlib.h>
#include <string.h>

#define DIM 70

int main() {
    char* token[DIM] = { NULL};

    char s[DIM];
    char* buffer = s;
    int unique = 0, check = 0;
    int match = 0;
    int loop = 0;
    size_t space = 0;
    size_t span = 0;

    fgets(s, DIM, stdin);

    printf("The string is: %s\n", s);

    while ( unique < DIM && *buffer){//*buffer not pointing to zero terminator
        space = strspn ( buffer, " \n\t");//leading whitespace
        buffer += space;//advance past whitespace
        span = strcspn ( buffer, " \n\t");//not whitespace
        if ( span) {
            printf("\ntoken is: %.*s", (int)span, buffer );//prints span number of characters
        }
        match = 0;
        for ( check = 0; check < unique; ++check) {
            if ( 0 == strncmp ( token[check], buffer, span)) {
                match = 1;//found match
                break;
            }
        }
        if ( ! match) {//no match
            token[unique] = malloc ( span + 1);//allocate for token
            strncpy ( token[unique], buffer, span);//copy span number of characters
            token[unique][span] = 0;//zero terminate
            ++unique;//add a unique token
        }
        buffer += span;//advance past non whitespace for next token
    }

    printf("\n New string: ");
    for( loop = 0; loop < unique; ++loop) {
        printf(" %s", token[loop]);//print the unique tokens
    }
    printf("\n");
    for( loop = 0; loop < unique; ++loop) {
        free ( token[loop]);//free memory
    }
    return 0;
}