如何从c ++中的字符串中删除所有非字母数字字符?

时间:2011-06-12 03:04:08

标签: c++ string libcurl strip alphanumeric

我正在编写一个软件,它要求我处理从libcurl网页获得的数据。当我获得数据时,由于某种原因,它有额外的换行符。我需要想办法只允许字母,数字和空格。并删除其他所有内容,包括换行符。有没有简单的方法来做到这一点?感谢。

12 个答案:

答案 0 :(得分:43)

编写一个需要char的函数,如果要删除该字符,则返回true;如果要保留该字符,则返回false

bool my_predicate(char c);

然后使用std::remove_if算法从字符串中删除不需要的字符:

std::string s = "my data";
s.erase(std::remove_if(s.begin(), s.end(), my_predicate), s.end());

根据您的要求,您可以使用标准库谓词之一,例如std::isalnum,而不是编写自己的谓词(您说您需要匹配字母数字字符和空格,所以这可能不会完全符合你的需要。

如果您想使用标准库std::isalnum函数,则需要使用强制转换来消除C标准库标题std::isalnum<cctype>函数之间的歧义(这是您的一个)想要使用)和C ++标准库头文件std::isalnum中的<locale>(除非您想要执行特定于语言环境的字符串处理,否则它不是您要使用的那个):

s.erase(std::remove_if(s.begin(), s.end(), (int(*)(int))std::isalnum), s.end());

这适用于任何序列容器(包括std::stringstd::vectorstd::deque)。这种习语通常被称为“擦除/删除”习语。 std::remove_if算法也适用于普通数组。 std::remove_if只对序列进行一次传递,因此它具有线性时间复杂度。

答案 1 :(得分:8)

Previous uses of std::isalnum won't compile with std::ptr_fun without passing the unary argument is requires, hence this solution with a lambda function should encapsulate the correct answer:

s.erase(std::remove_if(s.begin(), s.end(), 
[]( auto const& c ) -> bool { return !std::isalnum(c); } ), s.end());

答案 2 :(得分:4)

如果您使用的是erase,则可以随时循环播放string所有非字母数字字符。

#include <cctype>

size_t i = 0;
size_t len = str.length();
while(i < len){
    if (!isalnum(str[i]) || str[i] == ' '){
        str.erase(i,1);
        len--;
    }else
        i++;
}

使用标准库的人可以在没有循环的情况下做到这一点。

如果您只使用char缓冲区,则可以循环播放,如果字符不是字母数字,则将所有字符向后移动一个(以覆盖有问题的字符):

#include <cctype>

size_t buflen = something;
for (size_t i = 0; i < buflen; ++i)
    if (!isalnum(buf[i]) || buf[i] != ' ')
        memcpy(buf[i], buf[i + 1], --buflen - i);

答案 3 :(得分:2)

remove_copy_if标准算法非常适合您的情况。

答案 4 :(得分:2)

#include <cctype>
#include <string>
#include <functional>

std::string s = "Hello World!";
s.erase(std::remove_if(s.begin(), s.end(),
    std::not1(std::ptr_fun(std::isalnum)), s.end()), s.end());
std::cout << s << std::endl;

结果:

"HelloWorld"

您使用isalnum来确定每个字符是否为字母数字,然后使用ptr_fun将函数传递给not1,而不是返回的值,只留下字母数字你想要的东西。

答案 5 :(得分:1)

您可以这种方式使用移除擦除算法 -

// Removes all punctuation       
s.erase( std::remove_if(s.begin(), s.end(), &ispunct), s.end());

答案 6 :(得分:1)

将James McNellis的代码更多地扩展一下。他的功能是删除alnum字符而不是非alnum字符。

从字符串中删除非alnum字符。 (alnum =字母或数字)

  • 声明一个函数(如果传递的char不是alnum,则isalnum返回0)

    bool isNotAlnum(char c) {
        return isalnum(c) == 0;
    }
    
  • 然后写下这个

    s.erase(remove_if(s.begin(), s.end(), isNotAlnum), s.end());
    

那么你的字符串只有alnum字符。

答案 7 :(得分:1)

以下代码对于给定的字符串s应该可以正常工作。它利用<algorithm><locale>库。

std::string s("He!!llo  Wo,@rld! 12 453");
s.erase(std::remove_if(s.begin(), s.end(), [](char c) { return !std::isalnum(c); }), s.end());

答案 8 :(得分:1)

对不同方法进行基准测试。

如果你正在寻找一个基准,我做了一个。

(115830 cycles) 115.8ms -> using stringstream
( 40434 cycles)  40.4ms -> s.erase(std::remove_if(s.begin(), s.end(), [](char c) { return !isalnum(c); }), s.end());
( 40389 cycles)  40.4ms -> s.erase(std::remove_if(s.begin(), s.end(), [](char c) { return ispunct(c); }), s.end());
( 42386 cycles)  42.4ms -> s.erase(remove_if(s.begin(), s.end(), not1(ptr_fun( (int(*)(int))isalnum ))), s.end());
( 42969 cycles)  43.0ms -> s.erase(remove_if(s.begin(), s.end(), []( auto const& c ) -> bool { return !isalnum(c); } ), s.end());
( 44829 cycles)  44.8ms -> alnum_from_libc(s) see below
( 24505 cycles)  24.5ms -> Puzzled? My method, see below
(  9717 cycles)   9.7ms -> using mask and bitwise operators

Original length: 8286208, current len with alnum only: 5822471

  • Stringstream 给出了糟糕的结果(但我们都知道)
  • 已经给出的不同答案给出了大致相同的运行时间
  • 以 C 方式始终如一地提供更好的运行时间(几乎快两倍!),这绝对值得考虑,而且它与 C 语言兼容。
  • 我的按位方法(也兼容 C)的速度提高了 400% 以上。

NB 必须修改所选答案,因为它只保留特殊字符

NB2:测试文件是一个(几乎)8192 kb 的文本文件,大约有 62 个 alnum 和 12 个特殊字符,随机均匀写入。


基准源代码

#include <ctime>

#include <iostream>
#include <sstream>
#include <string>
#include <algorithm>

#include <locale> // ispunct
#include <cctype>

#include <fstream> // read file
#include <streambuf>

#include <sys/stat.h> // check if file exist
#include <cstring>

using namespace std;

bool exist(const char *name)
{
  struct stat   buffer;
  return !stat(name, &buffer);
}

constexpr int SIZE = 8092 * 1024;

void keep_alnum(string &s) {
    stringstream ss;
    int i = 0;
    for (i = 0; i < SIZE; i++)
        if (isalnum(s[i]))
            ss << s[i];
    s = ss.str();
}

/* my method, best runtime */
void old_school(char *s) {
    int n = 0;
    for (int i = 0; i < SIZE; i++) {
        unsigned char c = s[i] - 0x30; // '0'
        if (c < 10 || (c -= 0x11) < 26 || (c -= 0x20) < 26) // 0x30 + 0x11 = 'A' + 0x20 = 'a'
            s[n++] = s[i];
    }
    s[n] = '\0';
}

void alnum_from_libc(char *s) {
    int n = 0;
    for (int i = 0; i < SIZE; i++) {
        if (isalnum(s[i]))
            s[n++] = s[i];
    }
    s[n] = '\0';
}

#define benchmark(x) printf("\033[30m(%6.0lf cycles) \033[32m%5.1lfms\n\033[0m", x, x / (CLOCKS_PER_SEC / 1000))

int main(int ac, char **av) {
    if (ac < 2) {
        cout << "usage: ./a.out \"{your string} or ./a.out FILE \"{your file}\n";
        return 1;
    }
    string s;
    s.reserve(SIZE+1);
    string s1;
    s1.reserve(SIZE+1);
    char s4[SIZE + 1], s5[SIZE + 1];
    if (ac == 3) { 
        if (!exist(av[2])) {
            for (size_t i = 0; i < SIZE; i++)
              s4[i] = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnoporstuvwxyz!@#$%^&*()__+:\"<>?,./'"[rand() % 74];
          s4[SIZE] = '\0';
          ofstream ofs(av[2]);
          if (ofs)
            ofs << s4;
        }
        ifstream ifs(av[2]);
        if (ifs) {
          ifs.rdbuf()->pubsetbuf(s4, SIZE);
          copy(istreambuf_iterator<char>(ifs), {}, s.begin());
        }
        else
          cout << "error\n";

        ifs.seekg(0, ios::beg);
        s.assign((istreambuf_iterator<char>(ifs)), istreambuf_iterator<char>());
    }
    else
        s = av[1];

    double elapsedTime;
    clock_t start;
    bool is_different = false;

    s1 = s;
    start = clock();
    keep_alnum(s1);
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    string tmp = s1;

    s1 = s;
    start = clock();
    s1.erase(std::remove_if(s1.begin(), s1.end(), [](char c) { return !isalnum(c); }), s1.end());
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    is_different |= !!strcmp(tmp.c_str(), s1.c_str());

    s1 = s;
    start = clock();
    s1.erase(std::remove_if(s1.begin(), s1.end(), [](char c) { return ispunct(c); }), s1.end());
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    is_different |= !!strcmp(tmp.c_str(), s1.c_str());

    s1 = s;
    start = clock();
    s1.erase(remove_if(s1.begin(), s1.end(), not1(ptr_fun( (int(*)(int))isalnum ))), s1.end());
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    is_different |= !!strcmp(tmp.c_str(), s1.c_str());

    s1 = s;
    start = clock();
    s1.erase(remove_if(s1.begin(), s1.end(), []( auto const& c ) -> bool { return !isalnum(c); } ), s1.end());
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    is_different |= !!strcmp(tmp.c_str(), s1.c_str());

    memcpy(s4, s.c_str(), SIZE);
    start = clock();
    alnum_from_libc(s4);
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    is_different |= !!strcmp(tmp.c_str(), s4);

    memcpy(s4, s.c_str(), SIZE);
    start = clock();
    old_school(s4);
    elapsedTime = (clock() - start);
    benchmark(elapsedTime);
    is_different |= !!strcmp(tmp.c_str(), s4);

    cout << "Original length: " << s.size() << ", current len with alnum only: " << strlen(s4) << endl;
    // make sure that strings are equivalent
    printf("\033[3%cm%s\n", ('3' + !is_different), !is_different ? "OK" : "KO");

    return 0;
}

我的解决方案

对于按位方法,您可以直接在 my github 上检查它,由于掩码,基本上我避免了分支指令(if)。我避免使用 C++ 标签发布按位运算,我非常讨厌它。

对于 C 风格,我遍历字符串并有两个索引:n 用于我们保留的字符,i 用于遍历字符串,如果它是,我们一个接一个地测试数字、大写或小写。

添加此功能:

void strip_special_chars(char *s) {
    int n = 0;
    for (int i = 0; i < SIZE; i++) {
        unsigned char c = s[i] - 0x30;
        if (c < 10 || (c -= 0x11) < 26 || (c -= 0x20) < 26) // 0x30 + 0x11 = 'A' + 0x20 = 'a'
            s[n++] = s[i];
    }
    s[n] = '\0';
}

并用作:

char s1[s.size() + 1]
memcpy(s1, s.c_str(), s.size());
strip_special_chars(s1);

答案 9 :(得分:0)

以下适用于我。

str.erase(std::remove_if(str.begin(), str.end(), &ispunct), str.end());
str.erase(std::remove_if(str.begin(), str.end(), &isspace), str.end());

答案 10 :(得分:0)

void remove_spaces(string data)
{ int i=0,j=0;
    while(i<data.length())
    {
        if (isalpha(data[i]))
        {
        data[i]=data[i];
        i++;
        }
        else
            {
            data.erase(i,1);}
    }
    cout<<data;
}

答案 11 :(得分:0)

上述解决方案

s.erase( std::remove_if(s.begin(), s.end(), &std::ispunct), s.end());

非常好,但是不幸的是,由于以下原因,它在Visual Studio(调试模式)中不适用于'Ñ'等字符:

_ASSERTE((unsigned)(c + 1) <= 256)

在isctype.c

所以,我会推荐这样的东西:

inline int my_ispunct( int ch )
{
    return std::ispunct(unsigned char(ch));
}
...
s.erase( std::remove_if(s.begin(), s.end(), &my_ispunct), s.end());