C中的UTF-8字符计数不正常

时间:2018-05-03 11:14:27

标签: c utf-8

我想计算给定的字符串数(UTF-8),如果以chines或greek或其他UTF-8字符串给出的输入格式,我可以得到。

程序:

#include <stdio.h>


#define VAL_E0 0xE0
#define VAL_C0 0xC0
int UILexerCheckIsMultiByte(char *pchText , int nLength)
{
  unsigned int nLen = nLength;
  printf ("%s:%d pchText:%s nLen: %d \n", __FUNCTION__, __LINE__, pchText, nLen);
  char *pchPtr = pchText;

  int tmpVal = VAL_E0;
  int nVal_C0 = VAL_C0;
  int nByteCnt = 2;
  int bIsfound = false;

  while (nLen)
  {
    if ((pchText[nLen-1] & VAL_C0) == VAL_C0)
    {
      do
      {
        if ((pchText[nLen-1] & tmpVal) == nVal_C0)
        {
          bIsfound = true;
          break;
        }

        nByteCnt++;
        tmpVal = tmpVal >> 1 | 0x80;
        nVal_C0= nVal_C0>> 1 | 0x80;
      }while(tmpVal != 0xFF);

      if (bIsfound)
        break;
    }
    nLen--;
  }
  return nByteCnt;
}

int main()
{

 if (setlocale(LC_ALL, "en_US.UTF-8") == NULL) {
    abort();
    }
  char pchBuf[80] = ""; 
  printf("\n Enter the character upto 20 in any form \n");
  scanf("%[^\n]s",pchBuf);
  int nLength=0;
  int nMaxLen=20;
  int nCharCnt = 0;

  do
  {
    if (pchBuf[nLength]& 0x80)
    {
      int nByteCnt=0;
      nByteCnt = UILexerCheckIsMultiByte(pchBuf, nMaxLen);
      nLength += nByteCnt;
      nCharCnt++;
    }
    else
    {
      nCharCnt++;
      nLength++;
    }
  }
  //while(nLength<nMaxLen);
  while(pchBuf[nLength] != '\0');
  printf ("CharCnt: %d \n", nCharCnt);
  return 0;
}

示例输出:

  

- &GT; ./a.out

 Enter the character upto 20 in any form
a擇擇cd
UILexerCheckIsMultiByte:11 pchText:a擇擇cd nLen: 20
UILexerCheckIsMultiByte:11 pchText:a擇擇cd nLen: 20
CharCnt: 5

-> ./a.out

     Enter the character upto 20 in any form
    中国话 不用彁 字。
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    UILexerCheckIsMultiByte:11 pchText:中国话 不用彁 字。 nLen: 20
    CharCnt: 10

    -> ./a.out

     Enter the character upto 20 in any form
    Янего
    UILexerCheckIsMultiByte:11 pchText:Янего nLen: 20
    UILexerCheckIsMultiByte:11 pchText:Янего nLen: 20
    UILexerCheckIsMultiByte:11 pchText:Янего nLen: 20
    UILexerCheckIsMultiByte:11 pchText:Янего nLen: 20
    UILexerCheckIsMultiByte:11 pchText:Янего nLen: 20
    CharCnt: 5

当我使用混合的UTF-8字符时,计数不正常。

  

- &GT; ./a.out

 Enter the character upto 20 in any form
用彁 Ĉĉ                                                <==Chinese + roman
UILexerCheckIsMultiByte:11 pchText:用彁 Ĉĉ nLen: 20
UILexerCheckIsMultiByte:11 pchText:用彁 Ĉĉ nLen: 20
UILexerCheckIsMultiByte:11 pchText:用彁 Ĉĉ nLen: 20
UILexerCheckIsMultiByte:11 pchText:用彁 Ĉĉ nLen: 20
UILexerCheckIsMultiByte:11 pchText:用彁 Ĉĉ nLen: 20
CharCnt: 6


-> ./a.out

 Enter the character upto 20 in any form
彁用 Αυ                                                 <==Chinese + Greek
UILexerCheckIsMultiByte:11 pchText:彁用 Αυ nLen: 20
UILexerCheckIsMultiByte:11 pchText:彁用 Αυ nLen: 20
UILexerCheckIsMultiByte:11 pchText:彁用 Αυ nLen: 20
UILexerCheckIsMultiByte:11 pchText:彁用 Αυ nLen: 20
UILexerCheckIsMultiByte:11 pchText:彁用 Αυ nLen: 20
CharCnt: 6

我需要做些什么修改才能获得正确的字符数?

1 个答案:

答案 0 :(得分:1)

主要问题在于UILexerCheckIsMultiByte。要解码utf8流,您需要查看 在每个字节的第一个(最高)2位。 如果他们是&#34; 01&#34;它是一个8位字符代码, 如果他们是&#34; 11&#34;它是多字节序列的第一个字节, 如果他们是&#34; 10&#34;它是多字节序列中的一个字节。

你的第一个二进制比较是正确的: (ch&amp; 0xC0)== 0xC0 - 这将掩盖前两位并检查模式&#34; 11xxxxxx&#34; (x表示不在乎)

但你的下一次比较是错误的。在第一次运行中,您检查: (ch&amp; 0xE0)== 0xC0 - 这将掩盖前三位并检查模式&#34; 11xxxxx&#34;但你应该检查&#34; 10xxxxxx&#34;。

所以也许你看一下下面的代码: 有两个版本的strlen和一个函数来计算多字节序列的字节数。

 /* gcc -Wall -o strlen strlen.c */                       
 #include "stdio.h"                                                       

 int utf8charsize(char *s)                            
 {                                            
     int cnt=0;                                   
     if( *s ) {                                   
        cnt++;                                    
        if( (*s & 0xc0) == 0x0c0 ) { /* binary is 11xxxxxx */             
            while( (s[cnt] & 0xc0) == 0x80  ) /* binary code is 10xxxxxx */   
            cnt++;                                
        }                                     
     }                                        
     printf("-- %d\n", cnt );                             
     return cnt;                                      
 }                                            


 int utf8strlen(char *s)                                  
 {                                            
     int cnt=0;                                   
     int clen;                                    
     while(*s) {                                      
        clen=utf8charsize(s);                             
        cnt++;                                    
        s+=clen;                                  
     }                                        
     return cnt;                                      
 }                                            

 int utf8strlen2(char *s)                             
 {                                            
     int cnt=0;                                   
     while(*s) {                                      
        cnt++;                                    
        if( (*s++ & 0xc0) == 0x0c0 ) { /* binary is 11xxxxxx */           
            while( (*s & 0xc0) == 0x80  ) /* binary code is 10xxxxxx */       
            s++;                                  
        }                                     
     }                                        
     return cnt;                                      
 }                                            

 int main(int argc, char **argv)                              
 {                                            
     if( argc > 1 )                               
        printf("%d %d\n", utf8strlen(argv[1]), utf8strlen2(argv[1]));         
     return 0;                                            
     }