使用java中的空格对字符串进行标记

时间:2009-10-01 00:21:46

标签: java tokenize

我想像这样标记一个字符串

String line = "a=b c='123 456' d=777 e='uij yyy'";

我不能像这样拆分

String [] words = line.split(" ");

任何想法我如何分裂,以便我得到像

这样的令牌
a=b
c='123 456'
d=777
e='uij yyy';  

11 个答案:

答案 0 :(得分:9)

最简单的方法是手动实现一个简单的有限状态机。换句话说,一次处理字符串:

  • 当你击中一个空格时,中断一个令牌;
  • 当你点击引号时,请不断获取字符,直至找到另一个引号。

答案 1 :(得分:3)

根据原始字符串的格式,您应该能够使用正则表达式作为java“split”方法的参数:Click here for an example

该示例不使用此任务所需的正则表达式。

您还可以使用this SO thread作为指导(虽然它是在PHP中),它可以完全满足您的需求。稍微操纵可能会有所作为(尽管引号是否是输出的一部分可能会导致一些问题)。请记住,正则表达式在大多数语言中非常相似。

编辑:进一步深入此类任务可能领先于正则表达式的功能,因此您可能需要创建一个简单的解析器。

答案 2 :(得分:3)

line.split(" (?=[a-z+]=)")

正确地给出:

a=b
c='123 456'
d=777
e='uij yyy'

确保调整[a-z +]部分以防键结构发生变化。

编辑:如果该对的值部分中存在“=”字符,则此解决方案可能会失败。

答案 3 :(得分:1)

StreamTokenizer可以提供帮助,虽然最容易设置为打破'=',因为它总是会在引用字符串的开头处中断:

String s = "Ta=b c='123 456' d=777 e='uij yyy'";
StreamTokenizer st = new StreamTokenizer(new StringReader(s));
st.ordinaryChars('0', '9');
st.wordChars('0', '9');
while (st.nextToken() != StreamTokenizer.TT_EOF) {
    switch (st.ttype) {
    case StreamTokenizer.TT_NUMBER:
        System.out.println(st.nval);
        break;
    case StreamTokenizer.TT_WORD:
        System.out.println(st.sval);
        break;
    case '=':
        System.out.println("=");
        break;
    default:
        System.out.println(st.sval);
    }
}

输出

Ta
=
b
c
=
123 456
d
=
777
e
=
uij yyy

如果省略将数字字符转换为alpha的两行,则会得到d=777.0,这可能对您有用。

答案 4 :(得分:1)

假设:

  • 您的变量名称(分配'a = b'中的'a')的长度可以是1或更长
  • 您的变量名称(分配'a = b'中的'a')不能包含空格字符,其他任何条件都可以。
  • 不需要验证您的输入(输入假定为有效的a = b格式)

这对我来说很好。

输入:

a=b abc='123 456' &=777 #='uij yyy' ABC='slk slk'              123sdkljhSDFjflsakd@*#&=456sldSLKD)#(

输出:

a=b
abc='123 456'
&=777
#='uij yyy'
ABC='slk slk'             
123sdkljhSDFjflsakd@*#&=456sldSLKD)#(

代码:

import java.util.ArrayList;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class RegexTest {

    // SPACE CHARACTER                                          followed by
    // sequence of non-space characters of 1 or more            followed by
    // first occuring EQUALS CHARACTER       
    final static String regex = " [^ ]+?=";


    // static pattern defined outside so that you don't have to compile it 
    // for each method call
    static final Pattern p = Pattern.compile(regex);

    public static List<String> tokenize(String input, Pattern p){
        input = input.trim(); // this is important for "last token case"
                                // see end of method
        Matcher m = p.matcher(input);
        ArrayList<String> tokens = new ArrayList<String>();
        int beginIndex=0;
        while(m.find()){
            int endIndex = m.start();
            tokens.add(input.substring(beginIndex, endIndex));
            beginIndex = endIndex+1;
        }

        // LAST TOKEN CASE
        //add last token
        tokens.add(input.substring(beginIndex));

        return tokens;
    }

    private static void println(List<String> tokens) {
        for(String token:tokens){
            System.out.println(token);
        }
    }


    public static void main(String args[]){
        String test = "a=b " +
                "abc='123 456' " +
                "&=777 " +
                "#='uij yyy' " +
                "ABC='slk slk'              " +
                "123sdkljhSDFjflsakd@*#&=456sldSLKD)#(";
        List<String> tokens = RegexTest.tokenize(test, p);
        println(tokens);
    }
}

答案 5 :(得分:1)

或者,使用正则表达式进行标记化,以及一个只将key / val添加到地图的小型状态机:

String line = "a = b c='123 456' d=777 e =  'uij yyy'";
Map<String,String> keyval = new HashMap<String,String>();
String state = "key";
Matcher m = Pattern.compile("(=|'[^']*?'|[^\\s=]+)").matcher(line);
String key = null;
while (m.find()) {
    String found = m.group();
    if (state.equals("key")) {
        if (found.equals("=") || found.startsWith("'"))
            { System.err.println ("ERROR"); }
        else { key = found; state = "equals"; }
    } else if (state.equals("equals")) {
        if (! found.equals("=")) { System.err.println ("ERROR"); }
        else { state = "value"; }
    } else if (state.equals("value")) {
        if (key == null) { System.err.println ("ERROR"); }
        else {
            if (found.startsWith("'"))
                found = found.substring(1,found.length()-1);
            keyval.put (key, found);
            key = null;
            state = "key";
        }
    }
}
if (! state.equals("key"))  { System.err.println ("ERROR"); }
System.out.println ("map: " + keyval);

打印出来

map: {d=777, e=uij yyy, c=123 456, a=b}

它执行一些基本的错误检查,并从值中取出引号。

答案 6 :(得分:0)

这个解决方案既通用又紧凑(它实际上是cletus'正则表达式的正则表达式):

String line = "a=b c='123 456' d=777 e='uij yyy'";
Matcher m = Pattern.compile("('[^']*?'|\\S)+").matcher(line);
while (m.find()) {
  System.out.println(m.group()); // or whatever you want to do
}

换句话说,找到所有字符串,这些字符是带引号的字符串或非空格字符的组合;不支持嵌套引号(没有转义字符)。

答案 7 :(得分:0)

public static void main(String[] args) {
String token;
String value="";
HashMap<String, String> attributes = new HashMap<String, String>();
String line = "a=b c='123  456' d=777 e='uij yyy'";
StringTokenizer tokenizer = new StringTokenizer(line," ");
while(tokenizer.hasMoreTokens()){
        token = tokenizer.nextToken();
    value = token.contains("'") ? value + " " + token : token ;
    if(!value.contains("'") || value.endsWith("'")) {
           //Split the strings and get variables into hashmap 
           attributes.put(value.split("=")[0].trim(),value.split("=")[1]);
           value ="";
    }
}
    System.out.println(attributes);
}

输出: {d = 777,a = b,e ='uij yyy',c ='123 456'}

在这种情况下,连续空格将被截断为值中的单个空格。 这里归因于hashmap包含值

答案 8 :(得分:0)

{{1}}

答案 9 :(得分:-1)

java.util.StringTokenizer tokenizer = new java.util.StringTokenizer(line, " ");
while (tokenizer.hasMoreTokens()) {
    String token = tokenizer.nextToken();
    int index = token.indexOf('=');
    String key = token.substring(0, index);
    String value = token.substring(index + 1);
}

答案 10 :(得分:-2)

您是否尝试过'='拆分并从每对结果数组中创建一个令牌?