从URL获取域/主​​机名的最快方法是什么?

时间:2011-01-28 07:58:55

标签: java url dns

我需要浏览大量的字符串url并从中提取域名。

例如:

http://www.stackoverflow.com/questions 会摘录 www.stackoverflow.com

我最初使用的是new URL(theUrlString).getHost(),但是URL对象初始化会为进程增加大量时间,而且似乎不需要。

是否有更快的方法来提取可靠的主机名?

由于

编辑:我的错误,是的www。将包含在上面的域名示例中。此外,这些网址可能是http或https

8 个答案:

答案 0 :(得分:35)

如果你想处理https等,我建议你做这样的事情:

int slashslash = url.indexOf("//") + 2;
domain = url.substring(slashslash, url.indexOf('/', slashslash));

请注意,这包括www部分(就像URL.getHost()一样),这实际上是域名的一部分。

通过评论请求编辑

以下两种方法可能会有所帮助:

/**
 * Will take a url such as http://www.stackoverflow.com and return www.stackoverflow.com
 * 
 * @param url
 * @return
 */
public static String getHost(String url){
    if(url == null || url.length() == 0)
        return "";

    int doubleslash = url.indexOf("//");
    if(doubleslash == -1)
        doubleslash = 0;
    else
        doubleslash += 2;

    int end = url.indexOf('/', doubleslash);
    end = end >= 0 ? end : url.length();

    int port = url.indexOf(':', doubleslash);
    end = (port > 0 && port < end) ? port : end;

    return url.substring(doubleslash, end);
}


/**  Based on : http://grepcode.com/file/repository.grepcode.com/java/ext/com.google.android/android/2.3.3_r1/android/webkit/CookieManager.java#CookieManager.getBaseDomain%28java.lang.String%29
 * Get the base domain for a given host or url. E.g. mail.google.com will return google.com
 * @param host 
 * @return 
 */
public static String getBaseDomain(String url) {
    String host = getHost(url);

    int startIndex = 0;
    int nextIndex = host.indexOf('.');
    int lastIndex = host.lastIndexOf('.');
    while (nextIndex < lastIndex) {
        startIndex = nextIndex + 1;
        nextIndex = host.indexOf('.', startIndex);
    }
    if (startIndex > 0) {
        return host.substring(startIndex);
    } else {
        return host;
    }
}

答案 1 :(得分:8)

您希望在实施“快速”方式取消网址时要非常小心。 URL中存在许多可能导致“快速”方法失败的可变性。例如:

  • 方案(协议)部分可以用大写和小写字母的任意组合书写;例如“http”,“Http”和“HTTP”是等价的。

  • 权限部分可以选择包含“http://you@example.com:8080/index.html”中的用户名和/或端口号。

  • 由于DNS不区分大小写,因此URL的主机名部分也(有效地)不区分大小写。

  • % - 对URL中的方案或权限组件中的非保留字符进行编码是合法的(尽管非常不规范)。在匹配(或剥离)方案或解释主机名时,需要考虑这一点。具有%编码字符的主机名被定义为等同于解码了%编码序列的主机名。

现在,如果您完全控制生成正在剥离的URL的进程,您可能会忽略这些细节。但如果它们是从文档或网页中获取的,或者是由人类输入的,那么建议您考虑如果您的代码遇到“不寻常”的URL会发生什么。


如果您关注的是构建URL对象所需的时间,请考虑使用URI对象。除了其他好处之外,URI对象不会尝试对主机名部分进行DNS查找。

答案 2 :(得分:2)

我写了一个方法(见下文),它提取了一个url的域名,并使用简单的String匹配。它实际上做的是在第一个"://"(或索引0,如果没有包含"://")和第一个后续"/"(或索引{{1}如果没有后续String.length())。剩余的前"/"位被切断。我敢肯定会出现这种情况不够好的情况,但在大多数情况下它应该足够好了!

我读here "www(_)*."类可以执行此操作(并且优先于java.net.URI类)但我遇到了java.net.URL类的问题。值得注意的是,如果网址不包含该方案,URI会给出一个空值,即URI.getHost()位。

"http(s)"

答案 3 :(得分:1)

只有另一种获取主机的方法

private String getHostName(String hostname) {
    // to provide faultproof result, check if not null then return only hostname, without www.
    if (hostname != null) {
        return hostname.startsWith("www.") ? hostname.substring(4) : getHostNameDFExt(hostname);
    }
    return hostname;
}

private String getHostNameDFExt(String hostname) {

    int substringIndex = 0;
    for (char character : hostname.toCharArray()) {
        substringIndex++;
        if (character == '.') {
            break;
        }
    }

    return hostname.substring(substringIndex);

}
  

现在,我们必须从网址提取后在函数中传递主机名

URL url = new URL("https://www.facebook.com/");
String hostname = getHostName(ur.getHost());

Toast.makeText(this, hostname, Toast.LENGTH_SHORT).show();
  

输出为:“ facebook.com

答案 4 :(得分:0)

你可以写一个正则表达式吗? http://始终相同,然后匹配所有内容,直到得到第一个'/'。

答案 5 :(得分:0)

假设它们都是格式正确的URL,但您不知道它们是否为http://,https://等。


int start = theUrlString.indexOf('/');
int start = theUrlString.indexOf('/', start+1);
int end = theUrlString.indexOf('/', start+1);
String domain = theUrlString.subString(start, end);

答案 6 :(得分:0)

您可以尝试使用正则表达式。

http://download.oracle.com/javase/6/docs/api/java/util/regex/Pattern.html

以下是关于使用Java中的正则表达式提取域名的问题:

Regular expression to retrieve domain.tld

答案 7 :(得分:0)

尝试方法:该类中的getDomainFromUrl()

package com.visc.mobilesecurity.childrencare.utils;

import android.content.Context;

import com.visc.mobilesecurity.antitheft.backwardcompatibility.FroyoSupport;
import com.visc.mobilesecurity.antitheft.util.AntiTheftUtils;
import com.visc.mobilesecurity.constant.Key;
import com.visc.mobilesecurity.util.Prefs;

import org.json.JSONObject;

import java.io.File;
import java.io.FileOutputStream;
import java.io.InputStream;

/**
 * Created by thongnv12 on 3/9/2018.
 */

public class ChildcareUtils {

    public static final String[] NATION_DOMAIN = {"af", "ax", "al", "dz", "as", "ad", "ao", "ai", "aq", "ag", "ar", "am", "aw", "ac", "au", "at", "az", "bs", "bh", "bd", "bb", "eus",
            "by", "be", "bz", "bj", "bm", "bt", "bo", "bq", "ba", "bw", "bv", "br", "io", "vg", "bn", "bg", "bf", "mm", "bi", "kh", "cm", "ca", "cv", "cat", "ky", "cf", "td", "cl",
            "cn", "cx", "cc", "co", "km", "cd", "cg", "ck", "cr", "ci", "hr", "cu", "cw", "cy", "cz", "dk", "dj", "dm", "do", "tl", "ec", "eg", "sv", "gq", "er", "ee", "et", "eu",
            "fk", "fo", "fm", "fj", "fi", "fr", "gf", "pf", "tf", "ga", "gal", "gm", "ps", "ge", "de", "gh", "gi", "gr", "gl", "gd", "gp", "gu", "gt", "gg", "gn", "gw", "gy", "ht",
            "hm", "hn", "hk", "hu", "is", "in", "id", "ir", "iq", "ie", "im", "il", "it", "jm", "jp", "je", "jo", "kz", "ke", "ki", "kw", "kg", "la", "lv", "lb", "ls", "lr", "ly",
            "li", "lt", "lu", "mo", "mk", "mg", "mw", "my", "mv", "ml", "mt", "mh", "mq", "mr", "mu", "yt", "mx", "md", "mc", "mn", "me", "ms", "ma", "mz", "mm", "na", "nr", "np",
            "nl", "nc", "nz", "ni", "ne", "ng", "nu", "nf", "kp", "mp", "no", "om", "pk", "pw", "ps", "pa", "pg", "py", "pe", "ph", "pn", "pl", "pt", "pr", "qa", "ro", "ru", "rw",
            "re", "bq", "bl", "sh", "kn", "lc", "mf", "fr", "pm", "vc", "ws", "sm", "st", "sa", "sn", "rs", "sc", "sl", "sg", "bq", "sx", "sk", "si", "sb", "so", "so", "za", "gs",
            "kr", "ss", "es", "lk", "sd", "sr", "sj", "sz", "se", "ch", "sy", "tw", "tj", "tz", "th", "tg", "tk", "to", "tt", "tn", "tr", "tm", "tc", "tv", "ug", "ua", "ae", "uk",
            "us", "vi", "uy", "uz", "vu", "va", "ve", "vn", "wf", "eh", "zm", "zw"};


    public static boolean isInNationString(String str) {
        for (int index = 0; index < NATION_DOMAIN.length; index++) {
            if (NATION_DOMAIN[index].equals(str)) {
                return true;
            }
        }
        return false;
    }


    public static String getDomainFromUrl(String urlStr) {
        try {
            String result = null;
//            URL url = new URL(urlStr);
//            result = url.getHost();
//            return result;
//
            // for test
            // check dau cach
            if (urlStr.contains(" ")) {
                return null;
            }
            // replace
            urlStr = urlStr.replace("https://", "");
            urlStr = urlStr.replace("http://", "");
            urlStr = urlStr.replace("www.", "");
            //
            String[] splitStr = urlStr.split("/");

            String domainFull = splitStr[0];

            String[] splitDot = domainFull.split("\\.");

            if (splitDot.length < 2) {
                return null;
            }

            String nationStr = splitDot[splitDot.length - 1];

            if (isInNationString(nationStr)) {
                if (splitDot.length < 4) {
                    result = domainFull;
                } else {
                    StringBuilder strResult = new StringBuilder();
                    int lengthDot = splitDot.length;
                    strResult.append(splitDot[lengthDot - 3]).append(".");
                    strResult.append(splitDot[lengthDot - 2]).append(".");
                    strResult.append(splitDot[lengthDot - 1]);
                    result = strResult.toString();
                }

            } else {
                if (splitDot.length < 3) {
                    result = domainFull;
                } else {
                    StringBuilder strResult = new StringBuilder();
                    int lengthDot = splitDot.length;
                    strResult.append(splitDot[lengthDot - 2]).append(".");
                    strResult.append(splitDot[lengthDot - 1]);
                    result = strResult.toString();
                }
            }
            return result;
        } catch (Exception ex) {
            ex.printStackTrace();
            return null;
        }

    }
}