我在哪里可以找到希伯来语停用词的列表?

时间:2009-09-02 01:49:14

标签: search-engine hebrew stop-words

我在哪里可以找到希伯来语停用词列表?
编辑:编辑我的答案以添加更多,如果有更多...

6 个答案:

答案 0 :(得分:10)

function getStopWords(){
return array(
'אני',
'את',
'אתה',
'אנחנו',
'אתן',
'אתם',
'הם',
'הן',
'היא',
'הוא',
'שלי',
'שלו',
'שלך',
'שלה',
'שלנו',
'שלכם',
'שלכן',
'שלהם',
'שלהן',
'לי',
'לו',
'לה',
'לנו',
'לכם',
'לכן',
'להם',
'להן',
'אותה',
'אותו',
'זה',
'זאת',
'אלה',
'אלו',
'תחת',
'מתחת',
'מעל',
'בין',
'עם',
'עד',
'נגר',
'על',
'אל',
'מול',
'של',
'אצל',
'כמו',
'אחר',
'אותו',
'בלי',
'לפני',
'אחרי',
'מאחורי',
'עלי',
'עליו',
'עליה',
'עליך',
'עלינו',
'עליכם',
'לעיכן',
'עליהם',
'עליהן',
'כל',
'כולם',
'כולן',
'כך',
'ככה',
'כזה',
'זה',
'זות',
'אותי',
'אותה',
'אותם',
'אותך',
'אותו',
'אותן',
'אותנו',
'ואת',
'את',
'אתכם',
'אתכן',
'איתי',
'איתו',
'איתך',
'איתה',
'איתם',
'איתן',
'איתנו',
'איתכם',
'איתכן',
'יהיה',
'תהיה',
'היתי',
'היתה',
'היה',
'להיות',
'עצמי',
'עצמו',
'עצמה',
'עצמם',
'עצמן',
'עצמנו',
'עצמהם',
'עצמהן',
'מי',
'מה',
'איפה',
'היכן',
'במקום שבו',
'אם',
'לאן',
'למקום שבו',
'מקום בו',
'איזה',
'מהיכן',
'איך',
'כיצד',
'באיזו מידה',
'מתי',
'בשעה ש',
'כאשר',
'כש',
'למרות',
'לפני',
'אחרי',
'מאיזו סיבה',
'הסיבה שבגללה',
'למה',
'מדוע',
'לאיזו תכלית',
'כי',
'יש',
'אין',
'אך',
'מנין',
'מאין',
'מאיפה',
'יכל',
'יכלה',
'יכלו',
'יכול',
'יכולה',
'יכולים',
'יכולות',
'יוכלו',
'יוכל',
'מסוגל',
'לא',
'רק',
'אולי',
'אין',
'לאו',
'אי',
'כלל',
'נגד',
'אם',
'עם',
'אל',
'אלה',
'אלו',
'אף',
'על',
'מעל',
'מתחת',
'מצד',
'בשביל',
'לבין',
'באמצע',
'בתוך',
'דרך',
'מבעד',
'באמצעות',
'למעלה',
'למטה',
'מחוץ',
'מן',
'לעבר',
'מכאן',
'כאן',
'הנה',
'הרי',
'פה',
'שם',
'אך',
'ברם',
'שוב',
'אבל',
'מבלי',
'בלי',
'מלבד',
'רק',
'בגלל',
'מכיוון',
'עד',
'אשר',
'ואילו',
'למרות',
'אס',
'כמו',
'כפי',
'אז',
'אחרי',
'כן',
'לכן',
'לפיכך',
'מאד',
'עז',
'מעט',
'מעטים',
'במידה',
'שוב',
'יותר',
'מדי',
'גם',
'כן',
'נו',
'אחר',
'אחרת',
'אחרים',
'אחרות',
'אשר',
'או'
);
}

答案 1 :(得分:6)

我怀疑有一个公开可用,但作为一个简单的近似,你可以在一个相当大的语料库中创建一个非常频繁的令牌列表。然后,根据您的需要,您可以使用列表,或手动过滤,或对您的算法进行一些反复试验,看看它是如何工作的。

Here's a list of the 100 most common tokens来自我所拥有的一个非常大的新闻语料库。请注意,出于我的目的,我将各种标点字符计为标记。数字“1”表示所有数字标记,因此它在列表中的高位置。

你可能会注意到,由于形态和形态的原因,停止列表在希伯来语中是一个有问题的概念。正字法 - 一些有用的单词只附在单词上。

答案 2 :(得分:2)

Mila中心有一个由他们正在使用的大型语料库编制的高频令牌列表。请参见页面底部:http://www.mila.cs.technion.ac.il/hebrew/resources/corpora/index.html

另外,要考虑的另一件事是停止词歧义 - 某个词可以没有任何意义,或者具有非常重要的含义。例如 - אלה和אשר这两个词都是希伯来语介词和有效的个人名字。关于这个希伯来语现象的更多信息可以在这里找到:http://www.code972.com/blog/2010/05/challenges-indexing-hebrew/(滚动到“停止歧义”)。

因此,我认为不可能有一个完整的绝对希伯来语停止列表 - 它太依赖于你的语料库和用例。

答案 3 :(得分:0)

之前提供的链接已被破坏。 这是新链接:http://www.mila.cs.technion.ac.il/index.html

有问题的列表中有一些缺失的术语(אתך,אתכן,אתכם等)。

亲切的问候, Yaron Shahrabani。

答案 4 :(得分:0)

这里列出了500个希伯来语停用词(包含和不包含计数):

https://github.com/gidim/HebrewStopWords

也可在此处获取:

את
לא
של
אני
על
זה
עם
כל
הוא
אם
או
גם
יותר
יש
לי
מה
אבל
פורום
אז
טוב
רק
כי
שלי
היה
בפורום
אין
עוד
היא
אחד
ב
ל
עד
לך
כמו
להיות
אתה
כמה
אנחנו
הם
כבר
אנשים
אפשר
תודה
שלא
אותו
ה
מאוד
הרבה
ולא
ממש
לו
א
מי
חיים
בית
שאני
יכול
שהוא
כך
הזה
איך
היום
קצת
עכשיו
שם
בכל
יהיה
תמיד
י
שלך
הכי
ש
בו
לעשות
צריך
כן
פעם
לכם
ואני
משהו
אל
שלו
שיש
ו
וגם
אתכם
אחרי
בנושא
כדי
פשוט
לפני
שזה
אותי
אנו
למה
דבר
כ
כאן
אולי
טובים
רוצה
שנה
בעלי
החיים
למען
אתם
מ
בין
יום
זאת
איזה
ביותר
לה
אחת
הכל
הפורומים
לכל
אלא
פה
יודע
שלום
דקות
לנו
השנה
דרך
אדם
נראה
זו
היחידה
רוצים
בכלל
טובה
שלנו
האם
הייתי
הלב
היו
ח
שדרות
בלי
להם
שאתה
אותה
מקום
ואתם
חלק
בן
בואו
אחר
האחת
אותך
כמובן
בגלל
באמת
מישהו
ילדים
אותם
הפורום
טיפוח
וזה
ר
שהם
אך
מזמין
ישראל
כוס
זמן
ועוד
הילדים
עדיין
כזה
עושה
שום
לקחת
העולם
תפוז
לראות
לפורום
וכל
לקבל
נכון
יוצא
לעולם
גדול
אפילו
ניתן
שני
אוכל
קשה
משחק
ביום
ככה
אמא
בת
השבוע
נוספים
לגבי
בבית
אחרת
לפי
ללא
שנים
הזמן
שמן
מעט
לפחות
אף
שוב
שלהם
במקום
כולם
נועית
הבא
מעל
לב
המון
לדבר
ע
אוהב
מוסיפים
חצי
בעיקר
כפות
לפעמים
שהיא
הנהלת
ועל
ק
אוהבים
ת
יודעת
ד
גרוע
שאנחנו
מים
לילדים
בארץ
מודיע
אשמח
שלכם
פחות
לכולם
די
אהבה
יכולה
דברים
הקהילה
לעזור
פרטים
בדיוק
מלח
קל
הראשי
שלה
להוסיף
השני
לדעתי
בר
למרות
שגם
מוזמנים
לאחר
במה
חושב
מאד
יפה
להגשים
חדש
קטן
מחפשים
שמח
מדברים
ואם
במיוחד
עבודה
מדי
ואז
חשוב
שאם
אוהבת
פעמים
מנהלת
אומר
מול
קשר
מנהל
שיהיה
שאין
שאנו
האהבה
ס
הצטרפו
כפית
בשביל
החגים
אופן
לתת
כף
בתוך
סוכר
גיל
בהצלחה
והוא
מקווה
סתם
ויש
נגד
כמעט
שאת
עולה
אי
מספר
ראשון
לדרך
נהיה
לעצב
עושים
ולנהל
היתה
עליו
מזה
הייתה
בא
בפרס
חלות
ראש
מזמינים
טיפים
מכבי
רבה
הורים
‡
מקרה
קרן
המוצלח
להגיע
גדולה
כנראה
החמשיר
הראשון
פלפל
המשחק
וכאן
לדעת
ואת
גרועים
ספר
אגב
אחרים
להגיד
בתפוז
והעולם
אופנה
דווקא
מספיק
שעות
תמונות
כשאנחנו
שוקולד
ולכן
ג
לקרוא
לניהול
שבוע
ויופי
חלום
בה
שהיה
שאלה
מקומה
הזו
בפורומים
החדש
מתאמצים
שחקן
שמזינים
נשמת
בערך
מכל
ומה
רגל
כסף
רואה
קטנה
בצל
בעולם
אינטרנט
חוץ
ברור
הולך
חושבת
לזה
כלום
הן
כאלה
בטוח
הדבר
תהיה
מגיע
סוף
האמת
ממנו
מיכל
החדשה
לתרום
האנשים
ועד
בדרך
אצלי
ההורים
בני
מתוך
כאשר
לבד
ראיתי
מצב
מלא
לבחור
נשמח
החג
רע
עוף
מן
להביא
מצאתי
כתובות
מעניין
צריכה
להכנס
לחלוטין
שעה
מתכון
קודם
תשובות
מדובר
ניהול
מזל
כדאי
יהיו
ההודעות
בוקר
נילוות
איפה
בעיה
קמח
ללכת
פורומים
אמר
נושא
ההכנה
בבקשה
שכל
הזאת
למשחק
פנינה
תחרות
חבר
לקנות
מהם
רגע
גרם
אלו
עצמו
מראש
הכלב
כולנו
עדיף
איתו
למשל
לבשל
למי
רעיונות
הבלוג
רוב
אביב
כרגע
בסוף
אלה
לחג
ערוץ
שווה
באופן
מאמין
לבן
בזה
הכבוד
לראש
ם
ימי
שחור
בצורה
בעמוד
ועם
וחצי
האלה
תמונה
בשלב
משחקים
נו

答案 5 :(得分:0)

我在 https://yeda.cs.technion.ac.il/resources_lexicons_stopwords.html 中找到了这个 .xlsx 文件 这是一个非常广泛的列表(23,000 行),您可以很快地从列表中取出列表