ferret 0.11.6 → 0.11.8.4
Sign up to get free protection for your applications and to get access to all the features.
- data/README +10 -22
- data/RELEASE_CHANGES +137 -0
- data/RELEASE_NOTES +60 -0
- data/Rakefile +379 -274
- data/TODO +100 -8
- data/bin/ferret-browser +0 -0
- data/ext/BZLIB_blocksort.c +1094 -0
- data/ext/BZLIB_bzlib.c +1578 -0
- data/ext/BZLIB_compress.c +672 -0
- data/ext/BZLIB_crctable.c +104 -0
- data/ext/BZLIB_decompress.c +626 -0
- data/ext/BZLIB_huffman.c +205 -0
- data/ext/BZLIB_randtable.c +84 -0
- data/ext/{api.c → STEMMER_api.c} +7 -10
- data/ext/{libstemmer.c → STEMMER_libstemmer.c} +3 -2
- data/ext/{stem_ISO_8859_1_danish.c → STEMMER_stem_ISO_8859_1_danish.c} +123 -124
- data/ext/{stem_ISO_8859_1_dutch.c → STEMMER_stem_ISO_8859_1_dutch.c} +177 -188
- data/ext/STEMMER_stem_ISO_8859_1_english.c +1117 -0
- data/ext/{stem_ISO_8859_1_finnish.c → STEMMER_stem_ISO_8859_1_finnish.c} +276 -306
- data/ext/STEMMER_stem_ISO_8859_1_french.c +1246 -0
- data/ext/{stem_ISO_8859_1_german.c → STEMMER_stem_ISO_8859_1_german.c} +161 -170
- data/ext/STEMMER_stem_ISO_8859_1_hungarian.c +1230 -0
- data/ext/STEMMER_stem_ISO_8859_1_italian.c +1065 -0
- data/ext/STEMMER_stem_ISO_8859_1_norwegian.c +297 -0
- data/ext/{stem_ISO_8859_1_porter.c → STEMMER_stem_ISO_8859_1_porter.c} +263 -290
- data/ext/{stem_ISO_8859_1_portuguese.c → STEMMER_stem_ISO_8859_1_portuguese.c} +362 -380
- data/ext/STEMMER_stem_ISO_8859_1_spanish.c +1093 -0
- data/ext/STEMMER_stem_ISO_8859_1_swedish.c +307 -0
- data/ext/STEMMER_stem_ISO_8859_2_romanian.c +998 -0
- data/ext/{stem_KOI8_R_russian.c → STEMMER_stem_KOI8_R_russian.c} +244 -245
- data/ext/STEMMER_stem_UTF_8_danish.c +339 -0
- data/ext/{stem_UTF_8_dutch.c → STEMMER_stem_UTF_8_dutch.c} +192 -211
- data/ext/STEMMER_stem_UTF_8_english.c +1125 -0
- data/ext/{stem_UTF_8_finnish.c → STEMMER_stem_UTF_8_finnish.c} +284 -324
- data/ext/STEMMER_stem_UTF_8_french.c +1256 -0
- data/ext/{stem_UTF_8_german.c → STEMMER_stem_UTF_8_german.c} +170 -187
- data/ext/STEMMER_stem_UTF_8_hungarian.c +1234 -0
- data/ext/STEMMER_stem_UTF_8_italian.c +1073 -0
- data/ext/STEMMER_stem_UTF_8_norwegian.c +299 -0
- data/ext/{stem_UTF_8_porter.c → STEMMER_stem_UTF_8_porter.c} +271 -310
- data/ext/STEMMER_stem_UTF_8_portuguese.c +1023 -0
- data/ext/STEMMER_stem_UTF_8_romanian.c +1004 -0
- data/ext/STEMMER_stem_UTF_8_russian.c +694 -0
- data/ext/STEMMER_stem_UTF_8_spanish.c +1097 -0
- data/ext/STEMMER_stem_UTF_8_swedish.c +309 -0
- data/ext/STEMMER_stem_UTF_8_turkish.c +2205 -0
- data/ext/{utilities.c → STEMMER_utilities.c} +100 -68
- data/ext/analysis.c +276 -121
- data/ext/analysis.h +190 -143
- data/ext/api.h +3 -4
- data/ext/array.c +5 -3
- data/ext/array.h +52 -43
- data/ext/bitvector.c +38 -482
- data/ext/bitvector.h +446 -124
- data/ext/bzlib.h +282 -0
- data/ext/bzlib_private.h +503 -0
- data/ext/compound_io.c +23 -22
- data/ext/config.h +21 -11
- data/ext/document.c +43 -40
- data/ext/document.h +31 -21
- data/ext/except.c +20 -38
- data/ext/except.h +89 -76
- data/ext/extconf.rb +3 -2
- data/ext/ferret.c +49 -35
- data/ext/ferret.h +14 -11
- data/ext/field_index.c +262 -0
- data/ext/field_index.h +52 -0
- data/ext/filter.c +11 -10
- data/ext/fs_store.c +65 -47
- data/ext/global.c +245 -165
- data/ext/global.h +252 -54
- data/ext/hash.c +200 -243
- data/ext/hash.h +205 -163
- data/ext/hashset.c +118 -96
- data/ext/hashset.h +110 -82
- data/ext/header.h +19 -19
- data/ext/helper.c +11 -10
- data/ext/helper.h +14 -6
- data/ext/index.c +745 -366
- data/ext/index.h +503 -529
- data/ext/internal.h +1020 -0
- data/ext/lang.c +10 -0
- data/ext/lang.h +35 -15
- data/ext/mempool.c +5 -4
- data/ext/mempool.h +30 -22
- data/ext/modules.h +35 -7
- data/ext/multimapper.c +43 -2
- data/ext/multimapper.h +32 -23
- data/ext/posh.c +0 -0
- data/ext/posh.h +4 -38
- data/ext/priorityqueue.c +10 -12
- data/ext/priorityqueue.h +33 -21
- data/ext/q_boolean.c +22 -9
- data/ext/q_const_score.c +3 -2
- data/ext/q_filtered_query.c +15 -12
- data/ext/q_fuzzy.c +147 -135
- data/ext/q_match_all.c +3 -2
- data/ext/q_multi_term.c +28 -32
- data/ext/q_parser.c +451 -173
- data/ext/q_phrase.c +158 -79
- data/ext/q_prefix.c +16 -18
- data/ext/q_range.c +363 -31
- data/ext/q_span.c +130 -141
- data/ext/q_term.c +21 -21
- data/ext/q_wildcard.c +19 -23
- data/ext/r_analysis.c +369 -242
- data/ext/r_index.c +421 -434
- data/ext/r_qparser.c +142 -92
- data/ext/r_search.c +790 -407
- data/ext/r_store.c +44 -44
- data/ext/r_utils.c +264 -96
- data/ext/ram_store.c +29 -23
- data/ext/scanner.c +895 -0
- data/ext/scanner.h +36 -0
- data/ext/scanner_mb.c +6701 -0
- data/ext/scanner_utf8.c +4415 -0
- data/ext/search.c +210 -87
- data/ext/search.h +556 -488
- data/ext/similarity.c +17 -16
- data/ext/similarity.h +51 -44
- data/ext/sort.c +157 -354
- data/ext/stem_ISO_8859_1_hungarian.h +16 -0
- data/ext/stem_ISO_8859_2_romanian.h +16 -0
- data/ext/stem_UTF_8_hungarian.h +16 -0
- data/ext/stem_UTF_8_romanian.h +16 -0
- data/ext/stem_UTF_8_turkish.h +16 -0
- data/ext/stopwords.c +287 -278
- data/ext/store.c +57 -51
- data/ext/store.h +308 -286
- data/ext/symbol.c +10 -0
- data/ext/symbol.h +23 -0
- data/ext/term_vectors.c +14 -293
- data/ext/threading.h +22 -22
- data/ext/win32.h +12 -4
- data/lib/ferret.rb +2 -1
- data/lib/ferret/browser.rb +1 -1
- data/lib/ferret/field_symbol.rb +94 -0
- data/lib/ferret/index.rb +221 -34
- data/lib/ferret/number_tools.rb +6 -6
- data/lib/ferret/version.rb +3 -0
- data/test/{unit → long_running}/largefile/tc_largefile.rb +1 -1
- data/test/test_helper.rb +7 -2
- data/test/test_installed.rb +1 -0
- data/test/threading/thread_safety_index_test.rb +10 -1
- data/test/threading/thread_safety_read_write_test.rb +4 -7
- data/test/threading/thread_safety_test.rb +0 -0
- data/test/unit/analysis/tc_analyzer.rb +29 -27
- data/test/unit/analysis/tc_token_stream.rb +23 -16
- data/test/unit/index/tc_index.rb +116 -11
- data/test/unit/index/tc_index_reader.rb +27 -27
- data/test/unit/index/tc_index_writer.rb +10 -0
- data/test/unit/index/th_doc.rb +38 -21
- data/test/unit/search/tc_filter.rb +31 -10
- data/test/unit/search/tc_index_searcher.rb +6 -0
- data/test/unit/search/tm_searcher.rb +53 -1
- data/test/unit/store/tc_fs_store.rb +40 -2
- data/test/unit/store/tc_ram_store.rb +0 -0
- data/test/unit/store/tm_store.rb +0 -0
- data/test/unit/store/tm_store_lock.rb +7 -6
- data/test/unit/tc_field_symbol.rb +26 -0
- data/test/unit/ts_analysis.rb +0 -0
- data/test/unit/ts_index.rb +0 -0
- data/test/unit/ts_store.rb +0 -0
- data/test/unit/ts_utils.rb +0 -0
- data/test/unit/utils/tc_number_tools.rb +0 -0
- data/test/utils/content_generator.rb +226 -0
- metadata +262 -221
- data/ext/inc/lang.h +0 -48
- data/ext/inc/threading.h +0 -31
- data/ext/stem_ISO_8859_1_english.c +0 -1156
- data/ext/stem_ISO_8859_1_french.c +0 -1276
- data/ext/stem_ISO_8859_1_italian.c +0 -1091
- data/ext/stem_ISO_8859_1_norwegian.c +0 -296
- data/ext/stem_ISO_8859_1_spanish.c +0 -1119
- data/ext/stem_ISO_8859_1_swedish.c +0 -307
- data/ext/stem_UTF_8_danish.c +0 -344
- data/ext/stem_UTF_8_english.c +0 -1176
- data/ext/stem_UTF_8_french.c +0 -1296
- data/ext/stem_UTF_8_italian.c +0 -1113
- data/ext/stem_UTF_8_norwegian.c +0 -302
- data/ext/stem_UTF_8_portuguese.c +0 -1055
- data/ext/stem_UTF_8_russian.c +0 -709
- data/ext/stem_UTF_8_spanish.c +0 -1137
- data/ext/stem_UTF_8_swedish.c +0 -313
- data/lib/ferret_version.rb +0 -3
@@ -0,0 +1,16 @@
|
|
1
|
+
|
2
|
+
/* This file was generated automatically by the Snowball to ANSI C compiler */
|
3
|
+
|
4
|
+
#ifdef __cplusplus
|
5
|
+
extern "C" {
|
6
|
+
#endif
|
7
|
+
|
8
|
+
extern struct SN_env * hungarian_ISO_8859_1_create_env(void);
|
9
|
+
extern void hungarian_ISO_8859_1_close_env(struct SN_env * z);
|
10
|
+
|
11
|
+
extern int hungarian_ISO_8859_1_stem(struct SN_env * z);
|
12
|
+
|
13
|
+
#ifdef __cplusplus
|
14
|
+
}
|
15
|
+
#endif
|
16
|
+
|
@@ -0,0 +1,16 @@
|
|
1
|
+
|
2
|
+
/* This file was generated automatically by the Snowball to ANSI C compiler */
|
3
|
+
|
4
|
+
#ifdef __cplusplus
|
5
|
+
extern "C" {
|
6
|
+
#endif
|
7
|
+
|
8
|
+
extern struct SN_env * romanian_ISO_8859_2_create_env(void);
|
9
|
+
extern void romanian_ISO_8859_2_close_env(struct SN_env * z);
|
10
|
+
|
11
|
+
extern int romanian_ISO_8859_2_stem(struct SN_env * z);
|
12
|
+
|
13
|
+
#ifdef __cplusplus
|
14
|
+
}
|
15
|
+
#endif
|
16
|
+
|
@@ -0,0 +1,16 @@
|
|
1
|
+
|
2
|
+
/* This file was generated automatically by the Snowball to ANSI C compiler */
|
3
|
+
|
4
|
+
#ifdef __cplusplus
|
5
|
+
extern "C" {
|
6
|
+
#endif
|
7
|
+
|
8
|
+
extern struct SN_env * hungarian_UTF_8_create_env(void);
|
9
|
+
extern void hungarian_UTF_8_close_env(struct SN_env * z);
|
10
|
+
|
11
|
+
extern int hungarian_UTF_8_stem(struct SN_env * z);
|
12
|
+
|
13
|
+
#ifdef __cplusplus
|
14
|
+
}
|
15
|
+
#endif
|
16
|
+
|
@@ -0,0 +1,16 @@
|
|
1
|
+
|
2
|
+
/* This file was generated automatically by the Snowball to ANSI C compiler */
|
3
|
+
|
4
|
+
#ifdef __cplusplus
|
5
|
+
extern "C" {
|
6
|
+
#endif
|
7
|
+
|
8
|
+
extern struct SN_env * romanian_UTF_8_create_env(void);
|
9
|
+
extern void romanian_UTF_8_close_env(struct SN_env * z);
|
10
|
+
|
11
|
+
extern int romanian_UTF_8_stem(struct SN_env * z);
|
12
|
+
|
13
|
+
#ifdef __cplusplus
|
14
|
+
}
|
15
|
+
#endif
|
16
|
+
|
@@ -0,0 +1,16 @@
|
|
1
|
+
|
2
|
+
/* This file was generated automatically by the Snowball to ANSI C compiler */
|
3
|
+
|
4
|
+
#ifdef __cplusplus
|
5
|
+
extern "C" {
|
6
|
+
#endif
|
7
|
+
|
8
|
+
extern struct SN_env * turkish_UTF_8_create_env(void);
|
9
|
+
extern void turkish_UTF_8_close_env(struct SN_env * z);
|
10
|
+
|
11
|
+
extern int turkish_UTF_8_stem(struct SN_env * z);
|
12
|
+
|
13
|
+
#ifdef __cplusplus
|
14
|
+
}
|
15
|
+
#endif
|
16
|
+
|
data/ext/stopwords.c
CHANGED
@@ -1,4 +1,5 @@
|
|
1
1
|
#include <stdlib.h>
|
2
|
+
#include "internal.h"
|
2
3
|
|
3
4
|
/*
|
4
5
|
* This list of stop words is taken from
|
@@ -10,9 +11,9 @@
|
|
10
11
|
|
11
12
|
const char *ENGLISH_STOP_WORDS[] = {
|
12
13
|
"a", "an", "and", "are", "as", "at", "be", "but", "by", "for", "if", "in",
|
13
|
-
"into", "is", "it", "no", "not", "of", "on", "or", "such", "that",
|
14
|
-
"
|
15
|
-
|
14
|
+
"into", "is", "it", "no", "not", "of", "on", "or", "such", "that", "the",
|
15
|
+
"their", "then", "there", "these", "they", "this", "to", "was", "with",
|
16
|
+
NULL
|
16
17
|
};
|
17
18
|
|
18
19
|
const char *FULL_ENGLISH_STOP_WORDS[] = {
|
@@ -21,28 +22,23 @@ const char *FULL_ENGLISH_STOP_WORDS[] = {
|
|
21
22
|
"before", "being", "below", "between", "both", "but", "by", "cannot",
|
22
23
|
"can't", "could", "couldn't", "did", "didn't", "do", "does", "doesn't",
|
23
24
|
"doing", "don't", "down", "during", "each", "few", "for", "from",
|
24
|
-
|
25
|
-
"
|
26
|
-
|
27
|
-
"
|
28
|
-
"
|
29
|
-
"
|
30
|
-
|
31
|
-
"
|
32
|
-
|
33
|
-
"
|
34
|
-
"
|
35
|
-
"
|
36
|
-
"
|
37
|
-
|
38
|
-
"
|
39
|
-
|
40
|
-
|
41
|
-
"we", "we'd", "we'll", "were", "we're", "weren't", "we've", "what",
|
42
|
-
"what's", "when", "when's", "where", "where's", "which", "while", "who",
|
43
|
-
"whom", "who's", "why", "why's", "with", "won't", "would", "wouldn't",
|
44
|
-
"you", "you'd", "you'll", "your", "you're", "yours", "yourself",
|
45
|
-
"yourselves", "you've", NULL
|
25
|
+
"further", "had", "hadn't", "has", "hasn't", "have", "haven't", "having",
|
26
|
+
"he", "he'd", "he'll", "her", "here", "here's", "hers", "herself", "he's",
|
27
|
+
"him", "himself", "his", "how", "how's", "i", "i'd", "if", "i'll", "i'm",
|
28
|
+
"in", "into", "is", "isn't", "it", "its", "it's", "itself", "i've",
|
29
|
+
"let's", "me", "more", "most", "mustn't", "my", "myself", "no", "nor",
|
30
|
+
"not", "of", "off", "on", "once", "only", "or", "other", "ought", "our",
|
31
|
+
"ours", "ourselves", "out", "over", "own", "same", "shan't", "she",
|
32
|
+
"she'd", "she'll", "she's", "should", "shouldn't", "so", "some", "such",
|
33
|
+
"than", "that", "that's", "the", "their", "theirs", "them", "themselves",
|
34
|
+
"then", "there", "there's", "these", "they", "they'd", "they'll",
|
35
|
+
"they're", "they've", "this", "those", "through", "to", "too", "under",
|
36
|
+
"until", "up", "very", "was", "wasn't", "we", "we'd", "we'll", "were",
|
37
|
+
"we're", "weren't", "we've", "what", "what's", "when", "when's", "where",
|
38
|
+
"where's", "which", "while", "who", "whom", "who's", "why", "why's",
|
39
|
+
"with", "won't", "would", "wouldn't", "you", "you'd", "you'll", "your",
|
40
|
+
"you're", "yours", "yourself", "yourselves", "you've",
|
41
|
+
NULL
|
46
42
|
};
|
47
43
|
|
48
44
|
const char *EXTENDED_ENGLISH_STOP_WORDS[] = {
|
@@ -51,36 +47,30 @@ const char *EXTENDED_ENGLISH_STOP_WORDS[] = {
|
|
51
47
|
"before", "being", "below", "between", "both", "but", "by", "cannot",
|
52
48
|
"can't", "could", "couldn't", "did", "didn't", "do", "does", "doesn't",
|
53
49
|
"doing", "don't", "down", "during", "each", "few", "for", "from",
|
54
|
-
|
55
|
-
"
|
56
|
-
|
57
|
-
"
|
58
|
-
"
|
59
|
-
"
|
60
|
-
|
61
|
-
"
|
62
|
-
|
63
|
-
"
|
64
|
-
"
|
65
|
-
"
|
66
|
-
"
|
67
|
-
|
68
|
-
"
|
69
|
-
|
70
|
-
"through", "to", "too", "under", "until", "up", "very", "was", "wasn't",
|
71
|
-
"we", "we'd", "we'll", "were", "we're", "weren't", "we've", "what",
|
72
|
-
"what's", "when", "when's", "where", "where's", "which", "while", "who",
|
73
|
-
"whom", "who's", "why", "why's", "with", "won't", "would", "wouldn't",
|
74
|
-
"you", "you'd", "you'll", "your", "you're", "yours", "yourself",
|
75
|
-
"yourselves", "you've",
|
50
|
+
"further", "had", "hadn't", "has", "hasn't", "have", "haven't", "having",
|
51
|
+
"he", "he'd", "he'll", "her", "here", "here's", "hers", "herself", "he's",
|
52
|
+
"him", "himself", "his", "how", "how's", "i", "i'd", "if", "i'll", "i'm",
|
53
|
+
"in", "into", "is", "isn't", "it", "its", "it's", "itself", "i've",
|
54
|
+
"let's", "me", "more", "most", "mustn't", "my", "myself", "no", "nor",
|
55
|
+
"not", "of", "off", "on", "once", "only", "or", "other", "ought", "our",
|
56
|
+
"ours", "ourselves", "out", "over", "own", "same", "shan't", "she",
|
57
|
+
"she'd", "she'll", "she's", "should", "shouldn't", "so", "some", "such",
|
58
|
+
"than", "that", "that's", "the", "their", "theirs", "them", "themselves",
|
59
|
+
"then", "there", "there's", "these", "they", "they'd", "they'll",
|
60
|
+
"they're", "they've", "this", "those", "through", "to", "too", "under",
|
61
|
+
"until", "up", "very", "was", "wasn't", "we", "we'd", "we'll", "were",
|
62
|
+
"we're", "weren't", "we've", "what", "what's", "when", "when's", "where",
|
63
|
+
"where's", "which", "while", "who", "whom", "who's", "why", "why's",
|
64
|
+
"with", "won't", "would", "wouldn't", "you", "you'd", "you'll", "your",
|
65
|
+
"you're", "yours", "yourself", "yourselves", "you've",
|
76
66
|
|
77
67
|
/* Most common words in the English Language */
|
78
68
|
"one", "every", "least", "less", "many", "now", "ever", "never", "say",
|
79
69
|
"says", "said", "also", "get", "go", "goes", "just", "made", "make",
|
80
|
-
|
81
|
-
"
|
82
|
-
"
|
83
|
-
|
70
|
+
"put", "see", "seen", "whether", "like", "well", "back", "even", "still",
|
71
|
+
"way", "take", "since", "another", "however", "two", "three", "four",
|
72
|
+
"five", "first", "second", "new", "old", "high", "long",
|
73
|
+
NULL
|
84
74
|
};
|
85
75
|
|
86
76
|
const char *FULL_FRENCH_STOP_WORDS[] = {
|
@@ -89,285 +79,242 @@ const char *FULL_FRENCH_STOP_WORDS[] = {
|
|
89
79
|
"même", "mes", "moi", "mon", "ne", "nos", "notre", "nous", "on", "ou",
|
90
80
|
"par", "pas", "pour", "qu", "que", "qui", "sa", "se", "ses", "son", "sur",
|
91
81
|
"ta", "te", "tes", "toi", "ton", "tu", "un", "une", "vos", "votre",
|
92
|
-
|
93
|
-
"
|
94
|
-
|
95
|
-
"
|
96
|
-
"
|
97
|
-
"
|
98
|
-
"
|
99
|
-
|
100
|
-
"
|
101
|
-
"
|
102
|
-
"
|
103
|
-
"
|
104
|
-
"
|
105
|
-
"avaient", "eut", "eûmes", "eûtes", "eurent", "aie", "aies", "ait",
|
106
|
-
"ayons",
|
107
|
-
"ayez", "aient", "eusse", "eusses", "eût", "eussions", "eussiez",
|
108
|
-
"eussent",
|
82
|
+
"vous", "c", "d", "j", "l", "à", "m", "n", "s", "t", "y", "été", "étée",
|
83
|
+
"étées", "étés", "étant", "étante", "étants", "étantes", "suis", "es",
|
84
|
+
"est", "sommes", "êtes", "sont", "serai", "seras", "sera", "serons",
|
85
|
+
"serez", "seront", "serais", "serait", "serions", "seriez", "seraient",
|
86
|
+
"étais", "était", "étions", "étiez", "étaient", "fus", "fut", "fûmes",
|
87
|
+
"fûtes", "furent", "sois", "soit", "soyons", "soyez", "soient", "fusse",
|
88
|
+
"fusses", "fût", "fussions", "fussiez", "fussent", "ayant", "ayante",
|
89
|
+
"ayantes", "ayants", "eu", "eue", "eues", "eus", "ai", "as", "avons",
|
90
|
+
"avez", "ont", "aurai", "auras", "aura", "aurons", "aurez", "auront",
|
91
|
+
"aurais", "aurait", "aurions", "auriez", "auraient", "avais", "avait",
|
92
|
+
"avions", "aviez", "avaient", "eut", "eûmes", "eûtes", "eurent", "aie",
|
93
|
+
"aies", "ait", "ayons", "ayez", "aient", "eusse", "eusses", "eût",
|
94
|
+
"eussions", "eussiez", "eussent",
|
109
95
|
NULL
|
110
96
|
};
|
111
97
|
|
112
98
|
const char *FULL_SPANISH_STOP_WORDS[] = {
|
113
99
|
"de", "la", "que", "el", "en", "y", "a", "los", "del", "se", "las", "por",
|
114
|
-
"un", "para", "con", "no", "una", "su", "al", "lo", "como", "más",
|
115
|
-
|
116
|
-
"sus", "le", "ya", "o", "este", "sí", "porque", "esta", "entre",
|
117
|
-
"cuando",
|
100
|
+
"un", "para", "con", "no", "una", "su", "al", "lo", "como", "más", "pero",
|
101
|
+
"sus", "le", "ya", "o", "este", "sí", "porque", "esta", "entre", "cuando",
|
118
102
|
"muy", "sin", "sobre", "también", "me", "hasta", "hay", "donde", "quien",
|
119
103
|
"desde", "todo", "nos", "durante", "todos", "uno", "les", "ni", "contra",
|
120
104
|
"otros", "ese", "eso", "ante", "ellos", "e", "esto", "mí", "antes",
|
121
105
|
"algunos", "qué", "unos", "yo", "otro", "otras", "otra", "él", "tanto",
|
122
106
|
"esa", "estos", "mucho", "quienes", "nada", "muchos", "cual", "poco",
|
123
107
|
"ella", "estar", "estas", "algunas", "algo", "nosotros", "mi", "mis",
|
124
|
-
|
125
|
-
"
|
126
|
-
"
|
127
|
-
"
|
128
|
-
"
|
129
|
-
"
|
130
|
-
|
131
|
-
"
|
132
|
-
|
133
|
-
"
|
134
|
-
|
135
|
-
"
|
136
|
-
"
|
137
|
-
"
|
138
|
-
"
|
139
|
-
"
|
140
|
-
"
|
141
|
-
"
|
142
|
-
"
|
143
|
-
|
144
|
-
"
|
145
|
-
"
|
146
|
-
|
147
|
-
"
|
148
|
-
"
|
149
|
-
"
|
150
|
-
|
151
|
-
"
|
152
|
-
"
|
153
|
-
|
154
|
-
"
|
155
|
-
"
|
156
|
-
|
157
|
-
"
|
158
|
-
|
159
|
-
"tienen", "tenga", "tengas", "tengamos", "tengáis", "tengan", "tendré",
|
160
|
-
"tendrás", "tendrá", "tendremos", "tendréis", "tendrán", "tendría",
|
161
|
-
"tendrías", "tendríamos", "tendríais", "tendrían", "tenía",
|
162
|
-
"tenías",
|
163
|
-
"teníamos", "teníais", "tenían", "tuve", "tuviste", "tuvo", "tuvimos",
|
164
|
-
"tuvisteis", "tuvieron", "tuviera", "tuvieras", "tuviéramos",
|
165
|
-
"tuvierais",
|
166
|
-
"tuvieran", "tuviese", "tuvieses", "tuviésemos", "tuvieseis", "tuviesen",
|
167
|
-
"teniendo", "tenido", "tenida", "tenidos", "tenidas", "tened", NULL
|
108
|
+
"tú", "te", "ti", "tu", "tus", "ellas", "nosotras", "vosostros",
|
109
|
+
"vosostras", "os", "mío", "mía", "míos", "mías", "tuyo", "tuya", "tuyos",
|
110
|
+
"tuyas", "suyo", "suya", "suyos", "suyas", "nuestro", "nuestra",
|
111
|
+
"nuestros", "nuestras", "vuestro", "vuestra", "vuestros", "vuestras",
|
112
|
+
"esos", "esas", "estoy", "estás", "está", "estamos", "estáis", "están",
|
113
|
+
"esté", "estés", "estemos", "estéis", "estén", "estaré", "estarás",
|
114
|
+
"estará", "estaremos", "estaréis", "estarán", "estaría", "estarías",
|
115
|
+
"estaríamos", "estaríais", "estarían", "estaba", "estabas", "estábamos",
|
116
|
+
"estabais", "estaban", "estuve", "estuviste", "estuvo", "estuvimos",
|
117
|
+
"estuvisteis", "estuvieron", "estuviera", "estuvieras", "estuviéramos",
|
118
|
+
"estuvierais", "estuvieran", "estuviese", "estuvieses", "estuviésemos",
|
119
|
+
"estuvieseis", "estuviesen", "estando", "estado", "estada", "estados",
|
120
|
+
"estadas", "estad", "he", "has", "ha", "hemos", "habéis", "han", "haya",
|
121
|
+
"hayas", "hayamos", "hayáis", "hayan", "habré", "habrás", "habrá",
|
122
|
+
"habremos", "habréis", "habrán", "habría", "habrías", "habríamos",
|
123
|
+
"habríais", "habrían", "había", "habías", "habíamos", "habíais", "habían",
|
124
|
+
"hube", "hubiste", "hubo", "hubimos", "hubisteis", "hubieron", "hubiera",
|
125
|
+
"hubieras", "hubiéramos", "hubierais", "hubieran", "hubiese", "hubieses",
|
126
|
+
"hubiésemos", "hubieseis", "hubiesen", "habiendo", "habido", "habida",
|
127
|
+
"habidos", "habidas", "soy", "eres", "es", "somos", "sois", "son", "sea",
|
128
|
+
"seas", "seamos", "seáis", "sean", "seré", "serás", "será", "seremos",
|
129
|
+
"seréis", "serán", "sería", "serías", "seríamos", "seríais", "serían",
|
130
|
+
"era", "eras", "éramos", "erais", "eran", "fui", "fuiste", "fue",
|
131
|
+
"fuimos", "fuisteis", "fueron", "fuera", "fueras", "fuéramos", "fuerais",
|
132
|
+
"fueran", "fuese", "fueses", "fuésemos", "fueseis", "fuesen", "sintiendo",
|
133
|
+
"sentido", "sentida", "sentidos", "sentidas", "siente", "sentid", "tengo",
|
134
|
+
"tienes", "tiene", "tenemos", "tenéis", "tienen", "tenga", "tengas",
|
135
|
+
"tengamos", "tengáis", "tengan", "tendré", "tendrás", "tendrá",
|
136
|
+
"tendremos", "tendréis", "tendrán", "tendría", "tendrías", "tendríamos",
|
137
|
+
"tendríais", "tendrían", "tenía", "tenías", "teníamos", "teníais",
|
138
|
+
"tenían", "tuve", "tuviste", "tuvo", "tuvimos", "tuvisteis", "tuvieron",
|
139
|
+
"tuviera", "tuvieras", "tuviéramos", "tuvierais", "tuvieran", "tuviese",
|
140
|
+
"tuvieses", "tuviésemos", "tuvieseis", "tuviesen", "teniendo", "tenido",
|
141
|
+
"tenida", "tenidos", "tenidas", "tened",
|
142
|
+
NULL
|
168
143
|
};
|
169
144
|
|
170
145
|
const char *FULL_PORTUGUESE_STOP_WORDS[] = {
|
171
146
|
"de", "a", "o", "que", "e", "do", "da", "em", "um", "para", "com", "não",
|
172
147
|
"uma", "os", "no", "se", "na", "por", "mais", "as", "dos", "como", "mas",
|
173
148
|
"ao", "ele", "das", "à", "seu", "sua", "ou", "quando", "muito", "nos",
|
174
|
-
|
175
|
-
"eu", "também", "só", "pelo", "pela", "até", "isso", "ela", "entre",
|
149
|
+
"já", "eu", "também", "só", "pelo", "pela", "até", "isso", "ela", "entre",
|
176
150
|
"depois", "sem", "mesmo", "aos", "seus", "quem", "nas", "me", "esse",
|
177
151
|
"eles", "você", "essa", "num", "nem", "suas", "meu", "às", "minha",
|
178
|
-
|
179
|
-
"
|
180
|
-
|
181
|
-
"
|
182
|
-
|
183
|
-
"
|
184
|
-
"
|
185
|
-
|
186
|
-
"
|
187
|
-
|
188
|
-
"
|
189
|
-
"
|
190
|
-
"
|
191
|
-
|
192
|
-
"
|
193
|
-
"
|
194
|
-
"
|
195
|
-
"
|
196
|
-
"
|
197
|
-
"
|
198
|
-
"
|
199
|
-
|
200
|
-
"tínhamos", "tinham", "tive", "teve", "tivemos", "tiveram", "tivera",
|
201
|
-
"tivéramos", "tenha", "tenhamos", "tenham", "tivesse", "tivéssemos",
|
202
|
-
"tivessem", "tiver", "tivermos", "tiverem", "terei", "terá", "teremos",
|
203
|
-
"terão", "teria", "teríamos", "teriam", NULL
|
152
|
+
"numa", "pelos", "elas", "qual", "nós", "lhe", "deles", "essas", "esses",
|
153
|
+
"pelas", "este", "dele", "tu", "te", "vocês", "vos", "lhes", "meus",
|
154
|
+
"minhas", "teu", "tua", "teus", "tuas", "nosso", "nossa", "nossos",
|
155
|
+
"nossas", "dela", "delas", "esta", "estes", "estas", "aquele", "aquela",
|
156
|
+
"aqueles", "aquelas", "isto", "aquilo", "estou", "está", "estamos",
|
157
|
+
"estão", "estive", "esteve", "estivemos", "estiveram", "estava",
|
158
|
+
"estávamos", "estavam", "estivera", "estivéramos", "esteja", "estejamos",
|
159
|
+
"estejam", "estivesse", "estivéssemos", "estivessem", "estiver",
|
160
|
+
"estivermos", "estiverem", "hei", "há", "havemos", "hão", "houve",
|
161
|
+
"houvemos", "houveram", "houvera", "houvéramos", "haja", "hajamos",
|
162
|
+
"hajam", "houvesse", "houvéssemos", "houvessem", "houver", "houvermos",
|
163
|
+
"houverem", "houverei", "houverá", "houveremos", "houverão", "houveria",
|
164
|
+
"houveríamos", "houveriam", "sou", "somos", "são", "era", "éramos",
|
165
|
+
"eram", "fui", "foi", "fomos", "foram", "fora", "fôramos", "seja",
|
166
|
+
"sejamos", "sejam", "fosse", "fôssemos", "fossem", "for", "formos",
|
167
|
+
"forem", "serei", "será", "seremos", "serão", "seria", "seríamos",
|
168
|
+
"seriam", "tenho", "tem", "temos", "tém", "tinha", "tínhamos", "tinham",
|
169
|
+
"tive", "teve", "tivemos", "tiveram", "tivera", "tivéramos", "tenha",
|
170
|
+
"tenhamos", "tenham", "tivesse", "tivéssemos", "tivessem", "tiver",
|
171
|
+
"tivermos", "tiverem", "terei", "terá", "teremos", "terão", "teria",
|
172
|
+
"teríamos", "teriam",
|
173
|
+
NULL
|
204
174
|
};
|
205
175
|
|
206
176
|
const char *FULL_ITALIAN_STOP_WORDS[] = {
|
207
177
|
"ad", "al", "allo", "ai", "agli", "all", "agl", "alla", "alle", "con",
|
208
178
|
"col", "coi", "da", "dal", "dallo", "dai", "dagli", "dall", "dagl",
|
209
|
-
|
210
|
-
"
|
211
|
-
"
|
212
|
-
"
|
213
|
-
"
|
214
|
-
"
|
215
|
-
"
|
216
|
-
"
|
217
|
-
"
|
218
|
-
"
|
219
|
-
|
220
|
-
"
|
221
|
-
"
|
222
|
-
"
|
223
|
-
"
|
224
|
-
|
225
|
-
"
|
226
|
-
"
|
227
|
-
"
|
228
|
-
|
229
|
-
"
|
230
|
-
"
|
231
|
-
"
|
232
|
-
"
|
233
|
-
"
|
234
|
-
"
|
235
|
-
"
|
236
|
-
"
|
237
|
-
"
|
238
|
-
|
239
|
-
"
|
240
|
-
"
|
241
|
-
"
|
242
|
-
"
|
243
|
-
|
244
|
-
"stavo", "stavi", "stava", "stavamo", "stavate", "stavano", "stetti",
|
245
|
-
"stesti", "stette", "stemmo", "steste", "stettero", "stessi", "stesse",
|
246
|
-
"stessimo", "stessero", "stando", NULL
|
179
|
+
"dalla", "dalle", "di", "del", "dello", "dei", "degli", "dell", "degl",
|
180
|
+
"della", "delle", "in", "nel", "nello", "nei", "negli", "nell", "negl",
|
181
|
+
"nella", "nelle", "su", "sul", "sullo", "sui", "sugli", "sull", "sugl",
|
182
|
+
"sulla", "sulle", "per", "tra", "contro", "io", "tu", "lui", "lei", "noi",
|
183
|
+
"voi", "loro", "mio", "mia", "miei", "mie", "tuo", "tua", "tuoi", "tue",
|
184
|
+
"suo", "sua", "suoi", "sue", "nostro", "nostra", "nostri", "nostre",
|
185
|
+
"vostro", "vostra", "vostri", "vostre", "mi", "ti", "ci", "vi", "lo",
|
186
|
+
"la", "li", "le", "gli", "ne", "il", "un", "uno", "una", "ma", "ed", "se",
|
187
|
+
"perché", "anche", "come", "dov", "dove", "che", "chi", "cui", "non",
|
188
|
+
"più", "quale", "quanto", "quanti", "quanta", "quante", "quello",
|
189
|
+
"quelli", "quella", "quelle", "questo", "questi", "questa", "queste",
|
190
|
+
"si", "tutto", "tutti", "a", "c", "e", "i", "l", "o", "ho", "hai", "ha",
|
191
|
+
"abbiamo", "avete", "hanno", "abbia", "abbiate", "abbiano", "avrò",
|
192
|
+
"avrai", "avrà", "avremo", "avrete", "avranno", "avrei", "avresti",
|
193
|
+
"avrebbe", "avremmo", "avreste", "avrebbero", "avevo", "avevi", "aveva",
|
194
|
+
"avevamo", "avevate", "avevano", "ebbi", "avesti", "ebbe", "avemmo",
|
195
|
+
"aveste", "ebbero", "avessi", "avesse", "avessimo", "avessero", "avendo",
|
196
|
+
"avuto", "avuta", "avuti", "avute", "sono", "sei", "è", "siamo", "siete",
|
197
|
+
"sia", "siate", "siano", "sarò", "sarai", "sarà", "saremo", "sarete",
|
198
|
+
"saranno", "sarei", "saresti", "sarebbe", "saremmo", "sareste",
|
199
|
+
"sarebbero", "ero", "eri", "era", "eravamo", "eravate", "erano", "fui",
|
200
|
+
"fosti", "fu", "fummo", "foste", "furono", "fossi", "fosse", "fossimo",
|
201
|
+
"fossero", "essendo", "faccio", "fai", "facciamo", "fanno", "faccia",
|
202
|
+
"facciate", "facciano", "farò", "farai", "farà", "faremo", "farete",
|
203
|
+
"faranno", "farei", "faresti", "farebbe", "faremmo", "fareste",
|
204
|
+
"farebbero", "facevo", "facevi", "faceva", "facevamo", "facevate",
|
205
|
+
"facevano", "feci", "facesti", "fece", "facemmo", "faceste", "fecero",
|
206
|
+
"facessi", "facesse", "facessimo", "facessero", "facendo", "sto", "stai",
|
207
|
+
"sta", "stiamo", "stanno", "stia", "stiate", "stiano", "starò", "starai",
|
208
|
+
"starà", "staremo", "starete", "staranno", "starei", "staresti",
|
209
|
+
"starebbe", "staremmo", "stareste", "starebbero", "stavo", "stavi",
|
210
|
+
"stava", "stavamo", "stavate", "stavano", "stetti", "stesti", "stette",
|
211
|
+
"stemmo", "steste", "stettero", "stessi", "stesse", "stessimo",
|
212
|
+
"stessero", "stando",
|
213
|
+
NULL
|
247
214
|
};
|
248
215
|
|
249
216
|
const char *FULL_GERMAN_STOP_WORDS[] = {
|
250
217
|
"aber", "alle", "allem", "allen", "aller", "alles", "als", "also", "am",
|
251
218
|
"an", "ander", "andere", "anderem", "anderen", "anderer", "anderes",
|
252
219
|
"anderm", "andern", "anderr", "anders", "auch", "auf", "aus", "bei",
|
253
|
-
|
254
|
-
"
|
255
|
-
"das", "daß", "derselbe", "derselben", "denselben", "desselben",
|
220
|
+
"bin", "bis", "bist", "da", "damit", "dann", "der", "den", "des", "dem",
|
221
|
+
"die", "das", "daß", "derselbe", "derselben", "denselben", "desselben",
|
256
222
|
"demselben", "dieselbe", "dieselben", "dasselbe", "dazu", "dein", "deine",
|
257
223
|
"deinem", "deinen", "deiner", "deines", "denn", "derer", "dessen", "dich",
|
258
224
|
"dir", "du", "dies", "diese", "diesem", "diesen", "dieser", "dieses",
|
259
225
|
"doch", "dort", "durch", "ein", "eine", "einem", "einen", "einer",
|
260
|
-
|
261
|
-
"
|
262
|
-
"
|
263
|
-
"
|
264
|
-
|
265
|
-
"
|
266
|
-
"
|
267
|
-
"
|
268
|
-
"
|
269
|
-
"
|
270
|
-
|
271
|
-
"
|
272
|
-
"
|
273
|
-
"
|
274
|
-
"
|
275
|
-
"
|
276
|
-
|
277
|
-
"
|
278
|
-
"
|
279
|
-
"
|
280
|
-
|
281
|
-
"werden", "wie", "wieder", "will", "wir", "wird", "wirst", "wo", "wollen",
|
282
|
-
"wollte", "würde", "würden", "zu", "zum", "zur", "zwar", "zwischen",
|
283
|
-
NULL
|
226
|
+
"eines", "einig", "einige", "einigem", "einigen", "einiger", "einiges",
|
227
|
+
"einmal", "er", "ihn", "ihm", "es", "etwas", "euer", "eure", "eurem",
|
228
|
+
"euren", "eurer", "eures", "für", "gegen", "gewesen", "hab", "habe",
|
229
|
+
"haben", "hat", "hatte", "hatten", "hier", "hin", "hinter", "ich", "mich",
|
230
|
+
"mir", "ihr", "ihre", "ihrem", "ihren", "ihrer", "ihres", "euch", "im",
|
231
|
+
"in", "indem", "ins", "ist", "jede", "jedem", "jeden", "jeder", "jedes",
|
232
|
+
"jene", "jenem", "jenen", "jener", "jenes", "jetzt", "kann", "kein",
|
233
|
+
"keine", "keinem", "keinen", "keiner", "keines", "können", "könnte",
|
234
|
+
"machen", "man", "manche", "manchem", "manchen", "mancher", "manches",
|
235
|
+
"mein", "meine", "meinem", "meinen", "meiner", "meines", "mit", "muss",
|
236
|
+
"musste", "nach", "nicht", "nichts", "noch", "nun", "nur", "ob", "oder",
|
237
|
+
"ohne", "sehr", "sein", "seine", "seinem", "seinen", "seiner", "seines",
|
238
|
+
"selbst", "sich", "sie", "ihnen", "sind", "so", "solche", "solchem",
|
239
|
+
"solchen", "solcher", "solches", "soll", "sollte", "sondern", "sonst",
|
240
|
+
"über", "um", "und", "uns", "unse", "unsem", "unsen", "unser", "unses",
|
241
|
+
"unter", "viel", "vom", "von", "vor", "während", "war", "waren", "warst",
|
242
|
+
"was", "weg", "weil", "weiter", "welche", "welchem", "welchen", "welcher",
|
243
|
+
"welches", "wenn", "werde", "werden", "wie", "wieder", "will", "wir",
|
244
|
+
"wird", "wirst", "wo", "wollen", "wollte", "würde", "würden", "zu", "zum",
|
245
|
+
"zur", "zwar", "zwischen",
|
246
|
+
NULL
|
284
247
|
};
|
285
248
|
|
286
249
|
const char *FULL_DUTCH_STOP_WORDS[] = {
|
287
250
|
"de", "en", "van", "ik", "te", "dat", "die", "in", "een", "hij", "het",
|
288
251
|
"niet", "zijn", "is", "was", "op", "aan", "met", "als", "voor", "had",
|
289
|
-
|
290
|
-
"
|
291
|
-
|
292
|
-
"
|
293
|
-
"
|
294
|
-
|
295
|
-
"
|
296
|
-
"
|
297
|
-
"
|
298
|
-
|
299
|
-
"ons",
|
300
|
-
"zelf", "tegen", "na", "reeds", "wil", "kon", "niets", "uw", "iemand",
|
301
|
-
"geweest", "andere", NULL
|
252
|
+
"er", "maar", "om", "hem", "dan", "zou", "of", "wat", "mijn", "men",
|
253
|
+
"dit", "zo", "door", "over", "ze", "zich", "bij", "ook", "tot", "je",
|
254
|
+
"mij", "uit", "der", "daar", "haar", "naar", "heb", "hoe", "heeft",
|
255
|
+
"hebben", "deze", "u", "want", "nog", "zal", "me", "zij", "nu", "ge",
|
256
|
+
"geen", "omdat", "iets", "worden", "toch", "al", "waren", "veel", "meer",
|
257
|
+
"doen", "toen", "moet", "ben", "zonder", "kan", "hun", "dus", "alles",
|
258
|
+
"onder", "ja", "eens", "hier", "wie", "werd", "altijd", "doch", "wordt",
|
259
|
+
"wezen", "kunnen", "ons", "zelf", "tegen", "na", "reeds", "wil", "kon",
|
260
|
+
"niets", "uw", "iemand", "geweest", "andere",
|
261
|
+
NULL
|
302
262
|
};
|
303
263
|
|
304
264
|
const char *FULL_SWEDISH_STOP_WORDS[] = {
|
305
265
|
"och", "det", "att", "i", "en", "jag", "hon", "som", "han", "på", "den",
|
306
266
|
"med", "var", "sig", "för", "så", "till", "är", "men", "ett", "om",
|
307
|
-
|
308
|
-
"
|
309
|
-
|
310
|
-
"
|
311
|
-
"
|
312
|
-
|
313
|
-
"
|
314
|
-
"
|
315
|
-
"
|
316
|
-
"
|
317
|
-
"
|
318
|
-
"mellan",
|
319
|
-
"sådant", "varför", "varje", "vilka", "ditt", "vem", "vilket", "sitta",
|
320
|
-
"sådana", "vart", "dina", "vars", "vårt", "våra", "ert", "era",
|
321
|
-
"vilkas",
|
267
|
+
"hade", "de", "av", "icke", "mig", "du", "henne", "då", "sin", "nu",
|
268
|
+
"har", "inte", "hans", "honom", "skulle", "hennes", "där", "min", "man",
|
269
|
+
"ej", "vid", "kunde", "något", "från", "ut", "när", "efter", "upp", "vi",
|
270
|
+
"dem", "vara", "vad", "över", "än", "dig", "kan", "sina", "här", "ha",
|
271
|
+
"mot", "alla", "under", "någon", "eller", "allt", "mycket", "sedan", "ju",
|
272
|
+
"denna", "själv", "detta", "åt", "utan", "varit", "hur", "ingen", "mitt",
|
273
|
+
"ni", "bli", "blev", "oss", "din", "dessa", "några", "deras", "blir",
|
274
|
+
"mina", "samma", "vilken", "er", "sådan", "vår", "blivit", "dess", "inom",
|
275
|
+
"mellan", "sådant", "varför", "varje", "vilka", "ditt", "vem", "vilket",
|
276
|
+
"sitta", "sådana", "vart", "dina", "vars", "vårt", "våra", "ert", "era",
|
277
|
+
"vilkas",
|
322
278
|
NULL
|
323
279
|
};
|
324
280
|
|
325
281
|
|
326
282
|
const char *FULL_NORWEGIAN_STOP_WORDS[] = {
|
327
283
|
"og", "i", "jeg", "det", "at", "en", "et", "den", "til", "er", "som",
|
328
|
-
|
329
|
-
"
|
330
|
-
|
331
|
-
"
|
332
|
-
|
333
|
-
"
|
334
|
-
"
|
335
|
-
"
|
336
|
-
|
337
|
-
"
|
338
|
-
|
339
|
-
"
|
340
|
-
"
|
341
|
-
"
|
342
|
-
"
|
343
|
-
"
|
344
|
-
|
345
|
-
"
|
346
|
-
|
347
|
-
|
348
|
-
"hennes", "hoss", "hossen", "ikkje", "ingi", "inkje", "korleis", "korso",
|
349
|
-
"kva", "kvar", "kvarhelst", "kven", "kvi", "kvifor", "me", "medan", "mi",
|
350
|
-
"mine", "mykje", "no", "nokon", "noka", "nokor", "noko", "nokre", "si",
|
351
|
-
"sia", "sidan", "so", "somt", "somme", "um", "upp", "vere", "vore",
|
352
|
-
"verte",
|
353
|
-
"vort", "varte", "vart", NULL
|
284
|
+
"på", "de", "med", "han", "av", "ikke", "ikkje", "der", "så", "var",
|
285
|
+
"meg", "seg", "men", "ett", "har", "om", "vi", "min", "mitt", "ha",
|
286
|
+
"hadde", "hun", "nå", "over", "da", "ved", "fra", "du", "ut", "sin",
|
287
|
+
"dem", "oss", "opp", "man", "kan", "hans", "hvor", "eller", "hva", "skal",
|
288
|
+
"selv", "sjøl", "her", "alle", "vil", "bli", "ble", "blei", "blitt",
|
289
|
+
"kunne", "inn", "når", "være", "kom", "noen", "noe", "ville", "dere",
|
290
|
+
"som", "deres", "kun", "ja", "etter", "ned", "skulle", "denne", "for",
|
291
|
+
"deg", "si", "sine", "sitt", "mot", "å", "meget", "hvorfor", "dette",
|
292
|
+
"disse", "uten", "hvordan", "ingen", "din", "ditt", "blir", "samme",
|
293
|
+
"hvilken", "hvilke", "sånn", "inni", "mellom", "vår", "hver", "hvem",
|
294
|
+
"vors", "hvis", "både", "bare", "enn", "fordi", "før", "mange", "også",
|
295
|
+
"slik", "vært", "være", "båe", "begge", "siden", "dykk", "dykkar", "dei",
|
296
|
+
"deira", "deires", "deim", "di", "då", "eg", "ein", "eit", "eitt",
|
297
|
+
"elles", "honom", "hjå", "ho", "hoe", "henne", "hennar", "hennes", "hoss",
|
298
|
+
"hossen", "ikkje", "ingi", "inkje", "korleis", "korso", "kva", "kvar",
|
299
|
+
"kvarhelst", "kven", "kvi", "kvifor", "me", "medan", "mi", "mine",
|
300
|
+
"mykje", "no", "nokon", "noka", "nokor", "noko", "nokre", "si", "sia",
|
301
|
+
"sidan", "so", "somt", "somme", "um", "upp", "vere", "vore", "verte",
|
302
|
+
"vort", "varte", "vart",
|
303
|
+
NULL
|
354
304
|
};
|
355
305
|
|
356
306
|
const char *FULL_DANISH_STOP_WORDS[] = {
|
357
307
|
"og", "i", "jeg", "det", "at", "en", "den", "til", "er", "som", "på",
|
358
|
-
|
359
|
-
"
|
360
|
-
|
361
|
-
"
|
362
|
-
|
363
|
-
"
|
364
|
-
"
|
365
|
-
|
366
|
-
"
|
367
|
-
|
368
|
-
"hende", "mine", "alt", "meget", "sit", "sine", "vor", "mod", "disse",
|
369
|
-
"hvis", "din", "nogle", "hos", "blive", "mange", "ad", "bliver", "hendes",
|
370
|
-
"været", "thi", "jer", "sådan", NULL
|
308
|
+
"de", "med", "han", "af", "for", "ikke", "der", "var", "mig", "sig",
|
309
|
+
"men", "et", "har", "om", "vi", "min", "havde", "ham", "hun", "nu",
|
310
|
+
"over", "da", "fra", "du", "ud", "sin", "dem", "os", "op", "man", "hans",
|
311
|
+
"hvor", "eller", "hvad", "skal", "selv", "her", "alle", "vil", "blev",
|
312
|
+
"kunne", "ind", "når", "være", "dog", "noget", "ville", "jo", "deres",
|
313
|
+
"efter", "ned", "skulle", "denne", "end", "dette", "mit", "også", "under",
|
314
|
+
"have", "dig", "anden", "hende", "mine", "alt", "meget", "sit", "sine",
|
315
|
+
"vor", "mod", "disse", "hvis", "din", "nogle", "hos", "blive", "mange",
|
316
|
+
"ad", "bliver", "hendes", "været", "thi", "jer", "sådan",
|
317
|
+
NULL
|
371
318
|
};
|
372
319
|
|
373
320
|
const char *FULL_RUSSIAN_STOP_WORDS[] = {
|
@@ -380,7 +327,8 @@ const char *FULL_RUSSIAN_STOP_WORDS[] = {
|
|
380
327
|
"он", "она", "они", "оно", "от", "очень", "по", "под", "при", "с", "со",
|
381
328
|
"так", "также", "такой", "там", "те", "тем", "то", "того", "тоже", "той",
|
382
329
|
"только", "том", "ты", "у", "уже", "хотя", "чего", "чей", "чем", "что",
|
383
|
-
"чтобы", "чье", "чья", "эта", "эти", "это", "я",
|
330
|
+
"чтобы", "чье", "чья", "эта", "эти", "это", "я",
|
331
|
+
NULL
|
384
332
|
};
|
385
333
|
|
386
334
|
const char *FULL_RUSSIAN_STOP_WORDS_KOI8_R[] = {
|
@@ -393,9 +341,70 @@ const char *FULL_RUSSIAN_STOP_WORDS_KOI8_R[] = {
|
|
393
341
|
"ÏÎ", "ÏÎÁ", "ÏÎÉ", "ÏÎÏ", "ÏÔ", "ÏÞÅÎØ", "ÐÏ", "ÐÏÄ", "ÐÒÉ", "Ó", "ÓÏ",
|
394
342
|
"ÔÁË", "ÔÁËÖÅ", "ÔÁËÏÊ", "ÔÁÍ", "ÔÅ", "ÔÅÍ", "ÔÏ", "ÔÏÇÏ", "ÔÏÖÅ", "ÔÏÊ",
|
395
343
|
"ÔÏÌØËÏ", "ÔÏÍ", "ÔÙ", "Õ", "ÕÖÅ", "ÈÏÔÑ", "ÞÅÇÏ", "ÞÅÊ", "ÞÅÍ", "ÞÔÏ",
|
396
|
-
"ÞÔÏÂÙ", "ÞØÅ", "ÞØÑ", "ÜÔÁ", "ÜÔÉ", "ÜÔÏ", "Ñ",
|
344
|
+
"ÞÔÏÂÙ", "ÞØÅ", "ÞØÑ", "ÜÔÁ", "ÜÔÉ", "ÜÔÏ", "Ñ",
|
345
|
+
NULL
|
397
346
|
};
|
398
347
|
|
399
348
|
const char *FULL_FINNISH_STOP_WORDS[] = {
|
349
|
+
"olla", "olen", "olet", "on", "olemme", "olette", "ovat", "ole", "oli",
|
350
|
+
"olisi", "olisit", "olisin", "olisimme", "olisitte", "olisivat", "olit",
|
351
|
+
"olin", "olimme", "olitte", "olivat", "ollut", "olleet", "en", "et", "ei",
|
352
|
+
"emme", "ette", "eivät", "minä", "minun", "minut", "minua", "minussa",
|
353
|
+
"minusta", "minuun", "minulla", "minulta", "minulle", "sinä", "sinun",
|
354
|
+
"sinut", "sinua", "sinussa", "sinusta", "sinuun", "sinulla", "sinulta",
|
355
|
+
"sinulle", "hän", "hänen", "hänet", "häntä", "hänessä", "hänestä",
|
356
|
+
"häneen", "hänellä", "häneltä", "hänelle", "me", "meidän", "meidät",
|
357
|
+
"meitä", "meissä", "meistä", "meihin", "meillä", "meiltä", "meille", "te",
|
358
|
+
"teidän", "teidät", "teitä", "teissä", "teistä", "teihin", "teillä",
|
359
|
+
"teiltä", "teille", "he", "heidän", "heidät", "heitä", "heissä", "heistä",
|
360
|
+
"heihin", "heillä", "heiltä", "heille", "tämä", "tämän", "tätä", "tässä",
|
361
|
+
"tästä", "tähän", "tallä", "tältä", "tälle", "tänä", "täksi", "tuo",
|
362
|
+
"tuon", "tuotä", "tuossa", "tuosta", "tuohon", "tuolla", "tuolta",
|
363
|
+
"tuolle", "tuona", "tuoksi", "se", "sen", "sitä", "siinä", "siitä",
|
364
|
+
"siihen", "sillä", "siltä", "sille", "sinä", "siksi", "nämä", "näiden",
|
365
|
+
"näitä", "näissä", "näistä", "näihin", "näillä", "näiltä", "näille",
|
366
|
+
"näinä", "näiksi", "nuo", "noiden", "noita", "noissa", "noista", "noihin",
|
367
|
+
"noilla", "noilta", "noille", "noina", "noiksi", "ne", "niiden", "niitä",
|
368
|
+
"niissä", "niistä", "niihin", "niillä", "niiltä", "niille", "niinä",
|
369
|
+
"niiksi", "kuka", "kenen", "kenet", "ketä", "kenessä", "kenestä",
|
370
|
+
"keneen", "kenellä", "keneltä", "kenelle", "kenenä", "keneksi", "ketkä",
|
371
|
+
"keiden", "ketkä", "keitä", "keissä", "keistä", "keihin", "keillä",
|
372
|
+
"keiltä", "keille", "keinä", "keiksi", "mikä", "minkä", "minkä", "mitä",
|
373
|
+
"missä", "mistä", "mihin", "millä", "miltä", "mille", "minä", "miksi",
|
374
|
+
"mitkä", "joka", "jonka", "jota", "jossa", "josta", "johon", "jolla",
|
375
|
+
"jolta", "jolle", "jona", "joksi", "jotka", "joiden", "joita", "joissa",
|
376
|
+
"joista", "joihin", "joilla", "joilta", "joille", "joina", "joiksi",
|
377
|
+
"että", "ja", "jos", "koska", "kuin", "mutta", "niin", "sekä", "sillä",
|
378
|
+
"tai", "vaan", "vai", "vaikka", "kanssa", "mukaan", "noin", "poikki",
|
379
|
+
"yli", "kun", "niin", "nyt", "itse",
|
380
|
+
NULL
|
381
|
+
};
|
382
|
+
|
383
|
+
const char *FULL_HUNGARIAN_STOP_WORDS[] = {
|
384
|
+
"a", "ahogy", "ahol", "aki", "akik", "akkor", "alatt", "által",
|
385
|
+
"általában", "amely", "amelyek", "amelyekben", "amelyeket", "amelyet",
|
386
|
+
"amelynek", "ami", "amit", "amolyan", "amíg", "amikor", "át", "abban",
|
387
|
+
"ahhoz", "annak", "arra", "arról", "az", "azok", "azon", "azt", "azzal",
|
388
|
+
"azért", "aztán", "azután", "azonban", "bár", "be", "belül", "benne",
|
389
|
+
"cikk", "cikkek", "cikkeket", "csak", "de", "e", "eddig", "egész", "egy",
|
390
|
+
"egyes", "egyetlen", "egyéb", "egyik", "egyre", "ekkor", "el", "elég",
|
391
|
+
"ellen", "elõ", "elõször", "elõtt", "elsõ", "én", "éppen", "ebben",
|
392
|
+
"ehhez", "emilyen", "ennek", "erre", "ez", "ezt", "ezek", "ezen", "ezzel",
|
393
|
+
"ezért", "és", "fel", "felé", "hanem", "hiszen", "hogy", "hogyan", "igen",
|
394
|
+
"így", "illetve", "ill.", "ill", "ilyen", "ilyenkor", "ison", "ismét",
|
395
|
+
"itt", "jó", "jól", "jobban", "kell", "kellett", "keresztül", "keressünk",
|
396
|
+
"ki", "kívül", "között", "közül", "legalább", "lehet", "lehetett",
|
397
|
+
"legyen", "lenne", "lenni", "lesz", "lett", "maga", "magát", "majd",
|
398
|
+
"majd", "már", "más", "másik", "meg", "még", "mellett", "mert", "mely",
|
399
|
+
"melyek", "mi", "mit", "míg", "miért", "milyen", "mikor", "minden",
|
400
|
+
"mindent", "mindenki", "mindig", "mint", "mintha", "mivel", "most",
|
401
|
+
"nagy", "nagyobb", "nagyon", "ne", "néha", "nekem", "neki", "nem",
|
402
|
+
"néhány", "nélkül", "nincs", "olyan", "ott", "össze", "õ", "õk", "õket",
|
403
|
+
"pedig", "persze", "rá", "s", "saját", "sem", "semmi", "sok", "sokat",
|
404
|
+
"sokkal", "számára", "szemben", "szerint", "szinte", "talán", "tehát",
|
405
|
+
"teljes", "tovább", "továbbá", "több", "úgy", "ugyanis", "új", "újabb",
|
406
|
+
"újra", "után", "utána", "utolsó", "vagy", "vagyis", "valaki", "valami",
|
407
|
+
"valamint", "való", "vagyok", "van", "vannak", "volt", "voltam", "voltak",
|
408
|
+
"voltunk", "vissza", "vele", "viszont", "volna",
|
400
409
|
NULL
|
401
410
|
};
|