ferret 0.11.6 → 0.11.8.4

Sign up to get free protection for your applications and to get access to all the features.
Files changed (185) hide show
  1. data/README +10 -22
  2. data/RELEASE_CHANGES +137 -0
  3. data/RELEASE_NOTES +60 -0
  4. data/Rakefile +379 -274
  5. data/TODO +100 -8
  6. data/bin/ferret-browser +0 -0
  7. data/ext/BZLIB_blocksort.c +1094 -0
  8. data/ext/BZLIB_bzlib.c +1578 -0
  9. data/ext/BZLIB_compress.c +672 -0
  10. data/ext/BZLIB_crctable.c +104 -0
  11. data/ext/BZLIB_decompress.c +626 -0
  12. data/ext/BZLIB_huffman.c +205 -0
  13. data/ext/BZLIB_randtable.c +84 -0
  14. data/ext/{api.c → STEMMER_api.c} +7 -10
  15. data/ext/{libstemmer.c → STEMMER_libstemmer.c} +3 -2
  16. data/ext/{stem_ISO_8859_1_danish.c → STEMMER_stem_ISO_8859_1_danish.c} +123 -124
  17. data/ext/{stem_ISO_8859_1_dutch.c → STEMMER_stem_ISO_8859_1_dutch.c} +177 -188
  18. data/ext/STEMMER_stem_ISO_8859_1_english.c +1117 -0
  19. data/ext/{stem_ISO_8859_1_finnish.c → STEMMER_stem_ISO_8859_1_finnish.c} +276 -306
  20. data/ext/STEMMER_stem_ISO_8859_1_french.c +1246 -0
  21. data/ext/{stem_ISO_8859_1_german.c → STEMMER_stem_ISO_8859_1_german.c} +161 -170
  22. data/ext/STEMMER_stem_ISO_8859_1_hungarian.c +1230 -0
  23. data/ext/STEMMER_stem_ISO_8859_1_italian.c +1065 -0
  24. data/ext/STEMMER_stem_ISO_8859_1_norwegian.c +297 -0
  25. data/ext/{stem_ISO_8859_1_porter.c → STEMMER_stem_ISO_8859_1_porter.c} +263 -290
  26. data/ext/{stem_ISO_8859_1_portuguese.c → STEMMER_stem_ISO_8859_1_portuguese.c} +362 -380
  27. data/ext/STEMMER_stem_ISO_8859_1_spanish.c +1093 -0
  28. data/ext/STEMMER_stem_ISO_8859_1_swedish.c +307 -0
  29. data/ext/STEMMER_stem_ISO_8859_2_romanian.c +998 -0
  30. data/ext/{stem_KOI8_R_russian.c → STEMMER_stem_KOI8_R_russian.c} +244 -245
  31. data/ext/STEMMER_stem_UTF_8_danish.c +339 -0
  32. data/ext/{stem_UTF_8_dutch.c → STEMMER_stem_UTF_8_dutch.c} +192 -211
  33. data/ext/STEMMER_stem_UTF_8_english.c +1125 -0
  34. data/ext/{stem_UTF_8_finnish.c → STEMMER_stem_UTF_8_finnish.c} +284 -324
  35. data/ext/STEMMER_stem_UTF_8_french.c +1256 -0
  36. data/ext/{stem_UTF_8_german.c → STEMMER_stem_UTF_8_german.c} +170 -187
  37. data/ext/STEMMER_stem_UTF_8_hungarian.c +1234 -0
  38. data/ext/STEMMER_stem_UTF_8_italian.c +1073 -0
  39. data/ext/STEMMER_stem_UTF_8_norwegian.c +299 -0
  40. data/ext/{stem_UTF_8_porter.c → STEMMER_stem_UTF_8_porter.c} +271 -310
  41. data/ext/STEMMER_stem_UTF_8_portuguese.c +1023 -0
  42. data/ext/STEMMER_stem_UTF_8_romanian.c +1004 -0
  43. data/ext/STEMMER_stem_UTF_8_russian.c +694 -0
  44. data/ext/STEMMER_stem_UTF_8_spanish.c +1097 -0
  45. data/ext/STEMMER_stem_UTF_8_swedish.c +309 -0
  46. data/ext/STEMMER_stem_UTF_8_turkish.c +2205 -0
  47. data/ext/{utilities.c → STEMMER_utilities.c} +100 -68
  48. data/ext/analysis.c +276 -121
  49. data/ext/analysis.h +190 -143
  50. data/ext/api.h +3 -4
  51. data/ext/array.c +5 -3
  52. data/ext/array.h +52 -43
  53. data/ext/bitvector.c +38 -482
  54. data/ext/bitvector.h +446 -124
  55. data/ext/bzlib.h +282 -0
  56. data/ext/bzlib_private.h +503 -0
  57. data/ext/compound_io.c +23 -22
  58. data/ext/config.h +21 -11
  59. data/ext/document.c +43 -40
  60. data/ext/document.h +31 -21
  61. data/ext/except.c +20 -38
  62. data/ext/except.h +89 -76
  63. data/ext/extconf.rb +3 -2
  64. data/ext/ferret.c +49 -35
  65. data/ext/ferret.h +14 -11
  66. data/ext/field_index.c +262 -0
  67. data/ext/field_index.h +52 -0
  68. data/ext/filter.c +11 -10
  69. data/ext/fs_store.c +65 -47
  70. data/ext/global.c +245 -165
  71. data/ext/global.h +252 -54
  72. data/ext/hash.c +200 -243
  73. data/ext/hash.h +205 -163
  74. data/ext/hashset.c +118 -96
  75. data/ext/hashset.h +110 -82
  76. data/ext/header.h +19 -19
  77. data/ext/helper.c +11 -10
  78. data/ext/helper.h +14 -6
  79. data/ext/index.c +745 -366
  80. data/ext/index.h +503 -529
  81. data/ext/internal.h +1020 -0
  82. data/ext/lang.c +10 -0
  83. data/ext/lang.h +35 -15
  84. data/ext/mempool.c +5 -4
  85. data/ext/mempool.h +30 -22
  86. data/ext/modules.h +35 -7
  87. data/ext/multimapper.c +43 -2
  88. data/ext/multimapper.h +32 -23
  89. data/ext/posh.c +0 -0
  90. data/ext/posh.h +4 -38
  91. data/ext/priorityqueue.c +10 -12
  92. data/ext/priorityqueue.h +33 -21
  93. data/ext/q_boolean.c +22 -9
  94. data/ext/q_const_score.c +3 -2
  95. data/ext/q_filtered_query.c +15 -12
  96. data/ext/q_fuzzy.c +147 -135
  97. data/ext/q_match_all.c +3 -2
  98. data/ext/q_multi_term.c +28 -32
  99. data/ext/q_parser.c +451 -173
  100. data/ext/q_phrase.c +158 -79
  101. data/ext/q_prefix.c +16 -18
  102. data/ext/q_range.c +363 -31
  103. data/ext/q_span.c +130 -141
  104. data/ext/q_term.c +21 -21
  105. data/ext/q_wildcard.c +19 -23
  106. data/ext/r_analysis.c +369 -242
  107. data/ext/r_index.c +421 -434
  108. data/ext/r_qparser.c +142 -92
  109. data/ext/r_search.c +790 -407
  110. data/ext/r_store.c +44 -44
  111. data/ext/r_utils.c +264 -96
  112. data/ext/ram_store.c +29 -23
  113. data/ext/scanner.c +895 -0
  114. data/ext/scanner.h +36 -0
  115. data/ext/scanner_mb.c +6701 -0
  116. data/ext/scanner_utf8.c +4415 -0
  117. data/ext/search.c +210 -87
  118. data/ext/search.h +556 -488
  119. data/ext/similarity.c +17 -16
  120. data/ext/similarity.h +51 -44
  121. data/ext/sort.c +157 -354
  122. data/ext/stem_ISO_8859_1_hungarian.h +16 -0
  123. data/ext/stem_ISO_8859_2_romanian.h +16 -0
  124. data/ext/stem_UTF_8_hungarian.h +16 -0
  125. data/ext/stem_UTF_8_romanian.h +16 -0
  126. data/ext/stem_UTF_8_turkish.h +16 -0
  127. data/ext/stopwords.c +287 -278
  128. data/ext/store.c +57 -51
  129. data/ext/store.h +308 -286
  130. data/ext/symbol.c +10 -0
  131. data/ext/symbol.h +23 -0
  132. data/ext/term_vectors.c +14 -293
  133. data/ext/threading.h +22 -22
  134. data/ext/win32.h +12 -4
  135. data/lib/ferret.rb +2 -1
  136. data/lib/ferret/browser.rb +1 -1
  137. data/lib/ferret/field_symbol.rb +94 -0
  138. data/lib/ferret/index.rb +221 -34
  139. data/lib/ferret/number_tools.rb +6 -6
  140. data/lib/ferret/version.rb +3 -0
  141. data/test/{unit → long_running}/largefile/tc_largefile.rb +1 -1
  142. data/test/test_helper.rb +7 -2
  143. data/test/test_installed.rb +1 -0
  144. data/test/threading/thread_safety_index_test.rb +10 -1
  145. data/test/threading/thread_safety_read_write_test.rb +4 -7
  146. data/test/threading/thread_safety_test.rb +0 -0
  147. data/test/unit/analysis/tc_analyzer.rb +29 -27
  148. data/test/unit/analysis/tc_token_stream.rb +23 -16
  149. data/test/unit/index/tc_index.rb +116 -11
  150. data/test/unit/index/tc_index_reader.rb +27 -27
  151. data/test/unit/index/tc_index_writer.rb +10 -0
  152. data/test/unit/index/th_doc.rb +38 -21
  153. data/test/unit/search/tc_filter.rb +31 -10
  154. data/test/unit/search/tc_index_searcher.rb +6 -0
  155. data/test/unit/search/tm_searcher.rb +53 -1
  156. data/test/unit/store/tc_fs_store.rb +40 -2
  157. data/test/unit/store/tc_ram_store.rb +0 -0
  158. data/test/unit/store/tm_store.rb +0 -0
  159. data/test/unit/store/tm_store_lock.rb +7 -6
  160. data/test/unit/tc_field_symbol.rb +26 -0
  161. data/test/unit/ts_analysis.rb +0 -0
  162. data/test/unit/ts_index.rb +0 -0
  163. data/test/unit/ts_store.rb +0 -0
  164. data/test/unit/ts_utils.rb +0 -0
  165. data/test/unit/utils/tc_number_tools.rb +0 -0
  166. data/test/utils/content_generator.rb +226 -0
  167. metadata +262 -221
  168. data/ext/inc/lang.h +0 -48
  169. data/ext/inc/threading.h +0 -31
  170. data/ext/stem_ISO_8859_1_english.c +0 -1156
  171. data/ext/stem_ISO_8859_1_french.c +0 -1276
  172. data/ext/stem_ISO_8859_1_italian.c +0 -1091
  173. data/ext/stem_ISO_8859_1_norwegian.c +0 -296
  174. data/ext/stem_ISO_8859_1_spanish.c +0 -1119
  175. data/ext/stem_ISO_8859_1_swedish.c +0 -307
  176. data/ext/stem_UTF_8_danish.c +0 -344
  177. data/ext/stem_UTF_8_english.c +0 -1176
  178. data/ext/stem_UTF_8_french.c +0 -1296
  179. data/ext/stem_UTF_8_italian.c +0 -1113
  180. data/ext/stem_UTF_8_norwegian.c +0 -302
  181. data/ext/stem_UTF_8_portuguese.c +0 -1055
  182. data/ext/stem_UTF_8_russian.c +0 -709
  183. data/ext/stem_UTF_8_spanish.c +0 -1137
  184. data/ext/stem_UTF_8_swedish.c +0 -313
  185. data/lib/ferret_version.rb +0 -3
@@ -0,0 +1,16 @@
1
+
2
+ /* This file was generated automatically by the Snowball to ANSI C compiler */
3
+
4
+ #ifdef __cplusplus
5
+ extern "C" {
6
+ #endif
7
+
8
+ extern struct SN_env * hungarian_ISO_8859_1_create_env(void);
9
+ extern void hungarian_ISO_8859_1_close_env(struct SN_env * z);
10
+
11
+ extern int hungarian_ISO_8859_1_stem(struct SN_env * z);
12
+
13
+ #ifdef __cplusplus
14
+ }
15
+ #endif
16
+
@@ -0,0 +1,16 @@
1
+
2
+ /* This file was generated automatically by the Snowball to ANSI C compiler */
3
+
4
+ #ifdef __cplusplus
5
+ extern "C" {
6
+ #endif
7
+
8
+ extern struct SN_env * romanian_ISO_8859_2_create_env(void);
9
+ extern void romanian_ISO_8859_2_close_env(struct SN_env * z);
10
+
11
+ extern int romanian_ISO_8859_2_stem(struct SN_env * z);
12
+
13
+ #ifdef __cplusplus
14
+ }
15
+ #endif
16
+
@@ -0,0 +1,16 @@
1
+
2
+ /* This file was generated automatically by the Snowball to ANSI C compiler */
3
+
4
+ #ifdef __cplusplus
5
+ extern "C" {
6
+ #endif
7
+
8
+ extern struct SN_env * hungarian_UTF_8_create_env(void);
9
+ extern void hungarian_UTF_8_close_env(struct SN_env * z);
10
+
11
+ extern int hungarian_UTF_8_stem(struct SN_env * z);
12
+
13
+ #ifdef __cplusplus
14
+ }
15
+ #endif
16
+
@@ -0,0 +1,16 @@
1
+
2
+ /* This file was generated automatically by the Snowball to ANSI C compiler */
3
+
4
+ #ifdef __cplusplus
5
+ extern "C" {
6
+ #endif
7
+
8
+ extern struct SN_env * romanian_UTF_8_create_env(void);
9
+ extern void romanian_UTF_8_close_env(struct SN_env * z);
10
+
11
+ extern int romanian_UTF_8_stem(struct SN_env * z);
12
+
13
+ #ifdef __cplusplus
14
+ }
15
+ #endif
16
+
@@ -0,0 +1,16 @@
1
+
2
+ /* This file was generated automatically by the Snowball to ANSI C compiler */
3
+
4
+ #ifdef __cplusplus
5
+ extern "C" {
6
+ #endif
7
+
8
+ extern struct SN_env * turkish_UTF_8_create_env(void);
9
+ extern void turkish_UTF_8_close_env(struct SN_env * z);
10
+
11
+ extern int turkish_UTF_8_stem(struct SN_env * z);
12
+
13
+ #ifdef __cplusplus
14
+ }
15
+ #endif
16
+
@@ -1,4 +1,5 @@
1
1
  #include <stdlib.h>
2
+ #include "internal.h"
2
3
 
3
4
  /*
4
5
  * This list of stop words is taken from
@@ -10,9 +11,9 @@
10
11
 
11
12
  const char *ENGLISH_STOP_WORDS[] = {
12
13
  "a", "an", "and", "are", "as", "at", "be", "but", "by", "for", "if", "in",
13
- "into", "is", "it", "no", "not", "of", "on", "or", "such", "that",
14
- "the", "their", "then", "there", "these", "they", "this", "to", "was",
15
- "with", NULL
14
+ "into", "is", "it", "no", "not", "of", "on", "or", "such", "that", "the",
15
+ "their", "then", "there", "these", "they", "this", "to", "was", "with",
16
+ NULL
16
17
  };
17
18
 
18
19
  const char *FULL_ENGLISH_STOP_WORDS[] = {
@@ -21,28 +22,23 @@ const char *FULL_ENGLISH_STOP_WORDS[] = {
21
22
  "before", "being", "below", "between", "both", "but", "by", "cannot",
22
23
  "can't", "could", "couldn't", "did", "didn't", "do", "does", "doesn't",
23
24
  "doing", "don't", "down", "during", "each", "few", "for", "from",
24
- "further",
25
- "had", "hadn't", "has", "hasn't", "have", "haven't", "having", "he",
26
- "he'd",
27
- "he'll", "her", "here", "here's", "hers", "herself", "he's", "him",
28
- "himself", "his", "how", "how's", "i", "i'd", "if", "i'll", "i'm", "in",
29
- "into", "is", "isn't", "it", "its", "it's", "itself", "i've", "let's",
30
- "me",
31
- "more", "most", "mustn't", "my", "myself", "no", "nor", "not", "of",
32
- "off",
33
- "on", "once", "only", "or", "other", "ought", "our", "ours", "ourselves",
34
- "out", "over", "own", "same", "shan't", "she", "she'd", "she'll", "she's",
35
- "should", "shouldn't", "so", "some", "such", "than", "that", "that's",
36
- "the", "their", "theirs", "them", "themselves", "then", "there",
37
- "there's",
38
- "these", "they", "they'd", "they'll", "they're", "they've", "this",
39
- "those",
40
- "through", "to", "too", "under", "until", "up", "very", "was", "wasn't",
41
- "we", "we'd", "we'll", "were", "we're", "weren't", "we've", "what",
42
- "what's", "when", "when's", "where", "where's", "which", "while", "who",
43
- "whom", "who's", "why", "why's", "with", "won't", "would", "wouldn't",
44
- "you", "you'd", "you'll", "your", "you're", "yours", "yourself",
45
- "yourselves", "you've", NULL
25
+ "further", "had", "hadn't", "has", "hasn't", "have", "haven't", "having",
26
+ "he", "he'd", "he'll", "her", "here", "here's", "hers", "herself", "he's",
27
+ "him", "himself", "his", "how", "how's", "i", "i'd", "if", "i'll", "i'm",
28
+ "in", "into", "is", "isn't", "it", "its", "it's", "itself", "i've",
29
+ "let's", "me", "more", "most", "mustn't", "my", "myself", "no", "nor",
30
+ "not", "of", "off", "on", "once", "only", "or", "other", "ought", "our",
31
+ "ours", "ourselves", "out", "over", "own", "same", "shan't", "she",
32
+ "she'd", "she'll", "she's", "should", "shouldn't", "so", "some", "such",
33
+ "than", "that", "that's", "the", "their", "theirs", "them", "themselves",
34
+ "then", "there", "there's", "these", "they", "they'd", "they'll",
35
+ "they're", "they've", "this", "those", "through", "to", "too", "under",
36
+ "until", "up", "very", "was", "wasn't", "we", "we'd", "we'll", "were",
37
+ "we're", "weren't", "we've", "what", "what's", "when", "when's", "where",
38
+ "where's", "which", "while", "who", "whom", "who's", "why", "why's",
39
+ "with", "won't", "would", "wouldn't", "you", "you'd", "you'll", "your",
40
+ "you're", "yours", "yourself", "yourselves", "you've",
41
+ NULL
46
42
  };
47
43
 
48
44
  const char *EXTENDED_ENGLISH_STOP_WORDS[] = {
@@ -51,36 +47,30 @@ const char *EXTENDED_ENGLISH_STOP_WORDS[] = {
51
47
  "before", "being", "below", "between", "both", "but", "by", "cannot",
52
48
  "can't", "could", "couldn't", "did", "didn't", "do", "does", "doesn't",
53
49
  "doing", "don't", "down", "during", "each", "few", "for", "from",
54
- "further",
55
- "had", "hadn't", "has", "hasn't", "have", "haven't", "having", "he",
56
- "he'd",
57
- "he'll", "her", "here", "here's", "hers", "herself", "he's", "him",
58
- "himself", "his", "how", "how's", "i", "i'd", "if", "i'll", "i'm", "in",
59
- "into", "is", "isn't", "it", "its", "it's", "itself", "i've", "let's",
60
- "me",
61
- "more", "most", "mustn't", "my", "myself", "no", "nor", "not", "of",
62
- "off",
63
- "on", "once", "only", "or", "other", "ought", "our", "ours", "ourselves",
64
- "out", "over", "own", "same", "shan't", "she", "she'd", "she'll", "she's",
65
- "should", "shouldn't", "so", "some", "such", "than", "that", "that's",
66
- "the", "their", "theirs", "them", "themselves", "then", "there",
67
- "there's",
68
- "these", "they", "they'd", "they'll", "they're", "they've", "this",
69
- "those",
70
- "through", "to", "too", "under", "until", "up", "very", "was", "wasn't",
71
- "we", "we'd", "we'll", "were", "we're", "weren't", "we've", "what",
72
- "what's", "when", "when's", "where", "where's", "which", "while", "who",
73
- "whom", "who's", "why", "why's", "with", "won't", "would", "wouldn't",
74
- "you", "you'd", "you'll", "your", "you're", "yours", "yourself",
75
- "yourselves", "you've",
50
+ "further", "had", "hadn't", "has", "hasn't", "have", "haven't", "having",
51
+ "he", "he'd", "he'll", "her", "here", "here's", "hers", "herself", "he's",
52
+ "him", "himself", "his", "how", "how's", "i", "i'd", "if", "i'll", "i'm",
53
+ "in", "into", "is", "isn't", "it", "its", "it's", "itself", "i've",
54
+ "let's", "me", "more", "most", "mustn't", "my", "myself", "no", "nor",
55
+ "not", "of", "off", "on", "once", "only", "or", "other", "ought", "our",
56
+ "ours", "ourselves", "out", "over", "own", "same", "shan't", "she",
57
+ "she'd", "she'll", "she's", "should", "shouldn't", "so", "some", "such",
58
+ "than", "that", "that's", "the", "their", "theirs", "them", "themselves",
59
+ "then", "there", "there's", "these", "they", "they'd", "they'll",
60
+ "they're", "they've", "this", "those", "through", "to", "too", "under",
61
+ "until", "up", "very", "was", "wasn't", "we", "we'd", "we'll", "were",
62
+ "we're", "weren't", "we've", "what", "what's", "when", "when's", "where",
63
+ "where's", "which", "while", "who", "whom", "who's", "why", "why's",
64
+ "with", "won't", "would", "wouldn't", "you", "you'd", "you'll", "your",
65
+ "you're", "yours", "yourself", "yourselves", "you've",
76
66
 
77
67
  /* Most common words in the English Language */
78
68
  "one", "every", "least", "less", "many", "now", "ever", "never", "say",
79
69
  "says", "said", "also", "get", "go", "goes", "just", "made", "make",
80
- "put",
81
- "see", "seen", "whether", "like", "well", "back", "even", "still", "way",
82
- "take", "since", "another", "however", "two", "three", "four", "five",
83
- "first", "second", "new", "old", "high", "long", NULL
70
+ "put", "see", "seen", "whether", "like", "well", "back", "even", "still",
71
+ "way", "take", "since", "another", "however", "two", "three", "four",
72
+ "five", "first", "second", "new", "old", "high", "long",
73
+ NULL
84
74
  };
85
75
 
86
76
  const char *FULL_FRENCH_STOP_WORDS[] = {
@@ -89,285 +79,242 @@ const char *FULL_FRENCH_STOP_WORDS[] = {
89
79
  "même", "mes", "moi", "mon", "ne", "nos", "notre", "nous", "on", "ou",
90
80
  "par", "pas", "pour", "qu", "que", "qui", "sa", "se", "ses", "son", "sur",
91
81
  "ta", "te", "tes", "toi", "ton", "tu", "un", "une", "vos", "votre",
92
- "vous",
93
- "c", "d", "j", "l", "à", "m", "n", "s", "t", "y", "été", "étée",
94
- "étées",
95
- "étés", "étant", "étante", "étants", "étantes", "suis", "es", "est",
96
- "sommes", "êtes", "sont", "serai", "seras", "sera", "serons", "serez",
97
- "seront", "serais", "serait", "serions", "seriez", "seraient", "étais",
98
- "était", "étions", "étiez", "étaient", "fus", "fut", "fûmes",
99
- "fûtes",
100
- "furent", "sois", "soit", "soyons", "soyez", "soient", "fusse", "fusses",
101
- "fût", "fussions", "fussiez", "fussent", "ayant", "ayante", "ayantes",
102
- "ayants", "eu", "eue", "eues", "eus", "ai", "as", "avons", "avez", "ont",
103
- "aurai", "auras", "aura", "aurons", "aurez", "auront", "aurais", "aurait",
104
- "aurions", "auriez", "auraient", "avais", "avait", "avions", "aviez",
105
- "avaient", "eut", "eûmes", "eûtes", "eurent", "aie", "aies", "ait",
106
- "ayons",
107
- "ayez", "aient", "eusse", "eusses", "eût", "eussions", "eussiez",
108
- "eussent",
82
+ "vous", "c", "d", "j", "l", "à", "m", "n", "s", "t", "y", "été", "étée",
83
+ "étées", "étés", "étant", "étante", "étants", "étantes", "suis", "es",
84
+ "est", "sommes", "êtes", "sont", "serai", "seras", "sera", "serons",
85
+ "serez", "seront", "serais", "serait", "serions", "seriez", "seraient",
86
+ "étais", "était", "étions", "étiez", "étaient", "fus", "fut", "fûmes",
87
+ "fûtes", "furent", "sois", "soit", "soyons", "soyez", "soient", "fusse",
88
+ "fusses", "fût", "fussions", "fussiez", "fussent", "ayant", "ayante",
89
+ "ayantes", "ayants", "eu", "eue", "eues", "eus", "ai", "as", "avons",
90
+ "avez", "ont", "aurai", "auras", "aura", "aurons", "aurez", "auront",
91
+ "aurais", "aurait", "aurions", "auriez", "auraient", "avais", "avait",
92
+ "avions", "aviez", "avaient", "eut", "eûmes", "eûtes", "eurent", "aie",
93
+ "aies", "ait", "ayons", "ayez", "aient", "eusse", "eusses", "eût",
94
+ "eussions", "eussiez", "eussent",
109
95
  NULL
110
96
  };
111
97
 
112
98
  const char *FULL_SPANISH_STOP_WORDS[] = {
113
99
  "de", "la", "que", "el", "en", "y", "a", "los", "del", "se", "las", "por",
114
- "un", "para", "con", "no", "una", "su", "al", "lo", "como", "más",
115
- "pero",
116
- "sus", "le", "ya", "o", "este", "sí", "porque", "esta", "entre",
117
- "cuando",
100
+ "un", "para", "con", "no", "una", "su", "al", "lo", "como", "más", "pero",
101
+ "sus", "le", "ya", "o", "este", "sí", "porque", "esta", "entre", "cuando",
118
102
  "muy", "sin", "sobre", "también", "me", "hasta", "hay", "donde", "quien",
119
103
  "desde", "todo", "nos", "durante", "todos", "uno", "les", "ni", "contra",
120
104
  "otros", "ese", "eso", "ante", "ellos", "e", "esto", "mí", "antes",
121
105
  "algunos", "qué", "unos", "yo", "otro", "otras", "otra", "él", "tanto",
122
106
  "esa", "estos", "mucho", "quienes", "nada", "muchos", "cual", "poco",
123
107
  "ella", "estar", "estas", "algunas", "algo", "nosotros", "mi", "mis",
124
- "tú",
125
- "te", "ti", "tu", "tus", "ellas", "nosotras", "vosostros", "vosostras",
126
- "os", "mío", "mía", "míos", "mías", "tuyo", "tuya", "tuyos", "tuyas",
127
- "suyo", "suya", "suyos", "suyas", "nuestro", "nuestra", "nuestros",
128
- "nuestras", "vuestro", "vuestra", "vuestros", "vuestras", "esos", "esas",
129
- "estoy", "estás", "está", "estamos", "estáis", "están", "esté",
130
- "estés",
131
- "estemos", "estéis", "estén", "estaré", "estarás", "estará",
132
- "estaremos",
133
- "estaréis", "estarán", "estaría", "estarías", "estaríamos",
134
- "estaríais",
135
- "estarían", "estaba", "estabas", "estábamos", "estabais", "estaban",
136
- "estuve", "estuviste", "estuvo", "estuvimos", "estuvisteis", "estuvieron",
137
- "estuviera", "estuvieras", "estuviéramos", "estuvierais", "estuvieran",
138
- "estuviese", "estuvieses", "estuviésemos", "estuvieseis", "estuviesen",
139
- "estando", "estado", "estada", "estados", "estadas", "estad", "he", "has",
140
- "ha", "hemos", "habéis", "han", "haya", "hayas", "hayamos", "hayáis",
141
- "hayan", "habré", "habrás", "habrá", "habremos", "habréis", "habrán",
142
- "habría", "habrías", "habríamos", "habríais", "habrían", "había",
143
- "habías",
144
- "habíamos", "habíais", "habían", "hube", "hubiste", "hubo", "hubimos",
145
- "hubisteis", "hubieron", "hubiera", "hubieras", "hubiéramos",
146
- "hubierais",
147
- "hubieran", "hubiese", "hubieses", "hubiésemos", "hubieseis", "hubiesen",
148
- "habiendo", "habido", "habida", "habidos", "habidas", "soy", "eres", "es",
149
- "somos", "sois", "son", "sea", "seas", "seamos", "seáis", "sean",
150
- "seré",
151
- "serás", "será", "seremos", "seréis", "serán", "sería", "serías",
152
- "seríamos", "seríais", "serían", "era", "eras", "éramos", "erais",
153
- "eran",
154
- "fui", "fuiste", "fue", "fuimos", "fuisteis", "fueron", "fuera", "fueras",
155
- "fuéramos", "fuerais", "fueran", "fuese", "fueses", "fuésemos",
156
- "fueseis",
157
- "fuesen", "sintiendo", "sentido", "sentida", "sentidos", "sentidas",
158
- "siente", "sentid", "tengo", "tienes", "tiene", "tenemos", "tenéis",
159
- "tienen", "tenga", "tengas", "tengamos", "tengáis", "tengan", "tendré",
160
- "tendrás", "tendrá", "tendremos", "tendréis", "tendrán", "tendría",
161
- "tendrías", "tendríamos", "tendríais", "tendrían", "tenía",
162
- "tenías",
163
- "teníamos", "teníais", "tenían", "tuve", "tuviste", "tuvo", "tuvimos",
164
- "tuvisteis", "tuvieron", "tuviera", "tuvieras", "tuviéramos",
165
- "tuvierais",
166
- "tuvieran", "tuviese", "tuvieses", "tuviésemos", "tuvieseis", "tuviesen",
167
- "teniendo", "tenido", "tenida", "tenidos", "tenidas", "tened", NULL
108
+ "tú", "te", "ti", "tu", "tus", "ellas", "nosotras", "vosostros",
109
+ "vosostras", "os", "mío", "mía", "míos", "mías", "tuyo", "tuya", "tuyos",
110
+ "tuyas", "suyo", "suya", "suyos", "suyas", "nuestro", "nuestra",
111
+ "nuestros", "nuestras", "vuestro", "vuestra", "vuestros", "vuestras",
112
+ "esos", "esas", "estoy", "estás", "está", "estamos", "estáis", "están",
113
+ "esté", "estés", "estemos", "estéis", "estén", "estaré", "estarás",
114
+ "estará", "estaremos", "estaréis", "estarán", "estaría", "estarías",
115
+ "estaríamos", "estaríais", "estarían", "estaba", "estabas", "estábamos",
116
+ "estabais", "estaban", "estuve", "estuviste", "estuvo", "estuvimos",
117
+ "estuvisteis", "estuvieron", "estuviera", "estuvieras", "estuviéramos",
118
+ "estuvierais", "estuvieran", "estuviese", "estuvieses", "estuviésemos",
119
+ "estuvieseis", "estuviesen", "estando", "estado", "estada", "estados",
120
+ "estadas", "estad", "he", "has", "ha", "hemos", "habéis", "han", "haya",
121
+ "hayas", "hayamos", "hayáis", "hayan", "habré", "habrás", "habrá",
122
+ "habremos", "habréis", "habrán", "habría", "habrías", "habríamos",
123
+ "habríais", "habrían", "había", "habías", "habíamos", "habíais", "habían",
124
+ "hube", "hubiste", "hubo", "hubimos", "hubisteis", "hubieron", "hubiera",
125
+ "hubieras", "hubiéramos", "hubierais", "hubieran", "hubiese", "hubieses",
126
+ "hubiésemos", "hubieseis", "hubiesen", "habiendo", "habido", "habida",
127
+ "habidos", "habidas", "soy", "eres", "es", "somos", "sois", "son", "sea",
128
+ "seas", "seamos", "seáis", "sean", "seré", "serás", "será", "seremos",
129
+ "seréis", "serán", "sería", "serías", "seríamos", "seríais", "serían",
130
+ "era", "eras", "éramos", "erais", "eran", "fui", "fuiste", "fue",
131
+ "fuimos", "fuisteis", "fueron", "fuera", "fueras", "fuéramos", "fuerais",
132
+ "fueran", "fuese", "fueses", "fuésemos", "fueseis", "fuesen", "sintiendo",
133
+ "sentido", "sentida", "sentidos", "sentidas", "siente", "sentid", "tengo",
134
+ "tienes", "tiene", "tenemos", "tenéis", "tienen", "tenga", "tengas",
135
+ "tengamos", "tengáis", "tengan", "tendré", "tendrás", "tendrá",
136
+ "tendremos", "tendréis", "tendrán", "tendría", "tendrías", "tendríamos",
137
+ "tendríais", "tendrían", "tenía", "tenías", "teníamos", "teníais",
138
+ "tenían", "tuve", "tuviste", "tuvo", "tuvimos", "tuvisteis", "tuvieron",
139
+ "tuviera", "tuvieras", "tuviéramos", "tuvierais", "tuvieran", "tuviese",
140
+ "tuvieses", "tuviésemos", "tuvieseis", "tuviesen", "teniendo", "tenido",
141
+ "tenida", "tenidos", "tenidas", "tened",
142
+ NULL
168
143
  };
169
144
 
170
145
  const char *FULL_PORTUGUESE_STOP_WORDS[] = {
171
146
  "de", "a", "o", "que", "e", "do", "da", "em", "um", "para", "com", "não",
172
147
  "uma", "os", "no", "se", "na", "por", "mais", "as", "dos", "como", "mas",
173
148
  "ao", "ele", "das", "à", "seu", "sua", "ou", "quando", "muito", "nos",
174
- "já",
175
- "eu", "também", "só", "pelo", "pela", "até", "isso", "ela", "entre",
149
+ "já", "eu", "também", "só", "pelo", "pela", "até", "isso", "ela", "entre",
176
150
  "depois", "sem", "mesmo", "aos", "seus", "quem", "nas", "me", "esse",
177
151
  "eles", "você", "essa", "num", "nem", "suas", "meu", "às", "minha",
178
- "numa",
179
- "pelos", "elas", "qual", "nós", "lhe", "deles", "essas", "esses",
180
- "pelas",
181
- "este", "dele", "tu", "te", "vocês", "vos", "lhes", "meus", "minhas",
182
- "teu",
183
- "tua", "teus", "tuas", "nosso", "nossa", "nossos", "nossas", "dela",
184
- "delas", "esta", "estes", "estas", "aquele", "aquela", "aqueles",
185
- "aquelas",
186
- "isto", "aquilo", "estou", "está", "estamos", "estão", "estive",
187
- "esteve",
188
- "estivemos", "estiveram", "estava", "estávamos", "estavam", "estivera",
189
- "estivéramos", "esteja", "estejamos", "estejam", "estivesse",
190
- "estivéssemos", "estivessem", "estiver", "estivermos", "estiverem",
191
- "hei",
192
- "", "havemos", "hão", "houve", "houvemos", "houveram", "houvera",
193
- "houvéramos", "haja", "hajamos", "hajam", "houvesse", "houvéssemos",
194
- "houvessem", "houver", "houvermos", "houverem", "houverei", "houverá",
195
- "houveremos", "houverão", "houveria", "houveríamos", "houveriam", "sou",
196
- "somos", "são", "era", "éramos", "eram", "fui", "foi", "fomos", "foram",
197
- "fora", "fôramos", "seja", "sejamos", "sejam", "fosse", "fôssemos",
198
- "fossem", "for", "formos", "forem", "serei", "será", "seremos", "serão",
199
- "seria", "seríamos", "seriam", "tenho", "tem", "temos", "tém", "tinha",
200
- "tínhamos", "tinham", "tive", "teve", "tivemos", "tiveram", "tivera",
201
- "tivéramos", "tenha", "tenhamos", "tenham", "tivesse", "tivéssemos",
202
- "tivessem", "tiver", "tivermos", "tiverem", "terei", "terá", "teremos",
203
- "terão", "teria", "teríamos", "teriam", NULL
152
+ "numa", "pelos", "elas", "qual", "nós", "lhe", "deles", "essas", "esses",
153
+ "pelas", "este", "dele", "tu", "te", "vocês", "vos", "lhes", "meus",
154
+ "minhas", "teu", "tua", "teus", "tuas", "nosso", "nossa", "nossos",
155
+ "nossas", "dela", "delas", "esta", "estes", "estas", "aquele", "aquela",
156
+ "aqueles", "aquelas", "isto", "aquilo", "estou", "está", "estamos",
157
+ "estão", "estive", "esteve", "estivemos", "estiveram", "estava",
158
+ "estávamos", "estavam", "estivera", "estivéramos", "esteja", "estejamos",
159
+ "estejam", "estivesse", "estivéssemos", "estivessem", "estiver",
160
+ "estivermos", "estiverem", "hei", "", "havemos", "hão", "houve",
161
+ "houvemos", "houveram", "houvera", "houvéramos", "haja", "hajamos",
162
+ "hajam", "houvesse", "houvéssemos", "houvessem", "houver", "houvermos",
163
+ "houverem", "houverei", "houverá", "houveremos", "houverão", "houveria",
164
+ "houveríamos", "houveriam", "sou", "somos", "são", "era", "éramos",
165
+ "eram", "fui", "foi", "fomos", "foram", "fora", "fôramos", "seja",
166
+ "sejamos", "sejam", "fosse", "fôssemos", "fossem", "for", "formos",
167
+ "forem", "serei", "será", "seremos", "serão", "seria", "seríamos",
168
+ "seriam", "tenho", "tem", "temos", "tém", "tinha", "tínhamos", "tinham",
169
+ "tive", "teve", "tivemos", "tiveram", "tivera", "tivéramos", "tenha",
170
+ "tenhamos", "tenham", "tivesse", "tivéssemos", "tivessem", "tiver",
171
+ "tivermos", "tiverem", "terei", "terá", "teremos", "terão", "teria",
172
+ "teríamos", "teriam",
173
+ NULL
204
174
  };
205
175
 
206
176
  const char *FULL_ITALIAN_STOP_WORDS[] = {
207
177
  "ad", "al", "allo", "ai", "agli", "all", "agl", "alla", "alle", "con",
208
178
  "col", "coi", "da", "dal", "dallo", "dai", "dagli", "dall", "dagl",
209
- "dalla",
210
- "dalle", "di", "del", "dello", "dei", "degli", "dell", "degl", "della",
211
- "delle", "in", "nel", "nello", "nei", "negli", "nell", "negl", "nella",
212
- "nelle", "su", "sul", "sullo", "sui", "sugli", "sull", "sugl", "sulla",
213
- "sulle", "per", "tra", "contro", "io", "tu", "lui", "lei", "noi", "voi",
214
- "loro", "mio", "mia", "miei", "mie", "tuo", "tua", "tuoi", "tue", "suo",
215
- "sua", "suoi", "sue", "nostro", "nostra", "nostri", "nostre", "vostro",
216
- "vostra", "vostri", "vostre", "mi", "ti", "ci", "vi", "lo", "la", "li",
217
- "le", "gli", "ne", "il", "un", "uno", "una", "ma", "ed", "se", "perché",
218
- "anche", "come", "dov", "dove", "che", "chi", "cui", "non", "più",
219
- "quale",
220
- "quanto", "quanti", "quanta", "quante", "quello", "quelli", "quella",
221
- "quelle", "questo", "questi", "questa", "queste", "si", "tutto", "tutti",
222
- "a", "c", "e", "i", "l", "o", "ho", "hai", "ha", "abbiamo", "avete",
223
- "hanno", "abbia", "abbiate", "abbiano", "avrò", "avrai", "avrà",
224
- "avremo",
225
- "avrete", "avranno", "avrei", "avresti", "avrebbe", "avremmo", "avreste",
226
- "avrebbero", "avevo", "avevi", "aveva", "avevamo", "avevate", "avevano",
227
- "ebbi", "avesti", "ebbe", "avemmo", "aveste", "ebbero", "avessi",
228
- "avesse",
229
- "avessimo", "avessero", "avendo", "avuto", "avuta", "avuti", "avute",
230
- "sono", "sei", "è", "siamo", "siete", "sia", "siate", "siano", "sarò",
231
- "sarai", "sarà", "saremo", "sarete", "saranno", "sarei", "saresti",
232
- "sarebbe", "saremmo", "sareste", "sarebbero", "ero", "eri", "era",
233
- "eravamo", "eravate", "erano", "fui", "fosti", "fu", "fummo", "foste",
234
- "furono", "fossi", "fosse", "fossimo", "fossero", "essendo", "faccio",
235
- "fai", "facciamo", "fanno", "faccia", "facciate", "facciano", "farò",
236
- "farai", "farà", "faremo", "farete", "faranno", "farei", "faresti",
237
- "farebbe", "faremmo", "fareste", "farebbero", "facevo", "facevi",
238
- "faceva",
239
- "facevamo", "facevate", "facevano", "feci", "facesti", "fece", "facemmo",
240
- "faceste", "fecero", "facessi", "facesse", "facessimo", "facessero",
241
- "facendo", "sto", "stai", "sta", "stiamo", "stanno", "stia", "stiate",
242
- "stiano", "starò", "starai", "starà", "staremo", "starete", "staranno",
243
- "starei", "staresti", "starebbe", "staremmo", "stareste", "starebbero",
244
- "stavo", "stavi", "stava", "stavamo", "stavate", "stavano", "stetti",
245
- "stesti", "stette", "stemmo", "steste", "stettero", "stessi", "stesse",
246
- "stessimo", "stessero", "stando", NULL
179
+ "dalla", "dalle", "di", "del", "dello", "dei", "degli", "dell", "degl",
180
+ "della", "delle", "in", "nel", "nello", "nei", "negli", "nell", "negl",
181
+ "nella", "nelle", "su", "sul", "sullo", "sui", "sugli", "sull", "sugl",
182
+ "sulla", "sulle", "per", "tra", "contro", "io", "tu", "lui", "lei", "noi",
183
+ "voi", "loro", "mio", "mia", "miei", "mie", "tuo", "tua", "tuoi", "tue",
184
+ "suo", "sua", "suoi", "sue", "nostro", "nostra", "nostri", "nostre",
185
+ "vostro", "vostra", "vostri", "vostre", "mi", "ti", "ci", "vi", "lo",
186
+ "la", "li", "le", "gli", "ne", "il", "un", "uno", "una", "ma", "ed", "se",
187
+ "perché", "anche", "come", "dov", "dove", "che", "chi", "cui", "non",
188
+ "più", "quale", "quanto", "quanti", "quanta", "quante", "quello",
189
+ "quelli", "quella", "quelle", "questo", "questi", "questa", "queste",
190
+ "si", "tutto", "tutti", "a", "c", "e", "i", "l", "o", "ho", "hai", "ha",
191
+ "abbiamo", "avete", "hanno", "abbia", "abbiate", "abbiano", "avrò",
192
+ "avrai", "avrà", "avremo", "avrete", "avranno", "avrei", "avresti",
193
+ "avrebbe", "avremmo", "avreste", "avrebbero", "avevo", "avevi", "aveva",
194
+ "avevamo", "avevate", "avevano", "ebbi", "avesti", "ebbe", "avemmo",
195
+ "aveste", "ebbero", "avessi", "avesse", "avessimo", "avessero", "avendo",
196
+ "avuto", "avuta", "avuti", "avute", "sono", "sei", "è", "siamo", "siete",
197
+ "sia", "siate", "siano", "sarò", "sarai", "sarà", "saremo", "sarete",
198
+ "saranno", "sarei", "saresti", "sarebbe", "saremmo", "sareste",
199
+ "sarebbero", "ero", "eri", "era", "eravamo", "eravate", "erano", "fui",
200
+ "fosti", "fu", "fummo", "foste", "furono", "fossi", "fosse", "fossimo",
201
+ "fossero", "essendo", "faccio", "fai", "facciamo", "fanno", "faccia",
202
+ "facciate", "facciano", "farò", "farai", "farà", "faremo", "farete",
203
+ "faranno", "farei", "faresti", "farebbe", "faremmo", "fareste",
204
+ "farebbero", "facevo", "facevi", "faceva", "facevamo", "facevate",
205
+ "facevano", "feci", "facesti", "fece", "facemmo", "faceste", "fecero",
206
+ "facessi", "facesse", "facessimo", "facessero", "facendo", "sto", "stai",
207
+ "sta", "stiamo", "stanno", "stia", "stiate", "stiano", "starò", "starai",
208
+ "starà", "staremo", "starete", "staranno", "starei", "staresti",
209
+ "starebbe", "staremmo", "stareste", "starebbero", "stavo", "stavi",
210
+ "stava", "stavamo", "stavate", "stavano", "stetti", "stesti", "stette",
211
+ "stemmo", "steste", "stettero", "stessi", "stesse", "stessimo",
212
+ "stessero", "stando",
213
+ NULL
247
214
  };
248
215
 
249
216
  const char *FULL_GERMAN_STOP_WORDS[] = {
250
217
  "aber", "alle", "allem", "allen", "aller", "alles", "als", "also", "am",
251
218
  "an", "ander", "andere", "anderem", "anderen", "anderer", "anderes",
252
219
  "anderm", "andern", "anderr", "anders", "auch", "auf", "aus", "bei",
253
- "bin",
254
- "bis", "bist", "da", "damit", "dann", "der", "den", "des", "dem", "die",
255
- "das", "daß", "derselbe", "derselben", "denselben", "desselben",
220
+ "bin", "bis", "bist", "da", "damit", "dann", "der", "den", "des", "dem",
221
+ "die", "das", "daß", "derselbe", "derselben", "denselben", "desselben",
256
222
  "demselben", "dieselbe", "dieselben", "dasselbe", "dazu", "dein", "deine",
257
223
  "deinem", "deinen", "deiner", "deines", "denn", "derer", "dessen", "dich",
258
224
  "dir", "du", "dies", "diese", "diesem", "diesen", "dieser", "dieses",
259
225
  "doch", "dort", "durch", "ein", "eine", "einem", "einen", "einer",
260
- "eines",
261
- "einig", "einige", "einigem", "einigen", "einiger", "einiges", "einmal",
262
- "er", "ihn", "ihm", "es", "etwas", "euer", "eure", "eurem", "euren",
263
- "eurer", "eures", "für", "gegen", "gewesen", "hab", "habe", "haben",
264
- "hat",
265
- "hatte", "hatten", "hier", "hin", "hinter", "ich", "mich", "mir", "ihr",
266
- "ihre", "ihrem", "ihren", "ihrer", "ihres", "euch", "im", "in", "indem",
267
- "ins", "ist", "jede", "jedem", "jeden", "jeder", "jedes", "jene", "jenem",
268
- "jenen", "jener", "jenes", "jetzt", "kann", "kein", "keine", "keinem",
269
- "keinen", "keiner", "keines", "können", "könnte", "machen", "man",
270
- "manche",
271
- "manchem", "manchen", "mancher", "manches", "mein", "meine", "meinem",
272
- "meinen", "meiner", "meines", "mit", "muss", "musste", "nach", "nicht",
273
- "nichts", "noch", "nun", "nur", "ob", "oder", "ohne", "sehr", "sein",
274
- "seine", "seinem", "seinen", "seiner", "seines", "selbst", "sich", "sie",
275
- "ihnen", "sind", "so", "solche", "solchem", "solchen", "solcher",
276
- "solches",
277
- "soll", "sollte", "sondern", "sonst", "über", "um", "und", "uns", "unse",
278
- "unsem", "unsen", "unser", "unses", "unter", "viel", "vom", "von", "vor",
279
- "während", "war", "waren", "warst", "was", "weg", "weil", "weiter",
280
- "welche", "welchem", "welchen", "welcher", "welches", "wenn", "werde",
281
- "werden", "wie", "wieder", "will", "wir", "wird", "wirst", "wo", "wollen",
282
- "wollte", "würde", "würden", "zu", "zum", "zur", "zwar", "zwischen",
283
- NULL
226
+ "eines", "einig", "einige", "einigem", "einigen", "einiger", "einiges",
227
+ "einmal", "er", "ihn", "ihm", "es", "etwas", "euer", "eure", "eurem",
228
+ "euren", "eurer", "eures", "für", "gegen", "gewesen", "hab", "habe",
229
+ "haben", "hat", "hatte", "hatten", "hier", "hin", "hinter", "ich", "mich",
230
+ "mir", "ihr", "ihre", "ihrem", "ihren", "ihrer", "ihres", "euch", "im",
231
+ "in", "indem", "ins", "ist", "jede", "jedem", "jeden", "jeder", "jedes",
232
+ "jene", "jenem", "jenen", "jener", "jenes", "jetzt", "kann", "kein",
233
+ "keine", "keinem", "keinen", "keiner", "keines", "können", "könnte",
234
+ "machen", "man", "manche", "manchem", "manchen", "mancher", "manches",
235
+ "mein", "meine", "meinem", "meinen", "meiner", "meines", "mit", "muss",
236
+ "musste", "nach", "nicht", "nichts", "noch", "nun", "nur", "ob", "oder",
237
+ "ohne", "sehr", "sein", "seine", "seinem", "seinen", "seiner", "seines",
238
+ "selbst", "sich", "sie", "ihnen", "sind", "so", "solche", "solchem",
239
+ "solchen", "solcher", "solches", "soll", "sollte", "sondern", "sonst",
240
+ "über", "um", "und", "uns", "unse", "unsem", "unsen", "unser", "unses",
241
+ "unter", "viel", "vom", "von", "vor", "während", "war", "waren", "warst",
242
+ "was", "weg", "weil", "weiter", "welche", "welchem", "welchen", "welcher",
243
+ "welches", "wenn", "werde", "werden", "wie", "wieder", "will", "wir",
244
+ "wird", "wirst", "wo", "wollen", "wollte", "würde", "würden", "zu", "zum",
245
+ "zur", "zwar", "zwischen",
246
+ NULL
284
247
  };
285
248
 
286
249
  const char *FULL_DUTCH_STOP_WORDS[] = {
287
250
  "de", "en", "van", "ik", "te", "dat", "die", "in", "een", "hij", "het",
288
251
  "niet", "zijn", "is", "was", "op", "aan", "met", "als", "voor", "had",
289
- "er",
290
- "maar", "om", "hem", "dan", "zou", "of", "wat", "mijn", "men", "dit",
291
- "zo",
292
- "door", "over", "ze", "zich", "bij", "ook", "tot", "je", "mij", "uit",
293
- "der", "daar", "haar", "naar", "heb", "hoe", "heeft", "hebben", "deze",
294
- "u",
295
- "want", "nog", "zal", "me", "zij", "nu", "ge", "geen", "omdat", "iets",
296
- "worden", "toch", "al", "waren", "veel", "meer", "doen", "toen", "moet",
297
- "ben", "zonder", "kan", "hun", "dus", "alles", "onder", "ja", "eens",
298
- "hier", "wie", "werd", "altijd", "doch", "wordt", "wezen", "kunnen",
299
- "ons",
300
- "zelf", "tegen", "na", "reeds", "wil", "kon", "niets", "uw", "iemand",
301
- "geweest", "andere", NULL
252
+ "er", "maar", "om", "hem", "dan", "zou", "of", "wat", "mijn", "men",
253
+ "dit", "zo", "door", "over", "ze", "zich", "bij", "ook", "tot", "je",
254
+ "mij", "uit", "der", "daar", "haar", "naar", "heb", "hoe", "heeft",
255
+ "hebben", "deze", "u", "want", "nog", "zal", "me", "zij", "nu", "ge",
256
+ "geen", "omdat", "iets", "worden", "toch", "al", "waren", "veel", "meer",
257
+ "doen", "toen", "moet", "ben", "zonder", "kan", "hun", "dus", "alles",
258
+ "onder", "ja", "eens", "hier", "wie", "werd", "altijd", "doch", "wordt",
259
+ "wezen", "kunnen", "ons", "zelf", "tegen", "na", "reeds", "wil", "kon",
260
+ "niets", "uw", "iemand", "geweest", "andere",
261
+ NULL
302
262
  };
303
263
 
304
264
  const char *FULL_SWEDISH_STOP_WORDS[] = {
305
265
  "och", "det", "att", "i", "en", "jag", "hon", "som", "han", "på", "den",
306
266
  "med", "var", "sig", "för", "så", "till", "är", "men", "ett", "om",
307
- "hade",
308
- "de", "av", "icke", "mig", "du", "henne", "", "sin", "nu", "har",
309
- "inte",
310
- "hans", "honom", "skulle", "hennes", "där", "min", "man", "ej", "vid",
311
- "kunde", "något", "från", "ut", "när", "efter", "upp", "vi", "dem",
312
- "vara",
313
- "vad", "över", "än", "dig", "kan", "sina", "här", "ha", "mot", "alla",
314
- "under", "någon", "eller", "allt", "mycket", "sedan", "ju", "denna",
315
- "själv", "detta", "åt", "utan", "varit", "hur", "ingen", "mitt", "ni",
316
- "bli", "blev", "oss", "din", "dessa", "några", "deras", "blir", "mina",
317
- "samma", "vilken", "er", "sådan", "vår", "blivit", "dess", "inom",
318
- "mellan",
319
- "sådant", "varför", "varje", "vilka", "ditt", "vem", "vilket", "sitta",
320
- "sådana", "vart", "dina", "vars", "vårt", "våra", "ert", "era",
321
- "vilkas",
267
+ "hade", "de", "av", "icke", "mig", "du", "henne", "då", "sin", "nu",
268
+ "har", "inte", "hans", "honom", "skulle", "hennes", "där", "min", "man",
269
+ "ej", "vid", "kunde", "något", "från", "ut", "när", "efter", "upp", "vi",
270
+ "dem", "vara", "vad", "över", "än", "dig", "kan", "sina", "här", "ha",
271
+ "mot", "alla", "under", "någon", "eller", "allt", "mycket", "sedan", "ju",
272
+ "denna", "själv", "detta", "åt", "utan", "varit", "hur", "ingen", "mitt",
273
+ "ni", "bli", "blev", "oss", "din", "dessa", "några", "deras", "blir",
274
+ "mina", "samma", "vilken", "er", "sådan", "vår", "blivit", "dess", "inom",
275
+ "mellan", "sådant", "varför", "varje", "vilka", "ditt", "vem", "vilket",
276
+ "sitta", "sådana", "vart", "dina", "vars", "vårt", "våra", "ert", "era",
277
+ "vilkas",
322
278
  NULL
323
279
  };
324
280
 
325
281
 
326
282
  const char *FULL_NORWEGIAN_STOP_WORDS[] = {
327
283
  "og", "i", "jeg", "det", "at", "en", "et", "den", "til", "er", "som",
328
- "på",
329
- "de", "med", "han", "av", "ikke", "ikkje", "der", "", "var", "meg",
330
- "seg",
331
- "men", "ett", "har", "om", "vi", "min", "mitt", "ha", "hadde", "hun",
332
- "",
333
- "over", "da", "ved", "fra", "du", "ut", "sin", "dem", "oss", "opp", "man",
334
- "kan", "hans", "hvor", "eller", "hva", "skal", "selv", "sjøl", "her",
335
- "alle", "vil", "bli", "ble", "blei", "blitt", "kunne", "inn", "når",
336
- "være",
337
- "kom", "noen", "noe", "ville", "dere", "som", "deres", "kun", "ja",
338
- "etter",
339
- "ned", "skulle", "denne", "for", "deg", "si", "sine", "sitt", "mot", "å",
340
- "meget", "hvorfor", "dette", "disse", "uten", "hvordan", "ingen", "din",
341
- "ditt", "blir", "samme", "hvilken", "hvilke", "sånn", "inni", "mellom",
342
- "vår", "hver", "hvem", "vors", "hvis", "både", "bare", "enn", "fordi",
343
- "før", "mange", "også", "slik", "vært", "være", "båe", "begge",
344
- "siden",
345
- "dykk", "dykkar", "dei", "deira", "deires", "deim", "di", "", "eg",
346
- "ein",
347
- "eit", "eitt", "elles", "honom", "hjå", "ho", "hoe", "henne", "hennar",
348
- "hennes", "hoss", "hossen", "ikkje", "ingi", "inkje", "korleis", "korso",
349
- "kva", "kvar", "kvarhelst", "kven", "kvi", "kvifor", "me", "medan", "mi",
350
- "mine", "mykje", "no", "nokon", "noka", "nokor", "noko", "nokre", "si",
351
- "sia", "sidan", "so", "somt", "somme", "um", "upp", "vere", "vore",
352
- "verte",
353
- "vort", "varte", "vart", NULL
284
+ "på", "de", "med", "han", "av", "ikke", "ikkje", "der", "så", "var",
285
+ "meg", "seg", "men", "ett", "har", "om", "vi", "min", "mitt", "ha",
286
+ "hadde", "hun", "nå", "over", "da", "ved", "fra", "du", "ut", "sin",
287
+ "dem", "oss", "opp", "man", "kan", "hans", "hvor", "eller", "hva", "skal",
288
+ "selv", "sjøl", "her", "alle", "vil", "bli", "ble", "blei", "blitt",
289
+ "kunne", "inn", "når", "være", "kom", "noen", "noe", "ville", "dere",
290
+ "som", "deres", "kun", "ja", "etter", "ned", "skulle", "denne", "for",
291
+ "deg", "si", "sine", "sitt", "mot", "å", "meget", "hvorfor", "dette",
292
+ "disse", "uten", "hvordan", "ingen", "din", "ditt", "blir", "samme",
293
+ "hvilken", "hvilke", "sånn", "inni", "mellom", "vår", "hver", "hvem",
294
+ "vors", "hvis", "både", "bare", "enn", "fordi", "før", "mange", "også",
295
+ "slik", "vært", "være", "båe", "begge", "siden", "dykk", "dykkar", "dei",
296
+ "deira", "deires", "deim", "di", "", "eg", "ein", "eit", "eitt",
297
+ "elles", "honom", "hjå", "ho", "hoe", "henne", "hennar", "hennes", "hoss",
298
+ "hossen", "ikkje", "ingi", "inkje", "korleis", "korso", "kva", "kvar",
299
+ "kvarhelst", "kven", "kvi", "kvifor", "me", "medan", "mi", "mine",
300
+ "mykje", "no", "nokon", "noka", "nokor", "noko", "nokre", "si", "sia",
301
+ "sidan", "so", "somt", "somme", "um", "upp", "vere", "vore", "verte",
302
+ "vort", "varte", "vart",
303
+ NULL
354
304
  };
355
305
 
356
306
  const char *FULL_DANISH_STOP_WORDS[] = {
357
307
  "og", "i", "jeg", "det", "at", "en", "den", "til", "er", "som", "på",
358
- "de",
359
- "med", "han", "af", "for", "ikke", "der", "var", "mig", "sig", "men",
360
- "et",
361
- "har", "om", "vi", "min", "havde", "ham", "hun", "nu", "over", "da",
362
- "fra",
363
- "du", "ud", "sin", "dem", "os", "op", "man", "hans", "hvor", "eller",
364
- "hvad", "skal", "selv", "her", "alle", "vil", "blev", "kunne", "ind",
365
- "når",
366
- "være", "dog", "noget", "ville", "jo", "deres", "efter", "ned", "skulle",
367
- "denne", "end", "dette", "mit", "også", "under", "have", "dig", "anden",
368
- "hende", "mine", "alt", "meget", "sit", "sine", "vor", "mod", "disse",
369
- "hvis", "din", "nogle", "hos", "blive", "mange", "ad", "bliver", "hendes",
370
- "været", "thi", "jer", "sådan", NULL
308
+ "de", "med", "han", "af", "for", "ikke", "der", "var", "mig", "sig",
309
+ "men", "et", "har", "om", "vi", "min", "havde", "ham", "hun", "nu",
310
+ "over", "da", "fra", "du", "ud", "sin", "dem", "os", "op", "man", "hans",
311
+ "hvor", "eller", "hvad", "skal", "selv", "her", "alle", "vil", "blev",
312
+ "kunne", "ind", "når", "være", "dog", "noget", "ville", "jo", "deres",
313
+ "efter", "ned", "skulle", "denne", "end", "dette", "mit", "også", "under",
314
+ "have", "dig", "anden", "hende", "mine", "alt", "meget", "sit", "sine",
315
+ "vor", "mod", "disse", "hvis", "din", "nogle", "hos", "blive", "mange",
316
+ "ad", "bliver", "hendes", "været", "thi", "jer", "sådan",
317
+ NULL
371
318
  };
372
319
 
373
320
  const char *FULL_RUSSIAN_STOP_WORDS[] = {
@@ -380,7 +327,8 @@ const char *FULL_RUSSIAN_STOP_WORDS[] = {
380
327
  "он", "она", "они", "оно", "от", "очень", "по", "под", "при", "с", "со",
381
328
  "так", "также", "такой", "там", "те", "тем", "то", "того", "тоже", "той",
382
329
  "только", "том", "ты", "у", "уже", "хотя", "чего", "чей", "чем", "что",
383
- "чтобы", "чье", "чья", "эта", "эти", "это", "я", NULL
330
+ "чтобы", "чье", "чья", "эта", "эти", "это", "я",
331
+ NULL
384
332
  };
385
333
 
386
334
  const char *FULL_RUSSIAN_STOP_WORDS_KOI8_R[] = {
@@ -393,9 +341,70 @@ const char *FULL_RUSSIAN_STOP_WORDS_KOI8_R[] = {
393
341
  "ÏÎ", "ÏÎÁ", "ÏÎÉ", "ÏÎÏ", "ÏÔ", "ÏÞÅÎØ", "ÐÏ", "ÐÏÄ", "ÐÒÉ", "Ó", "ÓÏ",
394
342
  "ÔÁË", "ÔÁËÖÅ", "ÔÁËÏÊ", "ÔÁÍ", "ÔÅ", "ÔÅÍ", "ÔÏ", "ÔÏÇÏ", "ÔÏÖÅ", "ÔÏÊ",
395
343
  "ÔÏÌØËÏ", "ÔÏÍ", "ÔÙ", "Õ", "ÕÖÅ", "ÈÏÔÑ", "ÞÅÇÏ", "ÞÅÊ", "ÞÅÍ", "ÞÔÏ",
396
- "ÞÔÏÂÙ", "ÞØÅ", "ÞØÑ", "ÜÔÁ", "ÜÔÉ", "ÜÔÏ", "Ñ", NULL
344
+ "ÞÔÏÂÙ", "ÞØÅ", "ÞØÑ", "ÜÔÁ", "ÜÔÉ", "ÜÔÏ", "Ñ",
345
+ NULL
397
346
  };
398
347
 
399
348
  const char *FULL_FINNISH_STOP_WORDS[] = {
349
+ "olla", "olen", "olet", "on", "olemme", "olette", "ovat", "ole", "oli",
350
+ "olisi", "olisit", "olisin", "olisimme", "olisitte", "olisivat", "olit",
351
+ "olin", "olimme", "olitte", "olivat", "ollut", "olleet", "en", "et", "ei",
352
+ "emme", "ette", "eivät", "minä", "minun", "minut", "minua", "minussa",
353
+ "minusta", "minuun", "minulla", "minulta", "minulle", "sinä", "sinun",
354
+ "sinut", "sinua", "sinussa", "sinusta", "sinuun", "sinulla", "sinulta",
355
+ "sinulle", "hän", "hänen", "hänet", "häntä", "hänessä", "hänestä",
356
+ "häneen", "hänellä", "häneltä", "hänelle", "me", "meidän", "meidät",
357
+ "meitä", "meissä", "meistä", "meihin", "meillä", "meiltä", "meille", "te",
358
+ "teidän", "teidät", "teitä", "teissä", "teistä", "teihin", "teillä",
359
+ "teiltä", "teille", "he", "heidän", "heidät", "heitä", "heissä", "heistä",
360
+ "heihin", "heillä", "heiltä", "heille", "tämä", "tämän", "tätä", "tässä",
361
+ "tästä", "tähän", "tallä", "tältä", "tälle", "tänä", "täksi", "tuo",
362
+ "tuon", "tuotä", "tuossa", "tuosta", "tuohon", "tuolla", "tuolta",
363
+ "tuolle", "tuona", "tuoksi", "se", "sen", "sitä", "siinä", "siitä",
364
+ "siihen", "sillä", "siltä", "sille", "sinä", "siksi", "nämä", "näiden",
365
+ "näitä", "näissä", "näistä", "näihin", "näillä", "näiltä", "näille",
366
+ "näinä", "näiksi", "nuo", "noiden", "noita", "noissa", "noista", "noihin",
367
+ "noilla", "noilta", "noille", "noina", "noiksi", "ne", "niiden", "niitä",
368
+ "niissä", "niistä", "niihin", "niillä", "niiltä", "niille", "niinä",
369
+ "niiksi", "kuka", "kenen", "kenet", "ketä", "kenessä", "kenestä",
370
+ "keneen", "kenellä", "keneltä", "kenelle", "kenenä", "keneksi", "ketkä",
371
+ "keiden", "ketkä", "keitä", "keissä", "keistä", "keihin", "keillä",
372
+ "keiltä", "keille", "keinä", "keiksi", "mikä", "minkä", "minkä", "mitä",
373
+ "missä", "mistä", "mihin", "millä", "miltä", "mille", "minä", "miksi",
374
+ "mitkä", "joka", "jonka", "jota", "jossa", "josta", "johon", "jolla",
375
+ "jolta", "jolle", "jona", "joksi", "jotka", "joiden", "joita", "joissa",
376
+ "joista", "joihin", "joilla", "joilta", "joille", "joina", "joiksi",
377
+ "että", "ja", "jos", "koska", "kuin", "mutta", "niin", "sekä", "sillä",
378
+ "tai", "vaan", "vai", "vaikka", "kanssa", "mukaan", "noin", "poikki",
379
+ "yli", "kun", "niin", "nyt", "itse",
380
+ NULL
381
+ };
382
+
383
+ const char *FULL_HUNGARIAN_STOP_WORDS[] = {
384
+ "a", "ahogy", "ahol", "aki", "akik", "akkor", "alatt", "által",
385
+ "általában", "amely", "amelyek", "amelyekben", "amelyeket", "amelyet",
386
+ "amelynek", "ami", "amit", "amolyan", "amíg", "amikor", "át", "abban",
387
+ "ahhoz", "annak", "arra", "arról", "az", "azok", "azon", "azt", "azzal",
388
+ "azért", "aztán", "azután", "azonban", "bár", "be", "belül", "benne",
389
+ "cikk", "cikkek", "cikkeket", "csak", "de", "e", "eddig", "egész", "egy",
390
+ "egyes", "egyetlen", "egyéb", "egyik", "egyre", "ekkor", "el", "elég",
391
+ "ellen", "elõ", "elõször", "elõtt", "elsõ", "én", "éppen", "ebben",
392
+ "ehhez", "emilyen", "ennek", "erre", "ez", "ezt", "ezek", "ezen", "ezzel",
393
+ "ezért", "és", "fel", "felé", "hanem", "hiszen", "hogy", "hogyan", "igen",
394
+ "így", "illetve", "ill.", "ill", "ilyen", "ilyenkor", "ison", "ismét",
395
+ "itt", "jó", "jól", "jobban", "kell", "kellett", "keresztül", "keressünk",
396
+ "ki", "kívül", "között", "közül", "legalább", "lehet", "lehetett",
397
+ "legyen", "lenne", "lenni", "lesz", "lett", "maga", "magát", "majd",
398
+ "majd", "már", "más", "másik", "meg", "még", "mellett", "mert", "mely",
399
+ "melyek", "mi", "mit", "míg", "miért", "milyen", "mikor", "minden",
400
+ "mindent", "mindenki", "mindig", "mint", "mintha", "mivel", "most",
401
+ "nagy", "nagyobb", "nagyon", "ne", "néha", "nekem", "neki", "nem",
402
+ "néhány", "nélkül", "nincs", "olyan", "ott", "össze", "õ", "õk", "õket",
403
+ "pedig", "persze", "rá", "s", "saját", "sem", "semmi", "sok", "sokat",
404
+ "sokkal", "számára", "szemben", "szerint", "szinte", "talán", "tehát",
405
+ "teljes", "tovább", "továbbá", "több", "úgy", "ugyanis", "új", "újabb",
406
+ "újra", "után", "utána", "utolsó", "vagy", "vagyis", "valaki", "valami",
407
+ "valamint", "való", "vagyok", "van", "vannak", "volt", "voltam", "voltak",
408
+ "voltunk", "vissza", "vele", "viszont", "volna",
400
409
  NULL
401
410
  };