xapian-fu 1.7.0 → 1.8.0

This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Files changed (92) hide show
  1. checksums.yaml +4 -4
  2. data/README.rdoc +2 -1
  3. data/lib/xapian_fu/stopper_factory.rb +1 -4
  4. data/lib/xapian_fu/stopwords/af.txt +51 -0
  5. data/lib/xapian_fu/stopwords/ar.txt +480 -0
  6. data/lib/xapian_fu/stopwords/bg.txt +259 -0
  7. data/lib/xapian_fu/stopwords/bn.txt +398 -0
  8. data/lib/xapian_fu/stopwords/br.txt +1203 -0
  9. data/lib/xapian_fu/stopwords/ca.txt +278 -0
  10. data/lib/xapian_fu/stopwords/cs.txt +423 -0
  11. data/lib/xapian_fu/stopwords/da.txt +170 -0
  12. data/lib/xapian_fu/stopwords/danish.txt +1 -0
  13. data/lib/xapian_fu/stopwords/de.txt +620 -0
  14. data/lib/xapian_fu/stopwords/dutch.txt +1 -0
  15. data/lib/xapian_fu/stopwords/el.txt +847 -0
  16. data/lib/xapian_fu/stopwords/en.txt +1298 -0
  17. data/lib/xapian_fu/stopwords/english.txt +1 -0
  18. data/lib/xapian_fu/stopwords/eo.txt +173 -0
  19. data/lib/xapian_fu/stopwords/es.txt +732 -0
  20. data/lib/xapian_fu/stopwords/et.txt +35 -0
  21. data/lib/xapian_fu/stopwords/eu.txt +98 -0
  22. data/lib/xapian_fu/stopwords/fa.txt +799 -0
  23. data/lib/xapian_fu/stopwords/fi.txt +847 -0
  24. data/lib/xapian_fu/stopwords/finnish.txt +1 -0
  25. data/lib/xapian_fu/stopwords/fr.txt +691 -0
  26. data/lib/xapian_fu/stopwords/french.txt +1 -0
  27. data/lib/xapian_fu/stopwords/ga.txt +109 -0
  28. data/lib/xapian_fu/stopwords/german.txt +1 -0
  29. data/lib/xapian_fu/stopwords/gl.txt +160 -0
  30. data/lib/xapian_fu/stopwords/gu.txt +224 -0
  31. data/lib/xapian_fu/stopwords/ha.txt +39 -0
  32. data/lib/xapian_fu/stopwords/he.txt +194 -0
  33. data/lib/xapian_fu/stopwords/hi.txt +225 -0
  34. data/lib/xapian_fu/stopwords/hr.txt +179 -0
  35. data/lib/xapian_fu/stopwords/hu.txt +789 -0
  36. data/lib/xapian_fu/stopwords/hungarian.txt +1 -0
  37. data/lib/xapian_fu/stopwords/hy.txt +45 -0
  38. data/lib/xapian_fu/stopwords/id.txt +758 -0
  39. data/lib/xapian_fu/stopwords/it.txt +632 -0
  40. data/lib/xapian_fu/stopwords/italian.txt +1 -0
  41. data/lib/xapian_fu/stopwords/ja.txt +134 -0
  42. data/lib/xapian_fu/stopwords/ko.txt +679 -0
  43. data/lib/xapian_fu/stopwords/ku.txt +62 -0
  44. data/lib/xapian_fu/stopwords/la.txt +49 -0
  45. data/lib/xapian_fu/stopwords/lt.txt +474 -0
  46. data/lib/xapian_fu/stopwords/lv.txt +161 -0
  47. data/lib/xapian_fu/stopwords/mr.txt +99 -0
  48. data/lib/xapian_fu/stopwords/ms.txt +475 -0
  49. data/lib/xapian_fu/stopwords/nl.txt +413 -0
  50. data/lib/xapian_fu/stopwords/no.txt +221 -0
  51. data/lib/xapian_fu/stopwords/norwegian.txt +1 -0
  52. data/lib/xapian_fu/stopwords/pl.txt +329 -0
  53. data/lib/xapian_fu/stopwords/portuguese.txt +1 -0
  54. data/lib/xapian_fu/stopwords/pt.txt +560 -0
  55. data/lib/xapian_fu/stopwords/ro.txt +434 -0
  56. data/lib/xapian_fu/stopwords/ru.txt +559 -0
  57. data/lib/xapian_fu/stopwords/russian.txt +1 -0
  58. data/lib/xapian_fu/stopwords/sk.txt +418 -0
  59. data/lib/xapian_fu/stopwords/sl.txt +446 -0
  60. data/lib/xapian_fu/stopwords/so.txt +30 -0
  61. data/lib/xapian_fu/stopwords/spanish.txt +1 -0
  62. data/lib/xapian_fu/stopwords/st.txt +31 -0
  63. data/lib/xapian_fu/stopwords/sv.txt +418 -0
  64. data/lib/xapian_fu/stopwords/sw.txt +74 -0
  65. data/lib/xapian_fu/stopwords/swedish.txt +1 -0
  66. data/lib/xapian_fu/stopwords/th.txt +116 -0
  67. data/lib/xapian_fu/stopwords/tl.txt +147 -0
  68. data/lib/xapian_fu/stopwords/tr.txt +504 -0
  69. data/lib/xapian_fu/stopwords/uk.txt +73 -0
  70. data/lib/xapian_fu/stopwords/update.rb +10 -3
  71. data/lib/xapian_fu/stopwords/ur.txt +517 -0
  72. data/lib/xapian_fu/stopwords/vi.txt +645 -0
  73. data/lib/xapian_fu/stopwords/yo.txt +60 -0
  74. data/lib/xapian_fu/stopwords/zh.txt +794 -0
  75. data/lib/xapian_fu/stopwords/zu.txt +29 -0
  76. data/lib/xapian_fu/version.rb +1 -1
  77. data/lib/xapian_fu/xapian_db.rb +3 -0
  78. data/spec/xapian_doc_spec.rb +1 -1
  79. metadata +109 -51
  80. data/lib/xapian_fu/stopwords/danish.txt +0 -102
  81. data/lib/xapian_fu/stopwords/dutch.txt +0 -113
  82. data/lib/xapian_fu/stopwords/english.txt +0 -312
  83. data/lib/xapian_fu/stopwords/finnish.txt +0 -89
  84. data/lib/xapian_fu/stopwords/french.txt +0 -168
  85. data/lib/xapian_fu/stopwords/german.txt +0 -286
  86. data/lib/xapian_fu/stopwords/hungarian.txt +0 -203
  87. data/lib/xapian_fu/stopwords/italian.txt +0 -295
  88. data/lib/xapian_fu/stopwords/norwegian.txt +0 -186
  89. data/lib/xapian_fu/stopwords/portuguese.txt +0 -245
  90. data/lib/xapian_fu/stopwords/russian.txt +0 -236
  91. data/lib/xapian_fu/stopwords/spanish.txt +0 -348
  92. data/lib/xapian_fu/stopwords/swedish.txt +0 -125
checksums.yaml CHANGED
@@ -1,7 +1,7 @@
1
1
  ---
2
2
  SHA256:
3
- metadata.gz: 6c5695db34da1fceed61e5dc6b5b8e997838e15b0bc50e3d3ff0991f8abeba0d
4
- data.tar.gz: 3cb11fb4955a85a4ab55a09aa4d0575bb944effa9fd8c1f73ed068002d464c2d
3
+ metadata.gz: 7467ae5f7e57e57aaa3e95202353d18c3cf1545e26109932be0535b070166a9b
4
+ data.tar.gz: 979b24cada403dd522638b5dac8ab0cd146513e68cd78c7b0984deb8d880f63b
5
5
  SHA512:
6
- metadata.gz: 35e471dee5c7cdf52f7370c692c7f15e5da5ad82d0899f243c5dcb9036081ba207fbcf8bd9e0d4b6a6e8f21ed709fe08fc9d058bd04b4c4fbece0773587f4501
7
- data.tar.gz: 26b8d54f4cea15bef6580f9a9cf00f4aefd2fc4d1dd97e53d0b600fb72a6b301aa9a9bcbb7b35e0f83b328f928fe375cee05926198ef92e3d22b7fe6325e7ea2
6
+ metadata.gz: 9ffeb017b95597f57d0ae06791cbed5fa2b13bad5a1bddde85de5b5491e952d14c061d50b1406c461971042038f0230a5b06ab15c2532c9e41920d7b1b4a9d3d
7
+ data.tar.gz: cab2176bdc45a3592d6b2bad0cc39e5d0e78060e6aa749551bc891974c0ddc25117d807f8cd81a012886aba37ee9ccdd0037fcfb88db774a2b0d27a3a4e6ffd3
data/README.rdoc CHANGED
@@ -261,8 +261,9 @@ perhaps by reindexing once in a while.
261
261
  = More Info
262
262
 
263
263
  Author:: John Leach (mailto:john@johnleach.co.uk)
264
- Copyright:: Copyright (c) 2009-2012 John Leach
264
+ Copyright:: Copyright (c) 2009-2025 John Leach
265
265
  License:: MIT (The Xapian library is GPL)
266
266
  Mailing list:: http://rubyforge.org/mailman/listinfo/xapian-fu-discuss
267
267
  Web page:: http://johnleach.co.uk/documents/xapian-fu
268
268
  Github:: http://github.com/johnl/xapian-fu/tree/master
269
+ Stopwords from: https://github.com/stopwords-iso/stopwords-iso Copyright Gene Diaz, released under MIT license.
@@ -32,10 +32,7 @@ module XapianFu
32
32
  def self.stop_words_for(lang)
33
33
  raise UnsupportedStopperLanguage, lang.to_s unless File.exists?(stop_words_filename(lang))
34
34
  words = []
35
- # Open files with correct encoding in Ruby 1.9
36
- open_args = [stop_words_filename(lang), "r"]
37
- open_args << { :encoding => "UTF-8" } if String.new.respond_to? :encoding
38
- open(*open_args) do |f|
35
+ open(stop_words_filename(lang), "r") do |f|
39
36
  while line = f.readline rescue nil
40
37
  words << line.split(" ", 2).first.downcase.strip unless line =~ /^ +|^$|^\|/
41
38
  end
@@ -0,0 +1,51 @@
1
+ 'n
2
+ aan
3
+ af
4
+ al
5
+ as
6
+ baie
7
+ by
8
+ daar
9
+ dag
10
+ dat
11
+ die
12
+ dit
13
+ een
14
+ ek
15
+ en
16
+ gaan
17
+ gesê
18
+ haar
19
+ het
20
+ hom
21
+ hulle
22
+ hy
23
+ in
24
+ is
25
+ jou
26
+ jy
27
+ kan
28
+ kom
29
+ ma
30
+ maar
31
+ met
32
+ my
33
+ na
34
+ nie
35
+ om
36
+ ons
37
+ op
38
+ saam
39
+ sal
40
+ se
41
+ sien
42
+ so
43
+ sy
44
+ te
45
+ toe
46
+ uit
47
+ van
48
+ vir
49
+ was
50
+ wat
51
+ ʼn
@@ -0,0 +1,480 @@
1
+ ،
2
+ آض
3
+ آمينَ
4
+ آه
5
+ آهاً
6
+ آي
7
+ أ
8
+ أب
9
+ أجل
10
+ أجمع
11
+ أخ
12
+ أخذ
13
+ أصبح
14
+ أضحى
15
+ أقبل
16
+ أقل
17
+ أكثر
18
+ ألا
19
+ أم
20
+ أما
21
+ أمامك
22
+ أمامكَ
23
+ أمسى
24
+ أمّا
25
+ أن
26
+ أنا
27
+ أنت
28
+ أنتم
29
+ أنتما
30
+ أنتن
31
+ أنتِ
32
+ أنشأ
33
+ أنّى
34
+ أو
35
+ أوشك
36
+ أولئك
37
+ أولئكم
38
+ أولاء
39
+ أولالك
40
+ أوّهْ
41
+ أي
42
+ أيا
43
+ أين
44
+ أينما
45
+ أيّ
46
+ أَنَّ
47
+ أََيُّ
48
+ أُفٍّ
49
+ إذ
50
+ إذا
51
+ إذاً
52
+ إذما
53
+ إذن
54
+ إلى
55
+ إليكم
56
+ إليكما
57
+ إليكنّ
58
+ إليكَ
59
+ إلَيْكَ
60
+ إلّا
61
+ إمّا
62
+ إن
63
+ إنّما
64
+ إي
65
+ إياك
66
+ إياكم
67
+ إياكما
68
+ إياكن
69
+ إيانا
70
+ إياه
71
+ إياها
72
+ إياهم
73
+ إياهما
74
+ إياهن
75
+ إياي
76
+ إيهٍ
77
+ إِنَّ
78
+ ا
79
+ ابتدأ
80
+ اثر
81
+ اجل
82
+ احد
83
+ اخرى
84
+ اخلولق
85
+ اذا
86
+ اربعة
87
+ ارتدّ
88
+ استحال
89
+ اطار
90
+ اعادة
91
+ اعلنت
92
+ اف
93
+ اكثر
94
+ اكد
95
+ الألاء
96
+ الألى
97
+ الا
98
+ الاخيرة
99
+ الان
100
+ الاول
101
+ الاولى
102
+ التى
103
+ التي
104
+ الثاني
105
+ الثانية
106
+ الذاتي
107
+ الذى
108
+ الذي
109
+ الذين
110
+ السابق
111
+ الف
112
+ اللائي
113
+ اللاتي
114
+ اللتان
115
+ اللتيا
116
+ اللتين
117
+ اللذان
118
+ اللذين
119
+ اللواتي
120
+ الماضي
121
+ المقبل
122
+ الوقت
123
+ الى
124
+ اليوم
125
+ اما
126
+ امام
127
+ امس
128
+ ان
129
+ انبرى
130
+ انقلب
131
+ انه
132
+ انها
133
+ او
134
+ اول
135
+ اي
136
+ ايار
137
+ ايام
138
+ ايضا
139
+ ب
140
+ بات
141
+ باسم
142
+ بان
143
+ بخٍ
144
+ برس
145
+ بسبب
146
+ بسّ
147
+ بشكل
148
+ بضع
149
+ بطآن
150
+ بعد
151
+ بعض
152
+ بك
153
+ بكم
154
+ بكما
155
+ بكن
156
+ بل
157
+ بلى
158
+ بما
159
+ بماذا
160
+ بمن
161
+ بن
162
+ بنا
163
+ به
164
+ بها
165
+ بي
166
+ بيد
167
+ بين
168
+ بَسْ
169
+ بَلْهَ
170
+ بِئْسَ
171
+ تانِ
172
+ تانِك
173
+ تبدّل
174
+ تجاه
175
+ تحوّل
176
+ تلقاء
177
+ تلك
178
+ تلكم
179
+ تلكما
180
+ تم
181
+ تينك
182
+ تَيْنِ
183
+ تِه
184
+ تِي
185
+ ثلاثة
186
+ ثم
187
+ ثمّ
188
+ ثمّة
189
+ ثُمَّ
190
+ جعل
191
+ جلل
192
+ جميع
193
+ جير
194
+ حار
195
+ حاشا
196
+ حاليا
197
+ حاي
198
+ حتى
199
+ حرى
200
+ حسب
201
+ حم
202
+ حوالى
203
+ حول
204
+ حيث
205
+ حيثما
206
+ حين
207
+ حيَّ
208
+ حَبَّذَا
209
+ حَتَّى
210
+ حَذارِ
211
+ خلا
212
+ خلال
213
+ دون
214
+ دونك
215
+ ذا
216
+ ذات
217
+ ذاك
218
+ ذانك
219
+ ذانِ
220
+ ذلك
221
+ ذلكم
222
+ ذلكما
223
+ ذلكن
224
+ ذو
225
+ ذوا
226
+ ذواتا
227
+ ذواتي
228
+ ذيت
229
+ ذينك
230
+ ذَيْنِ
231
+ ذِه
232
+ ذِي
233
+ راح
234
+ رجع
235
+ رويدك
236
+ ريث
237
+ رُبَّ
238
+ زيارة
239
+ سبحان
240
+ سرعان
241
+ سنة
242
+ سنوات
243
+ سوف
244
+ سوى
245
+ سَاءَ
246
+ سَاءَمَا
247
+ شبه
248
+ شخصا
249
+ شرع
250
+ شَتَّانَ
251
+ صار
252
+ صباح
253
+ صفر
254
+ صهٍ
255
+ صهْ
256
+ ضد
257
+ ضمن
258
+ طاق
259
+ طالما
260
+ طفق
261
+ طَق
262
+ ظلّ
263
+ عاد
264
+ عام
265
+ عاما
266
+ عامة
267
+ عدا
268
+ عدة
269
+ عدد
270
+ عدم
271
+ عسى
272
+ عشر
273
+ عشرة
274
+ علق
275
+ على
276
+ عليك
277
+ عليه
278
+ عليها
279
+ علًّ
280
+ عن
281
+ عند
282
+ عندما
283
+ عوض
284
+ عين
285
+ عَدَسْ
286
+ عَمَّا
287
+ غدا
288
+ غير
289
+ ـ
290
+ ف
291
+ فان
292
+ فلان
293
+ فو
294
+ فى
295
+ في
296
+ فيم
297
+ فيما
298
+ فيه
299
+ فيها
300
+ قال
301
+ قام
302
+ قبل
303
+ قد
304
+ قطّ
305
+ قلما
306
+ قوة
307
+ كأنّما
308
+ كأين
309
+ كأيّ
310
+ كأيّن
311
+ كاد
312
+ كان
313
+ كانت
314
+ كذا
315
+ كذلك
316
+ كرب
317
+ كل
318
+ كلا
319
+ كلاهما
320
+ كلتا
321
+ كلم
322
+ كليكما
323
+ كليهما
324
+ كلّما
325
+ كلَّا
326
+ كم
327
+ كما
328
+ كي
329
+ كيت
330
+ كيف
331
+ كيفما
332
+ كَأَنَّ
333
+ كِخ
334
+ لئن
335
+ لا
336
+ لات
337
+ لاسيما
338
+ لدن
339
+ لدى
340
+ لعمر
341
+ لقاء
342
+ لك
343
+ لكم
344
+ لكما
345
+ لكن
346
+ لكنَّما
347
+ لكي
348
+ لكيلا
349
+ للامم
350
+ لم
351
+ لما
352
+ لمّا
353
+ لن
354
+ لنا
355
+ له
356
+ لها
357
+ لو
358
+ لوكالة
359
+ لولا
360
+ لوما
361
+ لي
362
+ لَسْتَ
363
+ لَسْتُ
364
+ لَسْتُم
365
+ لَسْتُمَا
366
+ لَسْتُنَّ
367
+ لَسْتِ
368
+ لَسْنَ
369
+ لَعَلَّ
370
+ لَكِنَّ
371
+ لَيْتَ
372
+ لَيْسَ
373
+ لَيْسَا
374
+ لَيْسَتَا
375
+ لَيْسَتْ
376
+ لَيْسُوا
377
+ لَِسْنَا
378
+ ما
379
+ ماانفك
380
+ مابرح
381
+ مادام
382
+ ماذا
383
+ مازال
384
+ مافتئ
385
+ مايو
386
+ متى
387
+ مثل
388
+ مذ
389
+ مساء
390
+ مع
391
+ معاذ
392
+ مقابل
393
+ مكانكم
394
+ مكانكما
395
+ مكانكنّ
396
+ مكانَك
397
+ مليار
398
+ مليون
399
+ مما
400
+ ممن
401
+ من
402
+ منذ
403
+ منها
404
+ مه
405
+ مهما
406
+ مَنْ
407
+ مِن
408
+ نحن
409
+ نحو
410
+ نعم
411
+ نفس
412
+ نفسه
413
+ نهاية
414
+ نَخْ
415
+ نِعِمّا
416
+ نِعْمَ
417
+ ها
418
+ هاؤم
419
+ هاكَ
420
+ هاهنا
421
+ هبّ
422
+ هذا
423
+ هذه
424
+ هكذا
425
+ هل
426
+ هلمَّ
427
+ هلّا
428
+ هم
429
+ هما
430
+ هن
431
+ هنا
432
+ هناك
433
+ هنالك
434
+ هو
435
+ هي
436
+ هيا
437
+ هيت
438
+ هيّا
439
+ هَؤلاء
440
+ هَاتانِ
441
+ هَاتَيْنِ
442
+ هَاتِه
443
+ هَاتِي
444
+ هَجْ
445
+ هَذا
446
+ هَذانِ
447
+ هَذَيْنِ
448
+ هَذِه
449
+ هَذِي
450
+ هَيْهَاتَ
451
+ و
452
+ و6
453
+ وا
454
+ واحد
455
+ واضاف
456
+ واضافت
457
+ واكد
458
+ وان
459
+ واهاً
460
+ واوضح
461
+ وراءَك
462
+ وفي
463
+ وقال
464
+ وقالت
465
+ وقد
466
+ وقف
467
+ وكان
468
+ وكانت
469
+ ولا
470
+ ولم
471
+ ومن
472
+ وهو
473
+ وهي
474
+ ويكأنّ
475
+ وَيْ
476
+ وُشْكَانََ
477
+ يكون
478
+ يمكن
479
+ يوم
480
+ ّأيّان