classifier-reborn 2.1.0 → 2.2.0
Sign up to get free protection for your applications and to get access to all the features.
- checksums.yaml +4 -4
- data/LICENSE +74 -1
- data/README.markdown +57 -227
- data/data/stopwords/ar +104 -0
- data/data/stopwords/bn +362 -0
- data/data/stopwords/hi +97 -0
- data/data/stopwords/ja +43 -0
- data/data/stopwords/ru +420 -0
- data/data/stopwords/tr +199 -30
- data/data/stopwords/vi +647 -0
- data/data/stopwords/zh +125 -0
- data/lib/classifier-reborn.rb +9 -0
- data/lib/classifier-reborn/backends/bayes_memory_backend.rb +75 -0
- data/lib/classifier-reborn/backends/bayes_redis_backend.rb +107 -0
- data/lib/classifier-reborn/backends/no_redis_error.rb +12 -0
- data/lib/classifier-reborn/bayes.rb +98 -38
- data/lib/classifier-reborn/category_namer.rb +0 -1
- data/lib/classifier-reborn/extensions/hasher.rb +1 -1
- data/lib/classifier-reborn/lsi.rb +5 -1
- data/lib/classifier-reborn/lsi/word_list.rb +2 -4
- data/lib/classifier-reborn/validators/classifier_validator.rb +169 -0
- data/lib/classifier-reborn/version.rb +1 -1
- metadata +30 -8
- data/bin/bayes.rb +0 -36
- data/bin/summarize.rb +0 -16
data/data/stopwords/bn
ADDED
@@ -0,0 +1,362 @@
|
|
1
|
+
|
2
|
+
অবশ্য
|
3
|
+
অনেক
|
4
|
+
অনেকে
|
5
|
+
অনেকেই
|
6
|
+
অন্তত
|
7
|
+
অথবা
|
8
|
+
অথচ
|
9
|
+
অর্থাত
|
10
|
+
অন্য
|
11
|
+
আজ
|
12
|
+
আছে
|
13
|
+
আপনার
|
14
|
+
আপনি
|
15
|
+
আবার
|
16
|
+
আমরা
|
17
|
+
আমাকে
|
18
|
+
আমাদের
|
19
|
+
আমার
|
20
|
+
আমি
|
21
|
+
আরও
|
22
|
+
আর
|
23
|
+
আগে
|
24
|
+
আগেই
|
25
|
+
আই
|
26
|
+
অতএব
|
27
|
+
আগামী
|
28
|
+
অবধি
|
29
|
+
অনুযায়ী
|
30
|
+
আদ্যভাগে
|
31
|
+
এই
|
32
|
+
একই
|
33
|
+
একে
|
34
|
+
একটি
|
35
|
+
এখন
|
36
|
+
এখনও
|
37
|
+
এখানে
|
38
|
+
এখানেই
|
39
|
+
এটি
|
40
|
+
এটা
|
41
|
+
এটাই
|
42
|
+
এতটাই
|
43
|
+
এবং
|
44
|
+
একবার
|
45
|
+
এবার
|
46
|
+
এদের
|
47
|
+
এঁদের
|
48
|
+
এমন
|
49
|
+
এমনকী
|
50
|
+
এল
|
51
|
+
এর
|
52
|
+
এরা
|
53
|
+
এঁরা
|
54
|
+
এস
|
55
|
+
এত
|
56
|
+
এতে
|
57
|
+
এসে
|
58
|
+
একে
|
59
|
+
এ
|
60
|
+
ঐ
|
61
|
+
ই
|
62
|
+
ইহা
|
63
|
+
ইত্যাদি
|
64
|
+
উনি
|
65
|
+
উপর
|
66
|
+
উপরে
|
67
|
+
উচিত
|
68
|
+
ও
|
69
|
+
ওই
|
70
|
+
ওর
|
71
|
+
ওরা
|
72
|
+
ওঁর
|
73
|
+
ওঁরা
|
74
|
+
ওকে
|
75
|
+
ওদের
|
76
|
+
ওঁদের
|
77
|
+
ওখানে
|
78
|
+
কত
|
79
|
+
কবে
|
80
|
+
করতে
|
81
|
+
কয়েক
|
82
|
+
কয়েকটি
|
83
|
+
করবে
|
84
|
+
করলেন
|
85
|
+
করার
|
86
|
+
কারও
|
87
|
+
করা
|
88
|
+
করি
|
89
|
+
করিয়ে
|
90
|
+
করার
|
91
|
+
করাই
|
92
|
+
করলে
|
93
|
+
করলেন
|
94
|
+
করিতে
|
95
|
+
করিয়া
|
96
|
+
করেছিলেন
|
97
|
+
করছে
|
98
|
+
করছেন
|
99
|
+
করেছেন
|
100
|
+
করেছে
|
101
|
+
করেন
|
102
|
+
করবেন
|
103
|
+
করায়
|
104
|
+
করে
|
105
|
+
করেই
|
106
|
+
কাছ
|
107
|
+
কাছে
|
108
|
+
কাজে
|
109
|
+
কারণ
|
110
|
+
কিছু
|
111
|
+
কিছুই
|
112
|
+
কিন্তু
|
113
|
+
কিংবা
|
114
|
+
কি
|
115
|
+
কী
|
116
|
+
কেউ
|
117
|
+
কেউই
|
118
|
+
কাউকে
|
119
|
+
কেন
|
120
|
+
কে
|
121
|
+
কোনও
|
122
|
+
কোনো
|
123
|
+
কোন
|
124
|
+
কখনও
|
125
|
+
ক্ষেত্রে
|
126
|
+
খুব গুলি
|
127
|
+
গিয়ে
|
128
|
+
গিয়েছে
|
129
|
+
গেছে
|
130
|
+
গেল
|
131
|
+
গেলে
|
132
|
+
গোটা
|
133
|
+
চলে
|
134
|
+
ছাড়া
|
135
|
+
ছাড়াও
|
136
|
+
ছিলেন
|
137
|
+
ছিল
|
138
|
+
জন্য
|
139
|
+
জানা
|
140
|
+
ঠিক
|
141
|
+
তিনি
|
142
|
+
তিনঐ
|
143
|
+
তিনিও
|
144
|
+
তখন
|
145
|
+
তবে
|
146
|
+
তবু
|
147
|
+
তাঁদের
|
148
|
+
তাঁাহারা
|
149
|
+
তাঁরা
|
150
|
+
তাঁর
|
151
|
+
তাঁকে
|
152
|
+
তাই
|
153
|
+
তেমন
|
154
|
+
তাকে
|
155
|
+
তাহা
|
156
|
+
তাহাতে
|
157
|
+
তাহার
|
158
|
+
তাদের
|
159
|
+
তারপর
|
160
|
+
তারা
|
161
|
+
তারৈ
|
162
|
+
তার
|
163
|
+
তাহলে
|
164
|
+
তিনি
|
165
|
+
তা
|
166
|
+
তাও
|
167
|
+
তাতে
|
168
|
+
তো
|
169
|
+
তত
|
170
|
+
তুমি
|
171
|
+
তোমার
|
172
|
+
তথা
|
173
|
+
থাকে
|
174
|
+
থাকা
|
175
|
+
থাকায়
|
176
|
+
থেকে
|
177
|
+
থেকেও
|
178
|
+
থাকবে
|
179
|
+
থাকেন
|
180
|
+
থাকবেন
|
181
|
+
থেকেই
|
182
|
+
দিকে
|
183
|
+
দিতে
|
184
|
+
দিয়ে
|
185
|
+
দিয়েছে
|
186
|
+
দিয়েছেন
|
187
|
+
দিলেন
|
188
|
+
দু
|
189
|
+
দুটি
|
190
|
+
দুটো
|
191
|
+
দেয়
|
192
|
+
দেওয়া
|
193
|
+
দেওয়ার
|
194
|
+
দেখা
|
195
|
+
দেখে
|
196
|
+
দেখতে
|
197
|
+
দ্বারা
|
198
|
+
ধরে
|
199
|
+
ধরা
|
200
|
+
নয়
|
201
|
+
নানা
|
202
|
+
না
|
203
|
+
নাকি
|
204
|
+
নাগাদ
|
205
|
+
নিতে
|
206
|
+
নিজে
|
207
|
+
নিজেই
|
208
|
+
নিজের
|
209
|
+
নিজেদের
|
210
|
+
নিয়ে
|
211
|
+
নেওয়া
|
212
|
+
নেওয়ার
|
213
|
+
নেই
|
214
|
+
নাই
|
215
|
+
পক্ষে
|
216
|
+
পর্যন্ত
|
217
|
+
পাওয়া
|
218
|
+
পারেন
|
219
|
+
পারি
|
220
|
+
পারে
|
221
|
+
পরে
|
222
|
+
পরেই
|
223
|
+
পরেও
|
224
|
+
পর
|
225
|
+
পেয়ে
|
226
|
+
প্রতি
|
227
|
+
প্রভৃতি
|
228
|
+
প্রায়
|
229
|
+
ফের
|
230
|
+
ফলে
|
231
|
+
ফিরে
|
232
|
+
ব্যবহার
|
233
|
+
বলতে
|
234
|
+
বললেন
|
235
|
+
বলেছেন
|
236
|
+
বলল
|
237
|
+
বলা
|
238
|
+
বলেন
|
239
|
+
বলে
|
240
|
+
বহু
|
241
|
+
বসে
|
242
|
+
বার
|
243
|
+
বা
|
244
|
+
বিনা
|
245
|
+
বরং
|
246
|
+
বদলে
|
247
|
+
বাদে
|
248
|
+
বার
|
249
|
+
বিশেষ
|
250
|
+
বিভিন্ন বিষয়টি
|
251
|
+
ব্যবহার
|
252
|
+
ব্যাপারে
|
253
|
+
ভাবে
|
254
|
+
ভাবেই
|
255
|
+
মধ্যে
|
256
|
+
মধ্যেই
|
257
|
+
মধ্যেও
|
258
|
+
মধ্যভাগে
|
259
|
+
মাধ্যমে
|
260
|
+
মাত্র
|
261
|
+
মতো
|
262
|
+
মতোই
|
263
|
+
মোটেই
|
264
|
+
যখন
|
265
|
+
যদি
|
266
|
+
যদিও
|
267
|
+
যাবে
|
268
|
+
যায়
|
269
|
+
যাকে
|
270
|
+
যাওয়া
|
271
|
+
যাওয়ার
|
272
|
+
যত
|
273
|
+
যতটা
|
274
|
+
যা
|
275
|
+
যার
|
276
|
+
যারা
|
277
|
+
যাঁর
|
278
|
+
যাঁরা
|
279
|
+
যাদের
|
280
|
+
যান
|
281
|
+
যাচ্ছে
|
282
|
+
যেতে
|
283
|
+
যাতে
|
284
|
+
যেন
|
285
|
+
যেমন
|
286
|
+
যেখানে
|
287
|
+
যিনি
|
288
|
+
যে
|
289
|
+
রেখে
|
290
|
+
রাখা
|
291
|
+
রয়েছে
|
292
|
+
রকম
|
293
|
+
শুধু
|
294
|
+
সঙ্গে
|
295
|
+
সঙ্গেও
|
296
|
+
সমস্ত
|
297
|
+
সব
|
298
|
+
সবার
|
299
|
+
সহ
|
300
|
+
সুতরাং
|
301
|
+
সহিত
|
302
|
+
সেই
|
303
|
+
সেটা
|
304
|
+
সেটি
|
305
|
+
সেটাই
|
306
|
+
সেটাও
|
307
|
+
সম্প্রতি
|
308
|
+
সেখান
|
309
|
+
সেখানে
|
310
|
+
সে
|
311
|
+
স্পষ্ট
|
312
|
+
স্বয়ং
|
313
|
+
হইতে
|
314
|
+
হইবে
|
315
|
+
হৈলে
|
316
|
+
হইয়া
|
317
|
+
হচ্ছে
|
318
|
+
হত
|
319
|
+
হতে
|
320
|
+
হতেই
|
321
|
+
হবে
|
322
|
+
হবেন
|
323
|
+
হয়েছিল
|
324
|
+
হয়েছে
|
325
|
+
হয়েছেন
|
326
|
+
হয়ে
|
327
|
+
হয়নি
|
328
|
+
হয়
|
329
|
+
হয়েই
|
330
|
+
হয়তো
|
331
|
+
হল
|
332
|
+
হলে
|
333
|
+
হলেই
|
334
|
+
হলেও
|
335
|
+
হলো
|
336
|
+
হিসাবে
|
337
|
+
হওয়া
|
338
|
+
হওয়ার
|
339
|
+
হওয়ায়
|
340
|
+
হন
|
341
|
+
হোক
|
342
|
+
জন
|
343
|
+
জনকে
|
344
|
+
জনের
|
345
|
+
জানতে
|
346
|
+
জানায়
|
347
|
+
জানিয়ে
|
348
|
+
জানানো
|
349
|
+
জানিয়েছে
|
350
|
+
জন্য
|
351
|
+
জন্যওজে
|
352
|
+
জে
|
353
|
+
বেশ
|
354
|
+
দেন
|
355
|
+
তুলে
|
356
|
+
ছিলেন
|
357
|
+
চান
|
358
|
+
চায়
|
359
|
+
চেয়ে
|
360
|
+
মোট
|
361
|
+
যথেষ্ট
|
362
|
+
টি
|
data/data/stopwords/hi
ADDED
@@ -0,0 +1,97 @@
|
|
1
|
+
के
|
2
|
+
का
|
3
|
+
एक
|
4
|
+
में
|
5
|
+
की
|
6
|
+
है
|
7
|
+
यह
|
8
|
+
और
|
9
|
+
से
|
10
|
+
हैं
|
11
|
+
को
|
12
|
+
पर
|
13
|
+
इस
|
14
|
+
होता
|
15
|
+
कि
|
16
|
+
जो
|
17
|
+
कर
|
18
|
+
मे
|
19
|
+
गया
|
20
|
+
करने
|
21
|
+
किया
|
22
|
+
लिये
|
23
|
+
अपने
|
24
|
+
ने
|
25
|
+
बनी
|
26
|
+
नहीं
|
27
|
+
तो
|
28
|
+
ही
|
29
|
+
या
|
30
|
+
एवं
|
31
|
+
दिया
|
32
|
+
हो
|
33
|
+
इसका
|
34
|
+
था
|
35
|
+
द्वारा
|
36
|
+
हुआ
|
37
|
+
तक
|
38
|
+
साथ
|
39
|
+
करना
|
40
|
+
वाले
|
41
|
+
बाद
|
42
|
+
लिए
|
43
|
+
आप
|
44
|
+
कुछ
|
45
|
+
सकते
|
46
|
+
किसी
|
47
|
+
ये
|
48
|
+
इसके
|
49
|
+
सबसे
|
50
|
+
इसमें
|
51
|
+
थे
|
52
|
+
दो
|
53
|
+
होने
|
54
|
+
वह
|
55
|
+
वे
|
56
|
+
करते
|
57
|
+
बहुत
|
58
|
+
कहा
|
59
|
+
वर्ग
|
60
|
+
कई
|
61
|
+
करें
|
62
|
+
होती
|
63
|
+
अपनी
|
64
|
+
उनके
|
65
|
+
थी
|
66
|
+
यदि
|
67
|
+
हुई
|
68
|
+
जा
|
69
|
+
ना
|
70
|
+
इसे
|
71
|
+
कहते
|
72
|
+
जब
|
73
|
+
होते
|
74
|
+
कोई
|
75
|
+
हुए
|
76
|
+
व
|
77
|
+
न
|
78
|
+
अभी
|
79
|
+
जैसे
|
80
|
+
सभी
|
81
|
+
करता
|
82
|
+
उनकी
|
83
|
+
तरह
|
84
|
+
उस
|
85
|
+
आदि
|
86
|
+
कुल
|
87
|
+
एस
|
88
|
+
रहा
|
89
|
+
इसकी
|
90
|
+
सकता
|
91
|
+
रहे
|
92
|
+
उनका
|
93
|
+
इसी
|
94
|
+
रखें
|
95
|
+
अपना
|
96
|
+
पे
|
97
|
+
उसके
|