classifier-reborn 2.0.3 → 2.0.4
Sign up to get free protection for your applications and to get access to all the features.
- checksums.yaml +4 -4
- data/README.markdown +130 -14
- data/data/stopwords/ca +126 -0
- data/data/stopwords/cs +138 -0
- data/data/stopwords/da +101 -0
- data/data/stopwords/de +604 -0
- data/data/stopwords/en +80 -0
- data/data/stopwords/es +351 -0
- data/data/stopwords/fi +747 -0
- data/data/stopwords/fr +463 -0
- data/data/stopwords/hu +35 -0
- data/data/stopwords/it +430 -0
- data/data/stopwords/nl +48 -0
- data/data/stopwords/no +119 -0
- data/data/stopwords/pl +93 -0
- data/data/stopwords/pt +356 -0
- data/data/stopwords/se +386 -0
- data/data/stopwords/tr +114 -0
- data/lib/classifier-reborn/bayes.rb +86 -16
- data/lib/classifier-reborn/category_namer.rb +3 -1
- data/lib/classifier-reborn/extensions/hasher.rb +25 -100
- data/lib/classifier-reborn/extensions/vector.rb +0 -1
- data/lib/classifier-reborn/lsi.rb +36 -25
- data/lib/classifier-reborn/lsi/cached_content_node.rb +48 -0
- data/lib/classifier-reborn/lsi/content_node.rb +27 -10
- data/lib/classifier-reborn/lsi/summarizer.rb +2 -2
- data/lib/classifier-reborn/version.rb +1 -1
- metadata +37 -3
data/data/stopwords/nl
ADDED
|
@@ -0,0 +1,48 @@
|
|
|
1
|
+
aan
|
|
2
|
+
af
|
|
3
|
+
al
|
|
4
|
+
als
|
|
5
|
+
bij
|
|
6
|
+
dan
|
|
7
|
+
dat
|
|
8
|
+
die
|
|
9
|
+
dit
|
|
10
|
+
een
|
|
11
|
+
en
|
|
12
|
+
er
|
|
13
|
+
had
|
|
14
|
+
heb
|
|
15
|
+
hem
|
|
16
|
+
het
|
|
17
|
+
hij
|
|
18
|
+
hoe
|
|
19
|
+
hun
|
|
20
|
+
ik
|
|
21
|
+
in
|
|
22
|
+
is
|
|
23
|
+
je
|
|
24
|
+
kan
|
|
25
|
+
me
|
|
26
|
+
men
|
|
27
|
+
met
|
|
28
|
+
mij
|
|
29
|
+
nog
|
|
30
|
+
nu
|
|
31
|
+
of
|
|
32
|
+
ons
|
|
33
|
+
ook
|
|
34
|
+
te
|
|
35
|
+
tot
|
|
36
|
+
uit
|
|
37
|
+
van
|
|
38
|
+
was
|
|
39
|
+
wat
|
|
40
|
+
we
|
|
41
|
+
wel
|
|
42
|
+
wij
|
|
43
|
+
zal
|
|
44
|
+
ze
|
|
45
|
+
zei
|
|
46
|
+
zij
|
|
47
|
+
zo
|
|
48
|
+
zou
|
data/data/stopwords/no
ADDED
|
@@ -0,0 +1,119 @@
|
|
|
1
|
+
alle
|
|
2
|
+
andre
|
|
3
|
+
arbeid
|
|
4
|
+
av
|
|
5
|
+
begge
|
|
6
|
+
bort
|
|
7
|
+
bra
|
|
8
|
+
bruke
|
|
9
|
+
da
|
|
10
|
+
denne
|
|
11
|
+
der
|
|
12
|
+
deres
|
|
13
|
+
det
|
|
14
|
+
din
|
|
15
|
+
disse
|
|
16
|
+
du
|
|
17
|
+
eller
|
|
18
|
+
en
|
|
19
|
+
ene
|
|
20
|
+
eneste
|
|
21
|
+
enhver
|
|
22
|
+
enn
|
|
23
|
+
er
|
|
24
|
+
et
|
|
25
|
+
folk
|
|
26
|
+
for
|
|
27
|
+
fordi
|
|
28
|
+
forsÛke
|
|
29
|
+
fra
|
|
30
|
+
fÅ
|
|
31
|
+
fÛr
|
|
32
|
+
fÛrst
|
|
33
|
+
gjorde
|
|
34
|
+
gjÛre
|
|
35
|
+
god
|
|
36
|
+
gÅ
|
|
37
|
+
ha
|
|
38
|
+
hadde
|
|
39
|
+
han
|
|
40
|
+
hans
|
|
41
|
+
hennes
|
|
42
|
+
her
|
|
43
|
+
hva
|
|
44
|
+
hvem
|
|
45
|
+
hver
|
|
46
|
+
hvilken
|
|
47
|
+
hvis
|
|
48
|
+
hvor
|
|
49
|
+
hvordan
|
|
50
|
+
hvorfor
|
|
51
|
+
i
|
|
52
|
+
ikke
|
|
53
|
+
inn
|
|
54
|
+
innen
|
|
55
|
+
kan
|
|
56
|
+
kunne
|
|
57
|
+
lage
|
|
58
|
+
lang
|
|
59
|
+
lik
|
|
60
|
+
like
|
|
61
|
+
makt
|
|
62
|
+
mange
|
|
63
|
+
med
|
|
64
|
+
meg
|
|
65
|
+
meget
|
|
66
|
+
men
|
|
67
|
+
mens
|
|
68
|
+
mer
|
|
69
|
+
mest
|
|
70
|
+
min
|
|
71
|
+
mye
|
|
72
|
+
mÅ
|
|
73
|
+
mÅte
|
|
74
|
+
navn
|
|
75
|
+
nei
|
|
76
|
+
ny
|
|
77
|
+
nÅ
|
|
78
|
+
nÅr
|
|
79
|
+
og
|
|
80
|
+
ogsÅ
|
|
81
|
+
om
|
|
82
|
+
opp
|
|
83
|
+
oss
|
|
84
|
+
over
|
|
85
|
+
part
|
|
86
|
+
punkt
|
|
87
|
+
pÅ
|
|
88
|
+
rett
|
|
89
|
+
riktig
|
|
90
|
+
samme
|
|
91
|
+
sant
|
|
92
|
+
si
|
|
93
|
+
siden
|
|
94
|
+
sist
|
|
95
|
+
skulle
|
|
96
|
+
slik
|
|
97
|
+
slutt
|
|
98
|
+
som
|
|
99
|
+
start
|
|
100
|
+
stille
|
|
101
|
+
sÅ
|
|
102
|
+
tid
|
|
103
|
+
til
|
|
104
|
+
tilbake
|
|
105
|
+
tilstand
|
|
106
|
+
under
|
|
107
|
+
ut
|
|
108
|
+
uten
|
|
109
|
+
var
|
|
110
|
+
ved
|
|
111
|
+
verdi
|
|
112
|
+
vi
|
|
113
|
+
vil
|
|
114
|
+
ville
|
|
115
|
+
vite
|
|
116
|
+
vÅr
|
|
117
|
+
vÖre
|
|
118
|
+
vÖrt
|
|
119
|
+
Å
|
data/data/stopwords/pl
ADDED
|
@@ -0,0 +1,93 @@
|
|
|
1
|
+
a
|
|
2
|
+
aby
|
|
3
|
+
ale
|
|
4
|
+
bardziej
|
|
5
|
+
bardzo
|
|
6
|
+
bez
|
|
7
|
+
bo
|
|
8
|
+
bowiem
|
|
9
|
+
bêdzie
|
|
10
|
+
co
|
|
11
|
+
czy
|
|
12
|
+
czyli
|
|
13
|
+
dla
|
|
14
|
+
dlatego
|
|
15
|
+
do
|
|
16
|
+
gdy
|
|
17
|
+
gdzie
|
|
18
|
+
go
|
|
19
|
+
i
|
|
20
|
+
ich
|
|
21
|
+
im
|
|
22
|
+
innych
|
|
23
|
+
jak
|
|
24
|
+
jako
|
|
25
|
+
jednak
|
|
26
|
+
jego
|
|
27
|
+
jej
|
|
28
|
+
jest
|
|
29
|
+
jeszcze
|
|
30
|
+
kiedy
|
|
31
|
+
kilka
|
|
32
|
+
która
|
|
33
|
+
które
|
|
34
|
+
którego
|
|
35
|
+
której
|
|
36
|
+
który
|
|
37
|
+
których
|
|
38
|
+
którym
|
|
39
|
+
którzy
|
|
40
|
+
lub
|
|
41
|
+
ma
|
|
42
|
+
mi
|
|
43
|
+
miêdzy
|
|
44
|
+
mnie
|
|
45
|
+
na
|
|
46
|
+
nad
|
|
47
|
+
nam
|
|
48
|
+
nas
|
|
49
|
+
naszego
|
|
50
|
+
naszych
|
|
51
|
+
nawet
|
|
52
|
+
nich
|
|
53
|
+
nie
|
|
54
|
+
nim
|
|
55
|
+
o
|
|
56
|
+
od
|
|
57
|
+
oraz
|
|
58
|
+
po
|
|
59
|
+
pod
|
|
60
|
+
poza
|
|
61
|
+
przed
|
|
62
|
+
przede
|
|
63
|
+
przez
|
|
64
|
+
przy
|
|
65
|
+
siê
|
|
66
|
+
sobie
|
|
67
|
+
swoje
|
|
68
|
+
ta
|
|
69
|
+
tak
|
|
70
|
+
takie
|
|
71
|
+
tam
|
|
72
|
+
te
|
|
73
|
+
tego
|
|
74
|
+
tej
|
|
75
|
+
ten
|
|
76
|
+
to
|
|
77
|
+
tu
|
|
78
|
+
tych
|
|
79
|
+
tylko
|
|
80
|
+
tym
|
|
81
|
+
u
|
|
82
|
+
w
|
|
83
|
+
we
|
|
84
|
+
wiele
|
|
85
|
+
wielu
|
|
86
|
+
wiêc
|
|
87
|
+
wszystkich
|
|
88
|
+
wszystkim
|
|
89
|
+
wszystko
|
|
90
|
+
z
|
|
91
|
+
za
|
|
92
|
+
zawsze
|
|
93
|
+
ze
|
data/data/stopwords/pt
ADDED
|
@@ -0,0 +1,356 @@
|
|
|
1
|
+
a
|
|
2
|
+
à
|
|
3
|
+
adeus
|
|
4
|
+
agora
|
|
5
|
+
aí
|
|
6
|
+
ainda
|
|
7
|
+
além
|
|
8
|
+
algo
|
|
9
|
+
algumas
|
|
10
|
+
alguns
|
|
11
|
+
ali
|
|
12
|
+
ano
|
|
13
|
+
anos
|
|
14
|
+
antes
|
|
15
|
+
ao
|
|
16
|
+
aos
|
|
17
|
+
apenas
|
|
18
|
+
apoio
|
|
19
|
+
após
|
|
20
|
+
aquela
|
|
21
|
+
aquelas
|
|
22
|
+
aquele
|
|
23
|
+
aqueles
|
|
24
|
+
aqui
|
|
25
|
+
aquilo
|
|
26
|
+
área
|
|
27
|
+
as
|
|
28
|
+
às
|
|
29
|
+
assim
|
|
30
|
+
até
|
|
31
|
+
atrás
|
|
32
|
+
através
|
|
33
|
+
baixo
|
|
34
|
+
bastante
|
|
35
|
+
bem
|
|
36
|
+
bom
|
|
37
|
+
breve
|
|
38
|
+
cá
|
|
39
|
+
cada
|
|
40
|
+
catorze
|
|
41
|
+
cedo
|
|
42
|
+
cento
|
|
43
|
+
certamente
|
|
44
|
+
certeza
|
|
45
|
+
cima
|
|
46
|
+
cinco
|
|
47
|
+
coisa
|
|
48
|
+
com
|
|
49
|
+
como
|
|
50
|
+
conselho
|
|
51
|
+
contra
|
|
52
|
+
custa
|
|
53
|
+
da
|
|
54
|
+
dá
|
|
55
|
+
dão
|
|
56
|
+
daquela
|
|
57
|
+
daquele
|
|
58
|
+
dar
|
|
59
|
+
das
|
|
60
|
+
de
|
|
61
|
+
debaixo
|
|
62
|
+
demais
|
|
63
|
+
dentro
|
|
64
|
+
depois
|
|
65
|
+
desde
|
|
66
|
+
dessa
|
|
67
|
+
desse
|
|
68
|
+
desta
|
|
69
|
+
deste
|
|
70
|
+
deve
|
|
71
|
+
deverá
|
|
72
|
+
dez
|
|
73
|
+
dezanove
|
|
74
|
+
dezasseis
|
|
75
|
+
dezassete
|
|
76
|
+
dezoito
|
|
77
|
+
dia
|
|
78
|
+
diante
|
|
79
|
+
diz
|
|
80
|
+
dizem
|
|
81
|
+
dizer
|
|
82
|
+
do
|
|
83
|
+
dois
|
|
84
|
+
dos
|
|
85
|
+
doze
|
|
86
|
+
duas
|
|
87
|
+
dúvida
|
|
88
|
+
e
|
|
89
|
+
é
|
|
90
|
+
ela
|
|
91
|
+
elas
|
|
92
|
+
ele
|
|
93
|
+
eles
|
|
94
|
+
em
|
|
95
|
+
embora
|
|
96
|
+
entre
|
|
97
|
+
era
|
|
98
|
+
és
|
|
99
|
+
essa
|
|
100
|
+
essas
|
|
101
|
+
esse
|
|
102
|
+
esses
|
|
103
|
+
esta
|
|
104
|
+
está
|
|
105
|
+
estar
|
|
106
|
+
estas
|
|
107
|
+
estás
|
|
108
|
+
estava
|
|
109
|
+
este
|
|
110
|
+
estes
|
|
111
|
+
esteve
|
|
112
|
+
estive
|
|
113
|
+
estivemos
|
|
114
|
+
estiveram
|
|
115
|
+
estiveste
|
|
116
|
+
estivestes
|
|
117
|
+
estou
|
|
118
|
+
eu
|
|
119
|
+
exemplo
|
|
120
|
+
faço
|
|
121
|
+
falta
|
|
122
|
+
favor
|
|
123
|
+
faz
|
|
124
|
+
fazeis
|
|
125
|
+
fazem
|
|
126
|
+
fazemos
|
|
127
|
+
fazer
|
|
128
|
+
fazes
|
|
129
|
+
fez
|
|
130
|
+
fim
|
|
131
|
+
final
|
|
132
|
+
foi
|
|
133
|
+
fomos
|
|
134
|
+
for
|
|
135
|
+
foram
|
|
136
|
+
forma
|
|
137
|
+
foste
|
|
138
|
+
fostes
|
|
139
|
+
fui
|
|
140
|
+
geral
|
|
141
|
+
grande
|
|
142
|
+
grandes
|
|
143
|
+
grupo
|
|
144
|
+
há
|
|
145
|
+
hoje
|
|
146
|
+
horas
|
|
147
|
+
isso
|
|
148
|
+
isto
|
|
149
|
+
já
|
|
150
|
+
lá
|
|
151
|
+
lado
|
|
152
|
+
local
|
|
153
|
+
logo
|
|
154
|
+
longe
|
|
155
|
+
lugar
|
|
156
|
+
maior
|
|
157
|
+
maioria
|
|
158
|
+
mais
|
|
159
|
+
mal
|
|
160
|
+
mas
|
|
161
|
+
máximo
|
|
162
|
+
me
|
|
163
|
+
meio
|
|
164
|
+
menor
|
|
165
|
+
menos
|
|
166
|
+
mês
|
|
167
|
+
meses
|
|
168
|
+
meu
|
|
169
|
+
meus
|
|
170
|
+
mil
|
|
171
|
+
minha
|
|
172
|
+
minhas
|
|
173
|
+
momento
|
|
174
|
+
muito
|
|
175
|
+
muitos
|
|
176
|
+
na
|
|
177
|
+
nada
|
|
178
|
+
não
|
|
179
|
+
naquela
|
|
180
|
+
naquele
|
|
181
|
+
nas
|
|
182
|
+
nem
|
|
183
|
+
nenhuma
|
|
184
|
+
nessa
|
|
185
|
+
nesse
|
|
186
|
+
nesta
|
|
187
|
+
neste
|
|
188
|
+
nível
|
|
189
|
+
no
|
|
190
|
+
noite
|
|
191
|
+
nome
|
|
192
|
+
nos
|
|
193
|
+
nós
|
|
194
|
+
nossa
|
|
195
|
+
nossas
|
|
196
|
+
nosso
|
|
197
|
+
nossos
|
|
198
|
+
nova
|
|
199
|
+
nove
|
|
200
|
+
novo
|
|
201
|
+
novos
|
|
202
|
+
num
|
|
203
|
+
numa
|
|
204
|
+
número
|
|
205
|
+
nunca
|
|
206
|
+
o
|
|
207
|
+
obra
|
|
208
|
+
obrigada
|
|
209
|
+
obrigado
|
|
210
|
+
oitava
|
|
211
|
+
oitavo
|
|
212
|
+
oito
|
|
213
|
+
onde
|
|
214
|
+
ontem
|
|
215
|
+
onze
|
|
216
|
+
os
|
|
217
|
+
ou
|
|
218
|
+
outra
|
|
219
|
+
outras
|
|
220
|
+
outro
|
|
221
|
+
outros
|
|
222
|
+
para
|
|
223
|
+
parece
|
|
224
|
+
parte
|
|
225
|
+
partir
|
|
226
|
+
pela
|
|
227
|
+
pelas
|
|
228
|
+
pelo
|
|
229
|
+
pelos
|
|
230
|
+
perto
|
|
231
|
+
pode
|
|
232
|
+
pôde
|
|
233
|
+
podem
|
|
234
|
+
poder
|
|
235
|
+
põe
|
|
236
|
+
põem
|
|
237
|
+
ponto
|
|
238
|
+
pontos
|
|
239
|
+
por
|
|
240
|
+
porque
|
|
241
|
+
porquê
|
|
242
|
+
posição
|
|
243
|
+
possível
|
|
244
|
+
possivelmente
|
|
245
|
+
posso
|
|
246
|
+
pouca
|
|
247
|
+
pouco
|
|
248
|
+
primeira
|
|
249
|
+
primeiro
|
|
250
|
+
próprio
|
|
251
|
+
próximo
|
|
252
|
+
puderam
|
|
253
|
+
qual
|
|
254
|
+
quando
|
|
255
|
+
quanto
|
|
256
|
+
quarta
|
|
257
|
+
quarto
|
|
258
|
+
quatro
|
|
259
|
+
que
|
|
260
|
+
quê
|
|
261
|
+
quem
|
|
262
|
+
quer
|
|
263
|
+
quero
|
|
264
|
+
questão
|
|
265
|
+
quinta
|
|
266
|
+
quinto
|
|
267
|
+
quinze
|
|
268
|
+
relação
|
|
269
|
+
sabe
|
|
270
|
+
são
|
|
271
|
+
se
|
|
272
|
+
segunda
|
|
273
|
+
segundo
|
|
274
|
+
sei
|
|
275
|
+
seis
|
|
276
|
+
sem
|
|
277
|
+
sempre
|
|
278
|
+
ser
|
|
279
|
+
seria
|
|
280
|
+
sete
|
|
281
|
+
sétima
|
|
282
|
+
sétimo
|
|
283
|
+
seu
|
|
284
|
+
seus
|
|
285
|
+
sexta
|
|
286
|
+
sexto
|
|
287
|
+
sim
|
|
288
|
+
sistema
|
|
289
|
+
sob
|
|
290
|
+
sobre
|
|
291
|
+
sois
|
|
292
|
+
somos
|
|
293
|
+
sou
|
|
294
|
+
sua
|
|
295
|
+
suas
|
|
296
|
+
tal
|
|
297
|
+
talvez
|
|
298
|
+
também
|
|
299
|
+
tanto
|
|
300
|
+
tão
|
|
301
|
+
tarde
|
|
302
|
+
te
|
|
303
|
+
tem
|
|
304
|
+
têm
|
|
305
|
+
temos
|
|
306
|
+
tendes
|
|
307
|
+
tenho
|
|
308
|
+
tens
|
|
309
|
+
ter
|
|
310
|
+
terceira
|
|
311
|
+
terceiro
|
|
312
|
+
teu
|
|
313
|
+
teus
|
|
314
|
+
teve
|
|
315
|
+
tive
|
|
316
|
+
tivemos
|
|
317
|
+
tiveram
|
|
318
|
+
tiveste
|
|
319
|
+
tivestes
|
|
320
|
+
toda
|
|
321
|
+
todas
|
|
322
|
+
todo
|
|
323
|
+
todos
|
|
324
|
+
trabalho
|
|
325
|
+
três
|
|
326
|
+
treze
|
|
327
|
+
tu
|
|
328
|
+
tua
|
|
329
|
+
tuas
|
|
330
|
+
tudo
|
|
331
|
+
um
|
|
332
|
+
uma
|
|
333
|
+
umas
|
|
334
|
+
uns
|
|
335
|
+
vai
|
|
336
|
+
vais
|
|
337
|
+
vão
|
|
338
|
+
vários
|
|
339
|
+
vem
|
|
340
|
+
vêm
|
|
341
|
+
vens
|
|
342
|
+
ver
|
|
343
|
+
vez
|
|
344
|
+
vezes
|
|
345
|
+
viagem
|
|
346
|
+
vindo
|
|
347
|
+
vinte
|
|
348
|
+
você
|
|
349
|
+
vocês
|
|
350
|
+
vos
|
|
351
|
+
vós
|
|
352
|
+
vossa
|
|
353
|
+
vossas
|
|
354
|
+
vosso
|
|
355
|
+
vossos
|
|
356
|
+
zero
|