scylla 0.9.3 → 1.2.0

Sign up to get free protection for your applications and to get access to all the features.
Files changed (86) hide show
  1. checksums.yaml +7 -0
  2. data/README.rdoc +3 -12
  3. data/bin/scylla +1 -1
  4. data/lib/scylla/classifier.rb +3 -2
  5. data/lib/scylla/generator.rb +11 -4
  6. data/lib/scylla/lms/arabic.lm +400 -400
  7. data/lib/scylla/lms/bulgarian.lm +400 -400
  8. data/lib/scylla/lms/catalan.lm +400 -400
  9. data/lib/scylla/lms/chinese.lm +395 -395
  10. data/lib/scylla/lms/czech.lm +397 -397
  11. data/lib/scylla/lms/danish.lm +372 -372
  12. data/lib/scylla/lms/dutch.lm +382 -382
  13. data/lib/scylla/lms/english.lm +378 -378
  14. data/lib/scylla/lms/finnish.lm +388 -388
  15. data/lib/scylla/lms/french.lm +392 -392
  16. data/lib/scylla/lms/german.lm +396 -396
  17. data/lib/scylla/lms/greek.lm +400 -400
  18. data/lib/scylla/lms/hebrew.lm +400 -400
  19. data/lib/scylla/lms/hindi.lm +399 -399
  20. data/lib/scylla/lms/icelandic.lm +225 -225
  21. data/lib/scylla/lms/indonesian.lm +391 -391
  22. data/lib/scylla/lms/italian.lm +382 -382
  23. data/lib/scylla/lms/japanese.lm +400 -400
  24. data/lib/scylla/lms/kannada.lm +392 -392
  25. data/lib/scylla/lms/korean.lm +391 -391
  26. data/lib/scylla/lms/marathi.lm +388 -388
  27. data/lib/scylla/lms/norwegian.lm +375 -375
  28. data/lib/scylla/lms/persian.lm +399 -399
  29. data/lib/scylla/lms/polish.lm +399 -399
  30. data/lib/scylla/lms/portuguese.lm +390 -390
  31. data/lib/scylla/lms/romanian.lm +353 -353
  32. data/lib/scylla/lms/russian.lm +400 -400
  33. data/lib/scylla/lms/slovak.lm +361 -361
  34. data/lib/scylla/lms/slovenian.lm +273 -273
  35. data/lib/scylla/lms/spanish.lm +371 -371
  36. data/lib/scylla/lms/swedish.lm +400 -400
  37. data/lib/scylla/lms/tagalog.lm +295 -295
  38. data/lib/scylla/lms/thai.lm +400 -400
  39. data/lib/scylla/lms/turkish.lm +377 -377
  40. data/lib/scylla/lms/vietnamese.lm +400 -400
  41. data/lib/scylla/lms/welsh.lm +311 -311
  42. data/lib/scylla/loader.rb +1 -1
  43. data/test/classifier_test.rb +6 -4
  44. data/test/fixtures/lms/arabic.lm +400 -0
  45. data/test/fixtures/lms/bulgarian.lm +400 -0
  46. data/test/fixtures/lms/catalan.lm +400 -0
  47. data/test/fixtures/lms/chinese.lm +400 -0
  48. data/test/fixtures/lms/czech.lm +400 -0
  49. data/test/fixtures/lms/danish.lm +399 -399
  50. data/test/fixtures/lms/dutch.lm +400 -0
  51. data/test/fixtures/lms/english.lm +400 -400
  52. data/test/fixtures/lms/finnish.lm +400 -0
  53. data/test/fixtures/lms/french.lm +397 -397
  54. data/test/fixtures/lms/german.lm +400 -400
  55. data/test/fixtures/lms/greek.lm +400 -0
  56. data/test/fixtures/lms/hebrew.lm +400 -0
  57. data/test/fixtures/lms/hindi.lm +400 -400
  58. data/test/fixtures/lms/icelandic.lm +400 -0
  59. data/test/fixtures/lms/indonesian.lm +400 -0
  60. data/test/fixtures/lms/italian.lm +400 -400
  61. data/test/fixtures/lms/japanese.lm +400 -400
  62. data/test/fixtures/lms/kannada.lm +400 -0
  63. data/test/fixtures/lms/korean.lm +400 -0
  64. data/test/fixtures/lms/marathi.lm +400 -0
  65. data/test/fixtures/lms/norwegian.lm +399 -399
  66. data/test/fixtures/lms/persian.lm +400 -0
  67. data/test/fixtures/lms/polish.lm +400 -0
  68. data/test/fixtures/lms/portuguese.lm +400 -0
  69. data/test/fixtures/lms/romanian.lm +400 -0
  70. data/test/fixtures/lms/russian.lm +400 -0
  71. data/test/fixtures/lms/slovak.lm +400 -0
  72. data/test/fixtures/lms/slovenian.lm +400 -0
  73. data/test/fixtures/lms/spanish.lm +400 -400
  74. data/test/fixtures/lms/swedish.lm +400 -0
  75. data/test/fixtures/lms/tagalog.lm +400 -0
  76. data/test/fixtures/lms/thai.lm +400 -0
  77. data/test/fixtures/lms/turkish.lm +400 -0
  78. data/test/fixtures/lms/vietnamese.lm +400 -0
  79. data/test/fixtures/lms/welsh.lm +400 -0
  80. data/test/fixtures/test_languages/japanese +149 -67
  81. data/test/generator_test.rb +2 -44
  82. data/test/helper.rb +3 -3
  83. data/test/language_test.rb +6 -2
  84. data/test/loader_test.rb +2 -2
  85. data/test/scylla_test.rb +7 -7
  86. metadata +144 -95
@@ -0,0 +1,400 @@
1
+ _ 20180
2
+ a 5778
3
+ e 5540
4
+ o 5022
5
+ s 3817
6
+ i 3527
7
+ r 3350
8
+ d 2736
9
+ n 2416
10
+ t 2304
11
+ o_ 2303
12
+ m 2139
13
+ s_ 1812
14
+ a_ 1803
15
+ e_ 1737
16
+ c 1601
17
+ u 1599
18
+ l 1572
19
+ p 1504
20
+ _d 1370
21
+ _e 1177
22
+ de 1049
23
+ _a 1020
24
+ _p 982
25
+ ra 911
26
+ as 859
27
+ es 777
28
+ do 769
29
+ m_ 751
30
+ _de 745
31
+ de_ 706
32
+ b 674
33
+ os 661
34
+ _c 654
35
+ _o 644
36
+ en 586
37
+ v 583
38
+ g 581
39
+ _s 573
40
+ do_ 572
41
+ te 570
42
+ os_ 554
43
+ er 552
44
+ nt 551
45
+ co 546
46
+ or 540
47
+ as_ 517
48
+ da 510
49
+ re 488
50
+ em 474
51
+ ad 460
52
+ f 454
53
+ ri 450
54
+ _m 447
55
+ ta 434
56
+ _a_ 431
57
+ ma 422
58
+ l_ 421
59
+ ar 420
60
+ _e_ 407
61
+ an 400
62
+ _o_ 386
63
+ to 386
64
+ _n 386
65
+ _co 386
66
+ si 365
67
+ em_ 365
68
+ il 362
69
+ st 360
70
+ na 357
71
+ po 351
72
+ al 350
73
+ se 349
74
+ in 346
75
+ is 345
76
+ r_ 345
77
+ _b 344
78
+ es_ 342
79
+ ia 340
80
+ _t 338
81
+ ro 337
82
+ ã 336
83
+ ão 334
84
+ pa 334
85
+ ent 333
86
+ ão_ 332
87
+ om 327
88
+ ca 326
89
+ ti 323
90
+ io 321
91
+ no 318
92
+ me 317
93
+ on 314
94
+ br 314
95
+ nd 312
96
+ _do 306
97
+ ras 298
98
+ ic 290
99
+ h 290
100
+ _em 289
101
+ ç 285
102
+ da_ 284
103
+ ci 283
104
+ _f 273
105
+ tr 271
106
+ í 271
107
+ _r 267
108
+ bra 262
109
+ nte 260
110
+ _br 259
111
+ am 258
112
+ it 257
113
+ _pa 255
114
+ _i 253
115
+ qu 249
116
+ q 249
117
+ _po 245
118
+ com 245
119
+ é 243
120
+ sil 243
121
+ ei 241
122
+ asi 240
123
+ ra_ 234
124
+ pr 231
125
+ te_ 227
126
+ ir 224
127
+ ai 222
128
+ _se 220
129
+ _u 218
130
+ pe 216
131
+ le 216
132
+ ue 215
133
+ id 213
134
+ at 211
135
+ um 210
136
+ el 209
137
+ di 202
138
+ li 202
139
+ _re 199
140
+ ado 196
141
+ _da 192
142
+ to_ 192
143
+ mo 192
144
+ _ma 191
145
+ la 191
146
+ _q 188
147
+ _qu 188
148
+ _pr 183
149
+ ve 181
150
+ _no 181
151
+ ss 177
152
+ al_ 176
153
+ il_ 176
154
+ _um 175
155
+ no_ 169
156
+ im 168
157
+ or_ 166
158
+ çã 162
159
+ ção 162
160
+ ica 162
161
+ ia_ 161
162
+ rt 161
163
+ ce 160
164
+ eir 159
165
+ va 159
166
+ que 158
167
+ á 158
168
+ men 157
169
+ un 156
170
+ mi 150
171
+ is_ 150
172
+ _l 148
173
+ con 146
174
+ ua 146
175
+ ni 146
176
+ aç 145
177
+ _g 145
178
+ u_ 144
179
+ lo 143
180
+ res 143
181
+ tu 142
182
+ _es 141
183
+ ou 140
184
+ ec 140
185
+ fo 139
186
+ por 139
187
+ dos 139
188
+ z 138
189
+ ol 138
190
+ _in 138
191
+ _v 137
192
+ x 136
193
+ iv 135
194
+ ns 134
195
+ nc 134
196
+ ul 134
197
+ est 134
198
+ ada 134
199
+ ue_ 134
200
+ sa 133
201
+ su 132
202
+ _na 132
203
+ par 130
204
+ ma_ 128
205
+ ndo 127
206
+ ara 127
207
+ ed 127
208
+ ro_ 127
209
+ io_ 126
210
+ ais 126
211
+ _pe 125
212
+ vi 123
213
+ eg 123
214
+ mai 121
215
+ é_ 119
216
+ so 118
217
+ _fo 118
218
+ ca_ 117
219
+ ur 117
220
+ des 117
221
+ _te 115
222
+ sta 114
223
+ ter 114
224
+ ant 114
225
+ om_ 113
226
+ _  113
227
+ et 113
228
+   113
229
+ na_ 112
230
+ ria 110
231
+ ac 110
232
+ i_ 109
233
+ j 109
234
+ õe 108
235
+ õ 108
236
+ am_ 107
237
+ p_ 105
238
+ _ _ 105
239
+  _ 105
240
+ mp 105
241
+ gu 104
242
+ açã 104
243
+ ões 104
244
+ od 102
245
+ _en 102
246
+ uma 102
247
+ era 101
248
+ _os 101
249
+ _é 100
250
+ ut 100
251
+ _as 99
252
+ ui 99
253
+ lei 98
254
+ and 97
255
+ mo_ 97
256
+ ís 97
257
+ tra 96
258
+ das 96
259
+ ita 96
260
+ fi 95
261
+ nto 95
262
+ cia 95
263
+ aí 94
264
+ gi 94
265
+ _h 94
266
+ ida 94
267
+ rio 93
268
+ ne 93
269
+ _su 92
270
+ _é_ 92
271
+ ist 92
272
+ dad 91
273
+ se_ 90
274
+ ex 90
275
+ mu 89
276
+ aís 89
277
+ paí 89
278
+ sã 88
279
+ são 88
280
+ um_ 88
281
+ ess 88
282
+ gr 88
283
+ ort 88
284
+ ga 87
285
+ ó 87
286
+ _ca 87
287
+ ge 87
288
+ iro 86
289
+ rn 86
290
+ _ex 85
291
+ _di 84
292
+ nde 83
293
+ ou_ 83
294
+ tes 82
295
+ vo 81
296
+ ira 81
297
+ ar_ 81
298
+ ha 80
299
+ ade 80
300
+ ran 79
301
+ lh 79
302
+ pro 78
303
+ tad 77
304
+ omo 76
305
+ tiv 76
306
+ rr 75
307
+ op 75
308
+ ta_ 75
309
+ nci 75
310
+ ram 75
311
+ _j 74
312
+ ile 74
313
+ au 74
314
+ rc 74
315
+ der 73
316
+ _p_ 73
317
+ nta 72
318
+ for 72
319
+ ati 72
320
+ oi 72
321
+ ior 71
322
+ rm 71
323
+ ito 71
324
+ ame 70
325
+ ev 70
326
+ _mu 70
327
+ ís_ 70
328
+ mb 70
329
+ fe 69
330
+ cu 69
331
+ go 69
332
+ us 69
333
+ ov 69
334
+ er_ 69
335
+ pre 69
336
+ ntr 68
337
+ ial 68
338
+ ap 68
339
+ tem 67
340
+ tor 67
341
+ ime 67
342
+ ú 67
343
+ aio 66
344
+ und 66
345
+ iz 65
346
+ tic 65
347
+ _s_ 65
348
+ ver 65
349
+ ê 64
350
+ _sã 64
351
+ ab 64
352
+ _me 64
353
+ pri 64
354
+ end 63
355
+ lo_ 63
356
+ gra 63
357
+ ura 63
358
+ ind 63
359
+ _mi 63
360
+ _to 62
361
+ tro 62
362
+ ont 62
363
+ _at 61
364
+ tan 61
365
+ _tr 61
366
+ ona 61
367
+ lu 61
368
+ ros 60
369
+ pel 60
370
+ sp 60
371
+ ho 60
372
+ pos 59
373
+ ste 59
374
+ qua 59
375
+ ico 59
376
+ ion 58
377
+ fa 58
378
+ ár 58
379
+ cio 58
380
+ du 58
381
+ bi 58
382
+ ern 58
383
+ sc 57
384
+ nal 57
385
+ re_ 57
386
+ nh 57
387
+ ig 56
388
+ ela 56
389
+ rte 56
390
+ mun 56
391
+ ob 55
392
+ eu 55
393
+ sti 55
394
+ err 55
395
+ cr 55
396
+ egi 54
397
+ ons 54
398
+ ao 54
399
+ n_ 54
400
+ mas 53
@@ -0,0 +1,400 @@
1
+ _ 28742
2
+ e 8540
3
+ i 8396
4
+ a 8094
5
+ r 5707
6
+ t 5166
7
+ n 5138
8
+ u 3874
9
+ l 3870
10
+ o 3696
11
+ c 3575
12
+ e_ 3398
13
+ d 2898
14
+ s 2766
15
+ m 2507
16
+ a_ 2393
17
+ i_ 2249
18
+ _d 1971
19
+ p 1965
20
+ _a 1818
21
+ ă 1597
22
+ de 1377
23
+ re 1284
24
+ at 1273
25
+ _c 1193
26
+ _de 1168
27
+ ri 1147
28
+ n_ 1141
29
+ in 1130
30
+ ă_ 1034
31
+ _p 1003
32
+ t_ 1002
33
+ te 999
34
+ de_ 976
35
+ or 941
36
+ ar 935
37
+ st 897
38
+ ni 887
39
+ ș 881
40
+ _s 872
41
+ ț 857
42
+ _r 856
43
+ _l 830
44
+ î 819
45
+ l_ 813
46
+ _î 810
47
+ ul 807
48
+ f 789
49
+ în 769
50
+ _în 765
51
+ ce 761
52
+ ro 743
53
+ v 742
54
+ al 737
55
+ la 733
56
+ er 716
57
+ ta 712
58
+ nt 704
59
+ le 702
60
+ es 690
61
+ â 649
62
+ om 646
63
+ _m 641
64
+ g 634
65
+ și 616
66
+ ia 601
67
+ en 601
68
+ b 599
69
+ ti 599
70
+ ra 598
71
+ și_ 590
72
+ _ș 588
73
+ un 574
74
+ it 570
75
+ în_ 568
76
+ ea 568
77
+ di 567
78
+ ți 557
79
+ ân 556
80
+ _și 551
81
+ tr 544
82
+ an 538
83
+ _e 537
84
+ ma 534
85
+ ie 525
86
+ cu 521
87
+ te_ 515
88
+ ur 505
89
+ ic 496
90
+ _la 493
91
+ la_ 488
92
+ r_ 485
93
+ u_ 484
94
+ rom 481
95
+ _i 480
96
+ ul_ 478
97
+ le_ 478
98
+ _ro 473
99
+ pr 473
100
+ on 472
101
+ el 467
102
+ ac 467
103
+ mâ 463
104
+ mân 463
105
+ ii 460
106
+ z 459
107
+ tu 459
108
+ li 455
109
+ re_ 454
110
+ ne 453
111
+ at_ 449
112
+ _f 442
113
+ _a_ 421
114
+ omâ 412
115
+ to 406
116
+ pe 404
117
+ co 402
118
+ il 391
119
+ lo 389
120
+ ca 370
121
+ _t 364
122
+ _ac 363
123
+ are 363
124
+ _di 362
125
+ lu 359
126
+ da 358
127
+ ea_ 353
128
+ _pr 350
129
+ _u 350
130
+ me 349
131
+ ia_ 349
132
+ na 343
133
+ ec 340
134
+ sa 339
135
+ is 331
136
+ din 331
137
+ ii_ 322
138
+ in_ 315
139
+ ei 311
140
+ tă 310
141
+ _n 309
142
+ âni 308
143
+ im 306
144
+ ci 304
145
+ nd 298
146
+ _o 297
147
+ mi 293
148
+ ru 292
149
+ ei_ 292
150
+ _co 287
151
+ ces 285
152
+ se 285
153
+ ta_ 282
154
+ _da 282
155
+ ui 282
156
+ ori 282
157
+ _re 276
158
+ est 271
159
+ tor 271
160
+ dat 270
161
+ po 266
162
+ ate 264
163
+ _ma 258
164
+ or_ 251
165
+ cc 249
166
+ nu 244
167
+ as 244
168
+ că 243
169
+ cce 241
170
+ _al 240
171
+ ata 240
172
+ fo 240
173
+ pa 239
174
+ um 239
175
+ aț 238
176
+ sat 238
177
+ acc 237
178
+ _un 236
179
+ _cu 232
180
+ ent 232
181
+ ie_ 231
182
+ esa 231
183
+ al_ 229
184
+ rt 228
185
+ _ca 224
186
+ fi 222
187
+ _pe 222
188
+ tă_ 219
189
+ s_ 218
190
+ iu 217
191
+ sc 217
192
+ ați 216
193
+ ele 216
194
+ ist 215
195
+ ve 215
196
+ su 215
197
+ ri_ 212
198
+ lor 212
199
+ ntr 211
200
+ nia 210
201
+ iv 209
202
+ ste 207
203
+ con 206
204
+ ol 205
205
+ _ce 203
206
+ io 203
207
+ au 202
208
+ h 201
209
+ ale 199
210
+ ăr 199
211
+ ui_ 198
212
+ o_ 196
213
+ mu 196
214
+ ns 196
215
+ _v 196
216
+ _fo 195
217
+ em 195
218
+ pri 195
219
+ _in 193
220
+ int 192
221
+ ai 191
222
+ rea 191
223
+ tur 188
224
+ nc 188
225
+ d_ 187
226
+ ter 187
227
+ ră 186
228
+ că_ 185
229
+ oc 183
230
+ rm 183
231
+ lui 181
232
+ du 179
233
+ tat 177
234
+ ut 176
235
+ șt 174
236
+ _b 173
237
+ si 172
238
+ oa 172
239
+ _se 172
240
+ eri 170
241
+ _su 169
242
+ op 169
243
+ pu 167
244
+ lt 166
245
+ ne_ 163
246
+ os 162
247
+ no 157
248
+ iei 156
249
+ vi 155
250
+ pre 155
251
+ nț 155
252
+ tra 154
253
+ ct 153
254
+ cu_ 153
255
+ ulu 153
256
+ mp 151
257
+ ai_ 151
258
+ uri 149
259
+ sp 149
260
+ tre 148
261
+ ce_ 148
262
+ st_ 148
263
+ ge 147
264
+ nte 147
265
+ ani 146
266
+ x 146
267
+ _es 146
268
+ nt_ 144
269
+ c_ 143
270
+ eș 143
271
+ ed 142
272
+ _au 142
273
+ mai 140
274
+ _g 140
275
+ tul 140
276
+ et 140
277
+ uc 138
278
+ j 138
279
+ uni 138
280
+ ile 137
281
+ m_ 137
282
+ car 136
283
+ men 134
284
+ eg 134
285
+ se_ 133
286
+ do 132
287
+ str 131
288
+ va 130
289
+ au_ 129
290
+ _po 129
291
+ mo 128
292
+ sta 128
293
+ ita 127
294
+ ar_ 127
295
+ gi 127
296
+ ad 127
297
+ ep 126
298
+ _st 126
299
+ ona 126
300
+ _pa 125
301
+ nd_ 125
302
+ nă 124
303
+ ap 123
304
+ ilo 123
305
+ ni_ 123
306
+ am 122
307
+ nie 122
308
+ ez 122
309
+ rii 121
310
+ _tr 119
311
+ zi 119
312
+ ști 119
313
+ eșt 118
314
+ par 117
315
+ ot 117
316
+ pă 116
317
+ _ar 116
318
+ ție 115
319
+ ion 115
320
+ ră_ 115
321
+ up 111
322
+ _mi 111
323
+ era 111
324
+ rat 110
325
+ ra_ 110
326
+ tru 110
327
+ cl 110
328
+ _o_ 109
329
+ mat 109
330
+ nal 109
331
+ rin 108
332
+ pe_ 108
333
+ _nu 108
334
+ ost 107
335
+ ță 107
336
+ us 107
337
+ un_ 107
338
+ mb 105
339
+ ir 105
340
+ ere 104
341
+ cur 104
342
+ nă_ 104
343
+ tiv 104
344
+ ini 104
345
+ să 103
346
+ tic 103
347
+ iz 103
348
+ ări 103
349
+ _fi 103
350
+ bu 102
351
+ por 102
352
+ _mo 102
353
+ num 102
354
+ rma 102
355
+ cr 101
356
+ lă 100
357
+ ch 100
358
+ itu 100
359
+ ga 99
360
+ hi 99
361
+ mar 99
362
+ art 99
363
+ for 99
364
+ ene 99
365
+ za 99
366
+ rit 99
367
+ ică 99
368
+ ace 97
369
+ fe 97
370
+ bi 97
371
+ ice 97
372
+ pi 96
373
+ ici 96
374
+ pro 96
375
+ mul 95
376
+ ati 95
377
+ lit 94
378
+ ba 94
379
+ ort 94
380
+ ito 94
381
+ ud 94
382
+ ind 94
383
+ ine 94
384
+ rn 94
385
+ fos 93
386
+ ții 93
387
+ _an 92
388
+ nea 92
389
+ tar 92
390
+ reș 92
391
+ loc 92
392
+ mă 92
393
+ „ 91
394
+ ”_ 91
395
+ _„ 91
396
+ _lo 91
397
+ ” 91
398
+ sti 90
399
+ _li 90
400
+ ăt 89