scylla 0.9.3 → 1.2.0

Sign up to get free protection for your applications and to get access to all the features.
Files changed (86) hide show
  1. checksums.yaml +7 -0
  2. data/README.rdoc +3 -12
  3. data/bin/scylla +1 -1
  4. data/lib/scylla/classifier.rb +3 -2
  5. data/lib/scylla/generator.rb +11 -4
  6. data/lib/scylla/lms/arabic.lm +400 -400
  7. data/lib/scylla/lms/bulgarian.lm +400 -400
  8. data/lib/scylla/lms/catalan.lm +400 -400
  9. data/lib/scylla/lms/chinese.lm +395 -395
  10. data/lib/scylla/lms/czech.lm +397 -397
  11. data/lib/scylla/lms/danish.lm +372 -372
  12. data/lib/scylla/lms/dutch.lm +382 -382
  13. data/lib/scylla/lms/english.lm +378 -378
  14. data/lib/scylla/lms/finnish.lm +388 -388
  15. data/lib/scylla/lms/french.lm +392 -392
  16. data/lib/scylla/lms/german.lm +396 -396
  17. data/lib/scylla/lms/greek.lm +400 -400
  18. data/lib/scylla/lms/hebrew.lm +400 -400
  19. data/lib/scylla/lms/hindi.lm +399 -399
  20. data/lib/scylla/lms/icelandic.lm +225 -225
  21. data/lib/scylla/lms/indonesian.lm +391 -391
  22. data/lib/scylla/lms/italian.lm +382 -382
  23. data/lib/scylla/lms/japanese.lm +400 -400
  24. data/lib/scylla/lms/kannada.lm +392 -392
  25. data/lib/scylla/lms/korean.lm +391 -391
  26. data/lib/scylla/lms/marathi.lm +388 -388
  27. data/lib/scylla/lms/norwegian.lm +375 -375
  28. data/lib/scylla/lms/persian.lm +399 -399
  29. data/lib/scylla/lms/polish.lm +399 -399
  30. data/lib/scylla/lms/portuguese.lm +390 -390
  31. data/lib/scylla/lms/romanian.lm +353 -353
  32. data/lib/scylla/lms/russian.lm +400 -400
  33. data/lib/scylla/lms/slovak.lm +361 -361
  34. data/lib/scylla/lms/slovenian.lm +273 -273
  35. data/lib/scylla/lms/spanish.lm +371 -371
  36. data/lib/scylla/lms/swedish.lm +400 -400
  37. data/lib/scylla/lms/tagalog.lm +295 -295
  38. data/lib/scylla/lms/thai.lm +400 -400
  39. data/lib/scylla/lms/turkish.lm +377 -377
  40. data/lib/scylla/lms/vietnamese.lm +400 -400
  41. data/lib/scylla/lms/welsh.lm +311 -311
  42. data/lib/scylla/loader.rb +1 -1
  43. data/test/classifier_test.rb +6 -4
  44. data/test/fixtures/lms/arabic.lm +400 -0
  45. data/test/fixtures/lms/bulgarian.lm +400 -0
  46. data/test/fixtures/lms/catalan.lm +400 -0
  47. data/test/fixtures/lms/chinese.lm +400 -0
  48. data/test/fixtures/lms/czech.lm +400 -0
  49. data/test/fixtures/lms/danish.lm +399 -399
  50. data/test/fixtures/lms/dutch.lm +400 -0
  51. data/test/fixtures/lms/english.lm +400 -400
  52. data/test/fixtures/lms/finnish.lm +400 -0
  53. data/test/fixtures/lms/french.lm +397 -397
  54. data/test/fixtures/lms/german.lm +400 -400
  55. data/test/fixtures/lms/greek.lm +400 -0
  56. data/test/fixtures/lms/hebrew.lm +400 -0
  57. data/test/fixtures/lms/hindi.lm +400 -400
  58. data/test/fixtures/lms/icelandic.lm +400 -0
  59. data/test/fixtures/lms/indonesian.lm +400 -0
  60. data/test/fixtures/lms/italian.lm +400 -400
  61. data/test/fixtures/lms/japanese.lm +400 -400
  62. data/test/fixtures/lms/kannada.lm +400 -0
  63. data/test/fixtures/lms/korean.lm +400 -0
  64. data/test/fixtures/lms/marathi.lm +400 -0
  65. data/test/fixtures/lms/norwegian.lm +399 -399
  66. data/test/fixtures/lms/persian.lm +400 -0
  67. data/test/fixtures/lms/polish.lm +400 -0
  68. data/test/fixtures/lms/portuguese.lm +400 -0
  69. data/test/fixtures/lms/romanian.lm +400 -0
  70. data/test/fixtures/lms/russian.lm +400 -0
  71. data/test/fixtures/lms/slovak.lm +400 -0
  72. data/test/fixtures/lms/slovenian.lm +400 -0
  73. data/test/fixtures/lms/spanish.lm +400 -400
  74. data/test/fixtures/lms/swedish.lm +400 -0
  75. data/test/fixtures/lms/tagalog.lm +400 -0
  76. data/test/fixtures/lms/thai.lm +400 -0
  77. data/test/fixtures/lms/turkish.lm +400 -0
  78. data/test/fixtures/lms/vietnamese.lm +400 -0
  79. data/test/fixtures/lms/welsh.lm +400 -0
  80. data/test/fixtures/test_languages/japanese +149 -67
  81. data/test/generator_test.rb +2 -44
  82. data/test/helper.rb +3 -3
  83. data/test/language_test.rb +6 -2
  84. data/test/loader_test.rb +2 -2
  85. data/test/scylla_test.rb +7 -7
  86. metadata +144 -95
@@ -0,0 +1,400 @@
1
+ _ 11190
2
+ n 2470
3
+ h 1626
4
+ t 1373
5
+ c 1297
6
+ i 1123
7
+ _t 972
8
+ g 935
9
+ ng 789
10
+ _n 757
11
+ n_ 738
12
+ _c 714
13
+ a 684
14
+ g_ 631
15
+ ng_ 630
16
+ v 536
17
+ _v 526
18
+ m 514
19
+ c_ 509
20
+ u 494
21
+ _đ 477
22
+ đ 477
23
+ nh 475
24
+ i_ 442
25
+ à 427
26
+ o 392
27
+ m_ 372
28
+ ư 351
29
+ t_ 347
30
+ h_ 344
31
+ r 337
32
+ _h 325
33
+ th 299
34
+ _th 298
35
+ nh_ 290
36
+ l 289
37
+ ệ 283
38
+ p 275
39
+ ch 271
40
+ _l 267
41
+ a_ 259
42
+ iệ 252
43
+ á 247
44
+ tr 244
45
+ à_ 242
46
+ _tr 242
47
+ d 230
48
+ _ch 219
49
+ s 218
50
+ y 213
51
+ ộ 210
52
+ ớ 209
53
+ k 204
54
+ na 203
55
+ _k 200
56
+ b 200
57
+ ế 192
58
+ vi 190
59
+ _na 190
60
+ _vi 188
61
+ _nh 185
62
+ _b 184
63
+ o_ 183
64
+ u_ 181
65
+ am 180
66
+ am_ 178
67
+ _d 177
68
+ nam 175
69
+ _s 175
70
+ ủ 163
71
+ ố 161
72
+ ề 160
73
+ việ 160
74
+ ệt 157
75
+ ệt_ 157
76
+ _ng 156
77
+ iệt 156
78
+ _và 154
79
+ và 154
80
+ hi 152
81
+ e 150
82
+ _q 142
83
+ qu 142
84
+ q 142
85
+ _qu 142
86
+ p_ 140
87
+ _g 140
88
+ ác 135
89
+ y_ 134
90
+ ạ 132
91
+ và_ 131
92
+ _p 127
93
+ _m 126
94
+ ó 124
95
+ ác_ 124
96
+ â 124
97
+ ă 122
98
+ ả 120
99
+ í 119
100
+ _ph 113
101
+ ph 113
102
+ ê 109
103
+ _cá 108
104
+ cá 108
105
+ ờ 107
106
+ ướ 106
107
+ các 104
108
+ an 100
109
+ kh 100
110
+ _kh 100
111
+ ên 100
112
+ àn 97
113
+ ên_ 96
114
+ ó_ 96
115
+ ới_ 94
116
+ ấ 94
117
+ ới 94
118
+ ủa_ 93
119
+ _củ 93
120
+ củ 93
121
+ của 93
122
+ ủa 93
123
+ ơ 93
124
+ hà 92
125
+ ăm_ 91
126
+ ăm 91
127
+ hí 90
128
+ ị 89
129
+ nă 89
130
+ _nă 89
131
+ ân 88
132
+ ân_ 88
133
+ năm 87
134
+ ô 87
135
+ gi 86
136
+ ự 86
137
+ ền_ 85
138
+ _là 85
139
+ ền 85
140
+ là 85
141
+ _gi 84
142
+ uy 83
143
+ ở 83
144
+ ườ 80
145
+ có_ 80
146
+ có 80
147
+ ôn 79
148
+ _có 79
149
+ on 79
150
+ ế_ 78
151
+ ớc 77
152
+ ước 77
153
+ ớc_ 77
154
+ ản 76
155
+ là_ 76
156
+ ậ 76
157
+ iề 74
158
+ in 71
159
+ ại_ 70
160
+ ầ 70
161
+ ợ 70
162
+ ại 70
163
+ ín 68
164
+ ính 68
165
+ ã 68
166
+ ông 67
167
+ chí 67
168
+ hư 66
169
+ ến 66
170
+ ho 65
171
+ hủ 65
172
+ ến_ 65
173
+ ượ 65
174
+ ở_ 64
175
+ ành 64
176
+ hàn 62
177
+ ủ_ 62
178
+ há 62
179
+ ong 62
180
+ nướ 61
181
+ nư 61
182
+ _đư 61
183
+ hủ_ 61
184
+ đư 61
185
+ ện 61
186
+ _nư 61
187
+ _vớ 59
188
+ với 59
189
+ vớ 59
190
+ ội_ 58
191
+ ội 58
192
+ ổ 58
193
+ ro 58
194
+ hiệ 58
195
+ ện_ 58
196
+ x 57
197
+ ời_ 57
198
+ ời 57
199
+ ố_ 56
200
+ ể 56
201
+ hín 55
202
+ tro 54
203
+ iện 54
204
+ ron 54
205
+ uố 53
206
+ tế_ 53
207
+ tế 53
208
+ ứ 53
209
+ _tế 53
210
+ ữ 53
211
+ _x 52
212
+ ch_ 52
213
+ dâ 52
214
+ dân 52
215
+ ất 52
216
+ ất_ 52
217
+ _dâ 52
218
+ ã_ 52
219
+ ốc 50
220
+ ốc_ 50
221
+ _hi 49
222
+ an_ 49
223
+ cơ 48
224
+ _cơ 48
225
+ ộc_ 48
226
+ ộc 48
227
+ ừ 47
228
+ quố 47
229
+ uốc 47
230
+ cơ_ 47
231
+ ơ_ 47
232
+ inh 46
233
+ iế 46
234
+ ợc_ 45
235
+ he 45
236
+ _hộ 45
237
+ iê 45
238
+ hộ 45
239
+ hu 45
240
+ ược 45
241
+ ợc 45
242
+ iên 44
243
+ ơn 44
244
+ hội 44
245
+ _ở_ 43
246
+ ừ_ 43
247
+ iể 43
248
+ _số 43
249
+ từ 43
250
+ _từ 43
251
+ số 43
252
+ _ở 43
253
+ ua 43
254
+ qua 43
255
+ the 42
256
+ gư 42
257
+ ì 42
258
+ ngư 42
259
+ mi 42
260
+ từ_ 42
261
+ _mi 42
262
+ iền 41
263
+ gườ 41
264
+ ười 41
265
+ ều 40
266
+ ều_ 40
267
+ ảng 40
268
+ ự_ 40
269
+ ờn 39
270
+ ữn 39
271
+ ờng 39
272
+ ru 39
273
+ uan 39
274
+ ti 39
275
+ số_ 39
276
+ đượ 39
277
+ ườn 39
278
+ hữ 39
279
+ ững 39
280
+ ộn 39
281
+ ù 39
282
+ _ki 38
283
+ ộng 38
284
+ ư_ 38
285
+ hữn 38
286
+ nhữ 38
287
+ _hà 38
288
+ ki 38
289
+ ọ 37
290
+ ực 37
291
+ rư 37
292
+ trư 37
293
+ đạ 37
294
+ nhi 37
295
+ _đạ 37
296
+ hứ 37
297
+ ực_ 37
298
+ ay 37
299
+ gh 37
300
+ ớn 37
301
+ tru 37
302
+ _tổ 36
303
+ ắ 36
304
+ ay_ 36
305
+ hấ 36
306
+ tổ 36
307
+ ao 35
308
+ ộ_ 35
309
+ tạ 35
310
+ ao_ 35
311
+ _r 35
312
+ ần 35
313
+ _tạ 35
314
+ ức 34
315
+ ức_ 34
316
+ miề 34
317
+ ồ 34
318
+ ùn 34
319
+ ùng 34
320
+ ị_ 34
321
+ chủ 33
322
+ ổ_ 33
323
+ ìn 33
324
+ eo 33
325
+ ốn 33
326
+ ri 33
327
+ ngh 32
328
+ án 32
329
+ ra 32
330
+ ò 32
331
+ eo_ 32
332
+ _đế 32
333
+ thà 32
334
+ ần_ 32
335
+ heo 32
336
+ đế 32
337
+ hố 31
338
+ ầu 31
339
+ ầu_ 31
340
+ ăn 31
341
+ ài 31
342
+ ài_ 31
343
+ đến 31
344
+ ề_ 31
345
+ ển 30
346
+ ển_ 30
347
+ ấp 30
348
+ gà 30
349
+ _đã 30
350
+ đã 30
351
+ đã_ 30
352
+ tư 30
353
+ ập_ 30
354
+ ột 30
355
+ ột_ 30
356
+ ập 30
357
+ ngà 30
358
+ _tư 30
359
+ hà_ 30
360
+ hức 30
361
+ iều 30
362
+ ấp_ 30
363
+ vù 29
364
+ ịch 29
365
+ bi 29
366
+ ca 29
367
+ kin 29
368
+ ình 29
369
+ vùn 29
370
+ ia 29
371
+ một 29
372
+ _ti 29
373
+ mộ 29
374
+ ản_ 29
375
+ yền 29
376
+ _vù 29
377
+ _mộ 29
378
+ hô 29
379
+ yề 29
380
+ _độ 29
381
+ độ 29
382
+ hậ 29
383
+ uyề 29
384
+ hôn 29
385
+ ịc 29
386
+ hâ 28
387
+ như 28
388
+ ú 28
389
+ un 28
390
+ _ca 28
391
+ _bi 28
392
+ hiế 28
393
+ tại 27
394
+ ạn 27
395
+ ơng 27
396
+ phá 27
397
+ ụ 27
398
+ _đi 27
399
+ ọc_ 27
400
+ đi 27
@@ -0,0 +1,400 @@
1
+ _ 3298
2
+ d 809
3
+ y 721
4
+ a 645
5
+ n 584
6
+ e 566
7
+ r 555
8
+ i 474
9
+ o 408
10
+ l 363
11
+ w 312
12
+ g 308
13
+ d_ 273
14
+ _y 260
15
+ h 256
16
+ n_ 250
17
+ dd 225
18
+ c 217
19
+ f 211
20
+ m 199
21
+ s 184
22
+ t 183
23
+ u 182
24
+ r_ 175
25
+ _a 170
26
+ yn 166
27
+ _c 158
28
+ _g 147
29
+ y_ 125
30
+ u_ 124
31
+ wy 121
32
+ yd 119
33
+ yn_ 117
34
+ ym 116
35
+ dd_ 115
36
+ _r 109
37
+ ed 106
38
+ an 102
39
+ i_ 101
40
+ l_ 100
41
+ _yn 99
42
+ _d 96
43
+ _y_ 94
44
+ _o 93
45
+ th 93
46
+ ae 93
47
+ _cy 90
48
+ cy 90
49
+ b 87
50
+ di 82
51
+ od 80
52
+ a_ 78
53
+ mr 77
54
+ ymr 77
55
+ ad 76
56
+ h_ 73
57
+ ia 73
58
+ ll 71
59
+ edd 69
60
+ _a_ 67
61
+ oe 67
62
+ g_ 66
63
+ cym 66
64
+ _r_ 64
65
+ th_ 63
66
+ ai 63
67
+ _i 63
68
+ ol 62
69
+ o_ 61
70
+ en 61
71
+ ga 61
72
+ ar 59
73
+ _s 58
74
+ _e 58
75
+ _n 56
76
+ _f 56
77
+ wyd 56
78
+ ei 55
79
+ et 55
80
+ eth 55
81
+ _w 53
82
+ la 52
83
+ _h 52
84
+ aet 52
85
+ in 50
86
+ er 50
87
+ ru 48
88
+ ru_ 48
89
+ ol_ 48
90
+ ra 47
91
+ mru 47
92
+ ydd 47
93
+ yd_ 47
94
+ _o_ 46
95
+ ni 46
96
+ re 44
97
+ gy 44
98
+ _m 44
99
+ fe 44
100
+ ha 44
101
+ an_ 44
102
+ _ga 44
103
+ we 44
104
+ el 44
105
+ _i_ 43
106
+ _b 43
107
+ ys 43
108
+ ro 43
109
+ oed 43
110
+ on 43
111
+ da 42
112
+ ad_ 42
113
+ ri 41
114
+ do 41
115
+ ry 40
116
+ de 40
117
+ ddi 40
118
+ odd 40
119
+ ch 40
120
+ _l 39
121
+ og 38
122
+ au 38
123
+ au_ 38
124
+ gw 37
125
+ m_ 37
126
+ le 37
127
+ si 37
128
+ ne 36
129
+ id 36
130
+ yf 36
131
+ lo 35
132
+ yr 35
133
+ no 34
134
+ f_ 34
135
+ _gw 33
136
+ yw 33
137
+ p 33
138
+ rh 32
139
+ nn 32
140
+ e_ 32
141
+ _t 32
142
+ _gy 32
143
+ he 32
144
+ w_ 32
145
+ gan 32
146
+ eg 31
147
+ _ar 31
148
+ es 31
149
+ _ll 31
150
+ io 31
151
+ ir 30
152
+ nd 30
153
+ go 29
154
+ na 29
155
+ s_ 29
156
+ ef 28
157
+ hy 28
158
+ if 28
159
+ _dd 28
160
+ _rh 28
161
+ ng 27
162
+ in_ 27
163
+ dw 27
164
+ yr_ 27
165
+ ma 27
166
+ lad 26
167
+ ig 26
168
+ gr 26
169
+ fy 26
170
+ _si 26
171
+ ac 26
172
+ _ym 25
173
+ st 25
174
+ dy 24
175
+ roe 24
176
+ wl 24
177
+ rif 24
178
+ wn 24
179
+ ddo 23
180
+ ca 23
181
+ ar_ 23
182
+ af 23
183
+ iad 23
184
+ un 23
185
+ _ma 23
186
+ _p 22
187
+ eu 22
188
+ sg 22
189
+ er_ 22
190
+ iw 22
191
+ c_ 22
192
+ wed 21
193
+ nw 21
194
+ wla 21
195
+ nd_ 21
196
+ _ac 20
197
+ wr 20
198
+ idd 20
199
+ ew 20
200
+ ac_ 20
201
+ so 20
202
+ ig_ 20
203
+ _fe 20
204
+ _de 20
205
+ is 19
206
+ _yr 19
207
+ aw 19
208
+ al 19
209
+ or 19
210
+ cr 19
211
+ _er 19
212
+ hr 19
213
+ il 19
214
+ ond 19
215
+ _on 19
216
+ _cr 19
217
+ by 19
218
+ _go 18
219
+ od_ 18
220
+ nt 18
221
+ rha 18
222
+ el_ 18
223
+ _u 18
224
+ _ca 18
225
+ it 18
226
+ _di 18
227
+ _he 18
228
+ fr 18
229
+ lw 18
230
+ fa 18
231
+ _ne 18
232
+ efy 17
233
+ ir_ 17
234
+ sir 17
235
+ hi 17
236
+ am 17
237
+ fel 17
238
+ loe 17
239
+ ny 17
240
+ dia 17
241
+ on_ 17
242
+ li 17
243
+ fyd 16
244
+ yl 16
245
+ ai_ 16
246
+ ith 16
247
+ ff 16
248
+ dwy 16
249
+ ain 16
250
+ gl 16
251
+ _wl 16
252
+ diw 16
253
+ dol 16
254
+ eu_ 16
255
+ se 16
256
+ nr 15
257
+ rae 15
258
+ rw 15
259
+ eg_ 15
260
+ ty 15
261
+ han 15
262
+ lle 15
263
+ _hy 15
264
+ wys 15
265
+ _am 15
266
+ anr 15
267
+ t_ 15
268
+ aid 15
269
+ yw_ 15
270
+ dod 15
271
+ dr 14
272
+ gym 14
273
+ lwy 14
274
+ nia 14
275
+ ae_ 14
276
+ nwy 14
277
+ if_ 14
278
+ hw 14
279
+ mry 14
280
+ gae 14
281
+ ho 14
282
+ ly 14
283
+ ym_ 14
284
+ ng_ 14
285
+ rd 14
286
+ mae 14
287
+ _un 14
288
+ dl 14
289
+ sia 13
290
+ _se 13
291
+ ann 13
292
+ rth 13
293
+ nol 13
294
+ wyn 13
295
+ af_ 13
296
+ llo 13
297
+ iae 13
298
+ rt 13
299
+ bo 13
300
+ _ei 13
301
+ enw 12
302
+ ei_ 12
303
+ am_ 12
304
+ ryd 12
305
+ egr 12
306
+ ywy 12
307
+ _ys 12
308
+ nt_ 12
309
+ ry_ 12
310
+ ll_ 12
311
+ ob 12
312
+ me 12
313
+ wa 12
314
+ fi 12
315
+ gr_ 12
316
+ iai 12
317
+ ynn 12
318
+ _n_ 12
319
+ du 12
320
+ rai 12
321
+ gwe 12
322
+ _da 12
323
+ oeg 12
324
+ eit 12
325
+ _oe 11
326
+ wn_ 11
327
+ cyf 11
328
+ id_ 11
329
+ fo 11
330
+ yll 11
331
+ edi 11
332
+ br 11
333
+ _ro 11
334
+ byn 11
335
+ yst 11
336
+ _ty 11
337
+ ta 11
338
+ yso 11
339
+ sog 11
340
+ oga 11
341
+ led 11
342
+ ren 11
343
+ hyn 11
344
+ ed_ 11
345
+ nri 11
346
+ es_ 11
347
+ tr 11
348
+ mra 10
349
+ rwy 10
350
+ wrt 10
351
+ aeg 10
352
+ wyr 10
353
+ can 10
354
+ nyd 10
355
+ fod 10
356
+ gyf 10
357
+ pa 10
358
+ _tr 10
359
+ _ce 10
360
+ te 10
361
+ rei 10
362
+ ce 10
363
+ ysg 10
364
+ _ha 10
365
+ dai 10
366
+ sy 10
367
+ _dy 10
368
+ yfe 10
369
+ yfr 10
370
+ wi 10
371
+ ch_ 10
372
+ _ch 10
373
+ _we 10
374
+ lla 10
375
+ dde 10
376
+ ud 10
377
+ nh 10
378
+ bl 10
379
+ di_ 10
380
+ _br 9
381
+ hry 9
382
+ _an 9
383
+ wd 9
384
+ ynt 9
385
+ _me 9
386
+ fwy 9
387
+ ec 9
388
+ fw 9
389
+ _ni 9
390
+ _bo 9
391
+ hin 9
392
+ ill 9
393
+ os 9
394
+ og_ 9
395
+ ryf 9
396
+ en_ 9
397
+ neu 9
398
+ yda 9
399
+ ur 9
400
+ ddw 9