@llmgateway/models 1.156.0 → 1.157.0

This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Files changed (5) hide show
  1. package/dist/models/meta.d.ts +4 -0
  2. package/dist/models/meta.js +4 -0
  3. package/dist/models/meta.js.map +1 -1
  4. package/dist/models.d.ts +4 -0
  5. package/package.json +1 -1
package/dist/models/meta.d.ts CHANGED
@@ -80,6 +80,7 @@ export declare const metaModels: [{
80
80
  readonly requestPrice: "0";
81
81
  readonly contextSize: 16384;
82
82
  readonly maxOutput: 16384;
83
+ readonly quantization: "fp8";
83
84
  readonly streaming: true;
84
85
  readonly vision: false;
85
86
  readonly tools: false;
@@ -207,6 +208,7 @@ export declare const metaModels: [{
207
208
  readonly requestPrice: "0";
208
209
  readonly contextSize: 131072;
209
210
  readonly maxOutput: 120000;
211
+ readonly quantization: "bf16";
210
212
  readonly streaming: true;
211
213
  readonly vision: false;
212
214
  readonly tools: true;
@@ -282,6 +284,7 @@ export declare const metaModels: [{
282
284
  readonly requestPrice: "0";
283
285
  readonly contextSize: 131072;
284
286
  readonly maxOutput: 131072;
287
+ readonly quantization: "bf16";
285
288
  readonly streaming: true;
286
289
  readonly vision: true;
287
290
  readonly tools: false;
@@ -375,6 +378,7 @@ export declare const metaModels: [{
375
378
  readonly requestPrice: "0";
376
379
  readonly contextSize: 32768;
377
380
  readonly maxOutput: 32000;
381
+ readonly quantization: "bf16";
378
382
  readonly streaming: true;
379
383
  readonly vision: false;
380
384
  readonly tools: false;
package/dist/models/meta.js CHANGED
@@ -92,6 +92,7 @@ export const metaModels = [
92
92
  requestPrice: "0",
93
93
  contextSize: 16384,
94
94
  maxOutput: 16384,
95
+ quantization: "fp8",
95
96
  streaming: true,
96
97
  vision: false,
97
98
  tools: false,
@@ -251,6 +252,7 @@ export const metaModels = [
251
252
  requestPrice: "0",
252
253
  contextSize: 131072,
253
254
  maxOutput: 120000,
255
+ quantization: "bf16",
254
256
  streaming: true,
255
257
  vision: false,
256
258
  tools: true,
@@ -336,6 +338,7 @@ export const metaModels = [
336
338
  requestPrice: "0",
337
339
  contextSize: 131072,
338
340
  maxOutput: 131072,
341
+ quantization: "bf16",
339
342
  streaming: true,
340
343
  vision: true,
341
344
  tools: false,
@@ -442,6 +445,7 @@ export const metaModels = [
442
445
  requestPrice: "0",
443
446
  contextSize: 32768,
444
447
  maxOutput: 32000,
448
+ quantization: "bf16",
445
449
  streaming: true,
446
450
  vision: false,
447
451
  tools: false,
package/dist/models/meta.js.map CHANGED
@@ -1 +1 @@
1
- {"version":3,"file":"meta.js","sourceRoot":"","sources":["../../src/models/meta.ts"],"names":[],"mappings":"AAEA,MAAM,CAAC,MAAM,UAAU,GAAG;IACzB;QACC,EAAE,EAAE,uBAAuB;QAC3B,IAAI,EAAE,uBAAuB;QAC7B,WAAW,EAAE,kDAAkD;QAC/D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,gCAAgC;gBAC5C,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,uCAAuC;gBACnD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,eAAe;gBAC3B,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,uCAAuC;gBACnD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,6CAA6C;gBAEzD,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;gBACrC,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,KAAK;aACjB;YACD;gBAEC,UAAU,EAAE,UAAU;gBACtB,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBAEb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;gBAChB,mBAAmB,EAAE;oBACpB,aAAa;oBACb,YAAY;oBACZ,OAAO;oBACP,iBAAiB;iBACjB;gBACD,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,kCAAkC;gBAC9C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,KAAK;gBAClB,SAAS,EAAE,KAAK;gBAChB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;gBAChB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;SACD;KACD;IACD;QACC,EAAE,EAAE,wBAAwB;QAC5B,IAAI,EAAE,wBAAwB;QAC9B,WAAW,EAAE,+CAA+C;QAC5D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,iCAAiC;gBAC7C,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;SACD;KACD;IACD;QACC,EAAE,EAAE,wBAAwB;QAC5B,IAAI,EAAE,wBAAwB;QAC9B,WAAW,EAAE,gDAAgD;QAC7D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,eAAe;gBAC3B,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,yCAAyC;gBACrD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,+BAA+B;QACnC,IAAI,EAAE,+BAA+B;QACrC,WAAW,EAAE,qDAAqD;QAClE,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,yCAAyC;gBACrD,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,mBAAmB;QACvB,IAAI,EAAE,mBAAmB;QACzB,WAAW,EAAE,8CAA8C;QAC3D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,MAAM;gBAClB,UAAU,EAAE,8BAA8B;gBAE1C,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;gBACrC,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;SACD;KACD;IACD;QACC,EAAE,EAAE,wBAAwB;QAC5B,IAAI,EAAE,wBAAwB;QAC9B,WAAW,EAAE,kDAAkD;QAC/D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,mCAAmC;gBAC/C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,IAAI;gBAEhB,mBAAmB,EAAE;oBACpB,aAAa;oBACb,YAAY;oBACZ,OAAO;oBACP,mBAAmB;oBACnB,kBAAkB;oBAClB,MAAM;oBACN,QAAQ;oBACR,iBAAiB;oBACjB,OAAO;iBACP;aACD;YACD;gBAEC,UAAU,EAAE,UAAU;gBACtB,IAAI,EAAE,MAAM;gBACZ,UAAU,EAAE,eAAe;gBAC3B,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,IAAI;gBAChB,mBAAmB,EAAE;oBACpB,aAAa;oBACb,YAAY;oBACZ,OAAO;oBACP,iBAAiB;iBACjB;aACD;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,IAAI,EAAE,MAAM;gBACZ,UAAU,EAAE,mCAAmC;gBAC/C,UAAU,EAAE,UAAU;gBACtB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,MAAM;gBACjB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,KAAK;aACjB;SACD;KACD;IACD;QACC,EAAE,EAAE,yBAAyB;QAC7B,IAAI,EAAE,yBAAyB;QAC/B,WAAW,EAAE,+CAA+C;QAC5D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,yCAAyC;gBACrD,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,IAAI;gBAChB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;SACD;KACD;IAwBD;QACC,EAAE,EAAE,eAAe;QACnB,IAAI,EAAE,eAAe;QACrB,WAAW,EAAE,uDAAuD;QACpE,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,aAAa;gBACzB,SAAS,EAAE,UAAmB;gBAC9B,UAAU,EAAE,+CAA+C;gBAC3D,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,KAAK;gBAClB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;SACD;KACD;IACD;QACC,EAAE,EAAE,4BAA4B;QAChC,IAAI,EAAE,4BAA4B;QAClC,WAAW,EAAE,4CAA4C;QACzD,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,qCAAqC;gBACjD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,eAAe,EAAE,MAAM;gBACvB,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;YACD;gBACC,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,2CAA2C;gBACvD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,MAAM;gBACjB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,+BAA+B;QACnC,IAAI,EAAE,+BAA+B;QACrC,WAAW,EAAE,oDAAoD;QACjE,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,wCAAwC;gBACpD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,eAAe,EAAE,MAAM;gBACvB,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,mDAAmD;gBAC/D,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,OAAO;gBACpB,SAAS,EAAE,IAAI;gBACf,YAAY,EAAE,KAAK;gBACnB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,qBAAqB;QACzB,IAAI,EAAE,qBAAqB;QAC3B,WAAW,EAAE,yCAAyC;QACtD,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,gCAAgC;gBAC5C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,sBAAsB;QAC1B,IAAI,EAAE,sBAAsB;QAC5B,WAAW,EAAE,0CAA0C;QACvD,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,IAAI,EAAE,MAAM;gBACZ,UAAU,EAAE,iCAAiC;gBAC7C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,uBAAuB;QAC3B,IAAI,EAAE,uBAAuB;QAC7B,WAAW,EAAE,+CAA+C;QAC5D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,kCAAkC;gBAC9C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,KAAK;gBAClB,SAAS,EAAE,KAAK;gBAChB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;CACoC,CAAC"}
1
+ {"version":3,"file":"meta.js","sourceRoot":"","sources":["../../src/models/meta.ts"],"names":[],"mappings":"AAEA,MAAM,CAAC,MAAM,UAAU,GAAG;IACzB;QACC,EAAE,EAAE,uBAAuB;QAC3B,IAAI,EAAE,uBAAuB;QAC7B,WAAW,EAAE,kDAAkD;QAC/D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,gCAAgC;gBAC5C,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,uCAAuC;gBACnD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,eAAe;gBAC3B,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,uCAAuC;gBACnD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,6CAA6C;gBAEzD,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;gBACrC,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,KAAK;aACjB;YACD;gBAEC,UAAU,EAAE,UAAU;gBACtB,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBAEb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;gBAChB,mBAAmB,EAAE;oBACpB,aAAa;oBACb,YAAY;oBACZ,OAAO;oBACP,iBAAiB;iBACjB;gBACD,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,kCAAkC;gBAC9C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,KAAK;gBAClB,SAAS,EAAE,KAAK;gBAChB,YAAY,EAAE,KAAK;gBACnB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;gBAChB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;SACD;KACD;IACD;QACC,EAAE,EAAE,wBAAwB;QAC5B,IAAI,EAAE,wBAAwB;QAC9B,WAAW,EAAE,+CAA+C;QAC5D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,iCAAiC;gBAC7C,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;SACD;KACD;IACD;QACC,EAAE,EAAE,wBAAwB;QAC5B,IAAI,EAAE,wBAAwB;QAC9B,WAAW,EAAE,gDAAgD;QAC7D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,eAAe;gBAC3B,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,yCAAyC;gBACrD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,+BAA+B;QACnC,IAAI,EAAE,+BAA+B;QACrC,WAAW,EAAE,qDAAqD;QAClE,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,yCAAyC;gBACrD,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,mBAAmB;QACvB,IAAI,EAAE,mBAAmB;QACzB,WAAW,EAAE,8CAA8C;QAC3D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,MAAM;gBAClB,UAAU,EAAE,8BAA8B;gBAE1C,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;gBACrC,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;SACD;KACD;IACD;QACC,EAAE,EAAE,wBAAwB;QAC5B,IAAI,EAAE,wBAAwB;QAC9B,WAAW,EAAE,kDAAkD;QAC/D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,mCAAmC;gBAC/C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,IAAI;gBAEhB,mBAAmB,EAAE;oBACpB,aAAa;oBACb,YAAY;oBACZ,OAAO;oBACP,mBAAmB;oBACnB,kBAAkB;oBAClB,MAAM;oBACN,QAAQ;oBACR,iBAAiB;oBACjB,OAAO;iBACP;aACD;YACD;gBAEC,UAAU,EAAE,UAAU;gBACtB,IAAI,EAAE,MAAM;gBACZ,UAAU,EAAE,eAAe;gBAC3B,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,IAAI;gBAChB,mBAAmB,EAAE;oBACpB,aAAa;oBACb,YAAY;oBACZ,OAAO;oBACP,iBAAiB;iBACjB;aACD;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,IAAI,EAAE,MAAM;gBACZ,UAAU,EAAE,mCAAmC;gBAC/C,UAAU,EAAE,UAAU;gBACtB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,MAAM;gBACjB,YAAY,EAAE,MAAM;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,KAAK;aACjB;SACD;KACD;IACD;QACC,EAAE,EAAE,yBAAyB;QAC7B,IAAI,EAAE,yBAAyB;QAC/B,WAAW,EAAE,+CAA+C;QAC5D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,yCAAyC;gBACrD,UAAU,EAAE,QAAQ;gBACpB,WAAW,EAAE,QAAQ;gBACrB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,IAAI;gBAChB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;SACD;KACD;IAwBD;QACC,EAAE,EAAE,eAAe;QACnB,IAAI,EAAE,eAAe;QACrB,WAAW,EAAE,uDAAuD;QACpE,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,aAAa;gBACzB,SAAS,EAAE,UAAmB;gBAC9B,UAAU,EAAE,+CAA+C;gBAC3D,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,KAAK;gBAClB,SAAS,EAAE,SAAS;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,IAAI;gBACX,UAAU,EAAE,KAAK;gBACjB,aAAa,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;aACrC;SACD;KACD;IACD;QACC,EAAE,EAAE,4BAA4B;QAChC,IAAI,EAAE,4BAA4B;QAClC,WAAW,EAAE,4CAA4C;QACzD,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,qCAAqC;gBACjD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,eAAe,EAAE,MAAM;gBACvB,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;YACD;gBACC,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,2CAA2C;gBACvD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,MAAM;gBACnB,SAAS,EAAE,MAAM;gBACjB,YAAY,EAAE,MAAM;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,+BAA+B;QACnC,IAAI,EAAE,+BAA+B;QACrC,WAAW,EAAE,oDAAoD;QACjE,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,aAAa;gBACzB,UAAU,EAAE,wCAAwC;gBACpD,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,eAAe,EAAE,MAAM;gBACvB,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,KAAK;aACjB;YACD;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,mDAAmD;gBAC/D,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,OAAO;gBACpB,SAAS,EAAE,IAAI;gBACf,YAAY,EAAE,KAAK;gBACnB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,IAAI;gBACZ,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,qBAAqB;QACzB,IAAI,EAAE,qBAAqB;QAC3B,WAAW,EAAE,yCAAyC;QACtD,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,UAAU,EAAE,gCAAgC;gBAC5C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,sBAAsB;QAC1B,IAAI,EAAE,sBAAsB;QAC5B,WAAW,EAAE,0CAA0C;QACvD,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,IAAI,EAAE,MAAM;gBACZ,UAAU,EAAE,iCAAiC;gBAC7C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,IAAI;gBACjB,SAAS,EAAE,IAAI;gBACf,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;IACD;QACC,EAAE,EAAE,uBAAuB;QAC3B,IAAI,EAAE,uBAAuB;QAC7B,WAAW,EAAE,+CAA+C;QAC5D,MAAM,EAAE,MAAM;QACd,UAAU,EAAE,IAAI,IAAI,CAAC,YAAY,CAAC;QAClC,SAAS,EAAE;YACV;gBACC,UAAU,EAAE,QAAQ;gBACpB,SAAS,EAAE,UAAU;gBACrB,UAAU,EAAE,kCAAkC;gBAC9C,UAAU,EAAE,SAAS;gBACrB,WAAW,EAAE,SAAS;gBACtB,YAAY,EAAE,GAAG;gBACjB,WAAW,EAAE,KAAK;gBAClB,SAAS,EAAE,KAAK;gBAChB,YAAY,EAAE,MAAM;gBACpB,SAAS,EAAE,IAAI;gBACf,MAAM,EAAE,KAAK;gBACb,KAAK,EAAE,KAAK;gBACZ,UAAU,EAAE,IAAI;aAChB;SACD;KACD;CACoC,CAAC"}
package/dist/models.d.ts CHANGED
@@ -6416,6 +6416,7 @@ export declare const models: [{
6416
6416
  readonly requestPrice: "0";
6417
6417
  readonly contextSize: 16384;
6418
6418
  readonly maxOutput: 16384;
6419
+ readonly quantization: "fp8";
6419
6420
  readonly streaming: true;
6420
6421
  readonly vision: false;
6421
6422
  readonly tools: false;
@@ -6543,6 +6544,7 @@ export declare const models: [{
6543
6544
  readonly requestPrice: "0";
6544
6545
  readonly contextSize: 131072;
6545
6546
  readonly maxOutput: 120000;
6547
+ readonly quantization: "bf16";
6546
6548
  readonly streaming: true;
6547
6549
  readonly vision: false;
6548
6550
  readonly tools: true;
@@ -6618,6 +6620,7 @@ export declare const models: [{
6618
6620
  readonly requestPrice: "0";
6619
6621
  readonly contextSize: 131072;
6620
6622
  readonly maxOutput: 131072;
6623
+ readonly quantization: "bf16";
6621
6624
  readonly streaming: true;
6622
6625
  readonly vision: true;
6623
6626
  readonly tools: false;
@@ -6711,6 +6714,7 @@ export declare const models: [{
6711
6714
  readonly requestPrice: "0";
6712
6715
  readonly contextSize: 32768;
6713
6716
  readonly maxOutput: 32000;
6717
+ readonly quantization: "bf16";
6714
6718
  readonly streaming: true;
6715
6719
  readonly vision: false;
6716
6720
  readonly tools: false;
package/package.json CHANGED
@@ -1,6 +1,6 @@
1
1
  {
2
2
  "name": "@llmgateway/models",
3
- "version": "1.156.0",
3
+ "version": "1.157.0",
4
4
  "private": false,
5
5
  "repository": {
6
6
  "type": "git",