llama_cpp 0.23.7 → 0.23.8

checksums.yaml

@@ -1,7 +1,7 @@
 ---
 SHA256:
-  metadata.gz: a758c0d22d950187f8512312c4866a37a128e3092ca842d18bf499465957ef62
-  data.tar.gz: 7dd5c14b42e608ee03af4f436b0c1eee8ba985dabc7a52a893aaef67068b43c4
+  metadata.gz: 7baa70c4e1f7ee628a347b34d4ed15822aba050c83e6438a7e1c8edf6acef8bb
+  data.tar.gz: 7125d429d103d711741b9d6ce5ac97f8ec3a100a0b5d442b707e30f61ba538d8
 SHA512:
-  metadata.gz: 4acc2505785d72b668a394a31430f3abbe059d829e91385d318aaf4fc1bbb39983554b6850b36383a44f1e8874eb903b21c18e222f1487b27aee8e3d8f2e20d7
-  data.tar.gz: d08c7c7626b66ae6d9d9c323c26aa200e8b05bdae9974002e9cacf1ca812530ad2904daed73795e61850a00c2f1240dcea7a8df443698c680d06b207126bf8b0
+  metadata.gz: 5c766e9ec655976829d04e956adf898cc444e4938d49070e4a2d4a2dab47a3580448f0f1137c906ee37978f7162da56820a2a03aff23a78394a5526164ef94f2
+  data.tar.gz: d0fb98fa54a3db05481fe6c271e693716be3445c47b082b4981a87563ed8fc08df38e12eff68ee0c8fbee7b66b8e1ecaafed3625cd58cc4bbb8a044966a8a1ad

data/CHANGELOG.md

@@ -1,3 +1,22 @@
+## [[0.23.8](https://github.com/yoshoku/llama_cpp.rb/compare/v0.23.7...v0.23.8)] - 2025-11-30
+
+- Change supported llama.cpp version to b7180
+  - Add `llama_model_meta_key_str` module function to `LlamaCpp`.
+  - Add constant values for `enum llama_model_meta_key` to `LlamaCpp`.
+    - `LLAMA_MODEL_META_KEY_SAMPLING_SEQUENCE`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_TOP_K`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_TOP_P`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_MIN_P`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_XTC_PROBABILITY`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_XTC_THRESHOLD`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_TEMP`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_PENALTY_LAST_N`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_PENALTY_REPEAT`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT_TAU`
+    - `LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT_ETA`
+- Add `llama_model_meta_count` module function to `LlamaCpp`
+
 ## [[0.23.7](https://github.com/yoshoku/llama_cpp.rb/compare/v0.23.6...v0.23.7)] - 2025-11-22
 
 - Fix to use require for compatibility with distributions installing extensions separately.

data/ext/llama_cpp/llama_cpp.c

@@ -1708,6 +1708,34 @@ static VALUE rb_llama_vocab_n_tokens(VALUE self, VALUE vocab) {
   return n_tokens;
 }
 
+/**
+ * @overload llama_model_meta_count(model)
+ *  @param [LlamaModel] model
+ *  @return [Integer]
+ */
+static VALUE rb_llama_model_meta_count(VALUE self, VALUE model) {
+  if (!rb_obj_is_kind_of(model, rb_cLlamaModel)) {
+    rb_raise(rb_eArgError, "model must be a LlamaModel");
+    return Qnil;
+  }
+  llama_model_wrapper* model_wrapper = get_llama_model_wrapper(model);
+  return INT2NUM(llama_model_meta_count(model_wrapper->model));
+}
+
+/**
+ * @overload llama_model_meta_key_str(key)
+ *  @param [Integer] key (must be one of Llama::LLAMA_MODEL_META_KEY_* constants)
+ *  @return [String]
+ */
+static VALUE rb_llama_model_meta_key_str(VALUE self, VALUE key) {
+  if (!RB_INTEGER_TYPE_P(key)) {
+    rb_raise(rb_eArgError, "key must be an Integer");
+    return Qnil;
+  }
+  const char* key_str = llama_model_meta_key_str(NUM2INT(key));
+  return rb_utf8_str_new_cstr(key_str);
+}
+
 /**
  * @overload llama_model_desc(model)
  *  @param [LlamaModel] model
@@ -4198,13 +4226,28 @@ void Init_llama_cpp(void) {
   /* TODO: llama_seq_id** seq_id */
   /* TODO: int8_t* logits */
 
-  /* llama_model_kv_override_type */
+  /* enum llama_model_kv_override_type */
   /* Document-const: LlamaCpp::LLAMA_KV_OVERRIDE_TYPE_INT */
   rb_define_const(rb_mLlamaCpp, "LLAMA_KV_OVERRIDE_TYPE_INT", INT2NUM(LLAMA_KV_OVERRIDE_TYPE_INT));
   rb_define_const(rb_mLlamaCpp, "LLAMA_KV_OVERRIDE_TYPE_FLOAT", INT2NUM(LLAMA_KV_OVERRIDE_TYPE_FLOAT));
   rb_define_const(rb_mLlamaCpp, "LLAMA_KV_OVERRIDE_TYPE_BOOL", INT2NUM(LLAMA_KV_OVERRIDE_TYPE_BOOL));
   rb_define_const(rb_mLlamaCpp, "LLAMA_KV_OVERRIDE_TYPE_STR", INT2NUM(LLAMA_KV_OVERRIDE_TYPE_STR));
 
+  /* enum llama_model_meta_key */
+  /* Document-const: LlamaCpp::LLAMA_MODEL_META_KEY_SAMPLING_SEQUENCE */
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_SEQUENCE", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_SEQUENCE));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_TOP_K", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_TOP_K));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_TOP_P", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_TOP_P));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_MIN_P", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_MIN_P));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_XTC_PROBABILITY", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_XTC_PROBABILITY));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_XTC_THRESHOLD", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_XTC_THRESHOLD));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_TEMP", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_TEMP));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_PENALTY_LAST_N", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_PENALTY_LAST_N));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_PENALTY_REPEAT", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_PENALTY_REPEAT));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT_TAU", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT_TAU));
+  rb_define_const(rb_mLlamaCpp, "LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT_ETA", INT2NUM(LLAMA_MODEL_META_KEY_SAMPLING_MIROSTAT_ETA));
+
   /**
    * Document-class: LlamaCpp::LlamaModelKvOverride
    * "struct llama_model_kv_override" wrapper class
@@ -4954,8 +4997,11 @@ void Init_llama_cpp(void) {
   /* llama_vocab_n_tokens */
   rb_define_module_function(rb_mLlamaCpp, "llama_vocab_n_tokens", rb_llama_vocab_n_tokens, 1);
 
+  /* llama_model_meta_count */
+  rb_define_module_function(rb_mLlamaCpp, "llama_model_meta_count", rb_llama_model_meta_count, 1);
+  /* llama_model_meta_key_str */
+  rb_define_module_function(rb_mLlamaCpp, "llama_model_meta_key_str", rb_llama_model_meta_key_str, 1);
   /* TODO: llama_model_meta_val_str */
-  /* TODO: llama_model_meta_count */
   /* TODO: llama_model_meta_key_by_index */
   /* TODO: llama_model_meta_val_str_by_index */
 

data/lib/llama_cpp/version.rb

@@ -3,8 +3,8 @@
 # llama_cpp.rb provides Ruby bindings for the llama.cpp.
 module LlamaCpp
   # The version of llama_cpp.rb you install.
-  VERSION = '0.23.7'
+  VERSION = '0.23.8'
 
   # The supported version of llama.cpp.
-  LLAMA_CPP_VERSION = 'b7120'
+  LLAMA_CPP_VERSION = 'b7180'
 end

metadata

@@ -1,7 +1,7 @@
 --- !ruby/object:Gem::Specification
 name: llama_cpp
 version: !ruby/object:Gem::Version
-  version: 0.23.7
+  version: 0.23.8
 platform: ruby
 authors:
 - yoshoku
@@ -33,7 +33,7 @@ metadata:
   homepage_uri: https://github.com/yoshoku/llama_cpp.rb
   source_code_uri: https://github.com/yoshoku/llama_cpp.rb
   changelog_uri: https://github.com/yoshoku/llama_cpp.rb/blob/main/CHANGELOG.md
-  documentation_uri: https://gemdocs.org/gems/llama_cpp/0.23.7/
+  documentation_uri: https://gemdocs.org/gems/llama_cpp/0.23.8/
   rubygems_mfa_required: 'true'
 rdoc_options: []
 require_paths: