symposium 0.5.7 → 0.6.0

package/Agent.js

@@ -121,10 +121,10 @@ export default class Agent {
 		}
 	}
 
-	async generateCompletion(thread, payload = {}, retry_counter = 1) {
+	async generateCompletion(thread, options = {}, retry_counter = 1) {
 		try {
 			const model = Symposium.getModelByName(thread.state.model);
-			const messages = await model.generate(thread, payload, await this.getFunctions());
+			const messages = await model.generate(thread, await this.getFunctions(), options);
 			return messages.map(m => model.supports_functions ? m : this.parseFunctions(m));
 		} catch (error) {
 			if (error.response) {
@@ -136,7 +136,7 @@ export default class Agent {
 						setTimeout(resolve, 1000);
 					});
 
-					return this.generateCompletion(thread, payload, retry_counter + 1);
+					return this.generateCompletion(thread, options, retry_counter + 1);
 				}
 
 				await thread.reply('# Errore ' + error.response.status + ': ' + JSON.stringify(error.response.data));

package/Model.js

@@ -10,7 +10,7 @@ export default class Model {
 			this.label = this.name;
 	}
 
-	async generate(thread, payload = {}, functions = []) {
+	async generate(thread, functions = [], options = {}) {
 		return null;
 	}
 
@@ -18,19 +18,19 @@ export default class Model {
 		throw new Error('countTokens not implemented in this model');
 	}
 
-	promptFromFunctions(payload, functions) {
-		if (payload.function_call)
-			functions = functions.filter(f => f.name !== payload.function_call);
+	promptFromFunctions(options, functions) {
+		if (options.force_function)
+			functions = functions.filter(f => f.name !== options.force_function);
 
 		if (!functions.length)
 			return '';
 
 		let message;
-		if (payload.function_call) {
+		if (options.force_function) {
 			message = "Nella prossima risposta, rispondi UNICAMENTE seguendo le seguenti istruzioni:\n";
 			message += functions[0].description + "\n";
 			delete functions[0].description;
-			message += "Rispondi con un messaggio che inizia con le parole:\nCALL " + payload.function_call + "\nE poi a capo un oggetto JSON che segue queste direttive OpenAPI:\n";
+			message += "Rispondi con un messaggio che inizia con le parole:\nCALL " + options.force_function + "\nE poi a capo un oggetto JSON che segue queste direttive OpenAPI:\n";
 		} else {
 			message = "Hai a disposizione alcune funzioni che puoi chiamare per ottenere risposte o compiere azioni. Ricorda che devi attendere la risposta dalla funzione per sapere se ha avuto successo. Per chiamare una funzione scrivi un messaggio che inizia con CALL nome_funzione e a capo inserisci il JSON con gli argomenti; delimitando il tutto da 3 caratteri ``` - ad esempio:\n" +
 				"```\n" +
@@ -50,7 +50,7 @@ export default class Model {
 			message += '=== ' + f.name + " ===\n" + JSON.stringify(f.parameters.properties) + "\n\n";
 		}
 
-		if (payload.function_call)
+		if (options.force_function)
 			message += "\nNella risposta non deve esserci NIENTE ALTRO se non queste due cose, non saranno prese in considerazione dal sistema altro genere di risposte.";
 
 		return message;

package/Summarizer.js

@@ -67,7 +67,7 @@ export default class Summarizer extends MemoryHandler {
 					}
 				},
 			],
-			function_call: {name: 'summarize'},
+			force_function: 'summarize',
 		});
 
 		if (!summary)

package/models/AnthropicModel.js

@@ -13,12 +13,21 @@ export default class AnthropicModel extends Model {
 		return this.anthropic;
 	}
 
-	async generate(thread, payload = {}, functions = []) {
+	async generate(thread, functions = [], options = {}) {
+		options = {
+			functions: null,
+			force_function: null,
+			...options,
+		};
+
+		if (options.functions !== null)
+			functions = options.functions;
+
 		let [system, messages] = this.convertMessages(thread);
 
 		if (functions.length && !this.supports_functions) {
 			// Se il modello non supporta nativamente le funzioni, aggiungo il prompt al messaggio di sistema
-			const functions_prompt = this.promptFromFunctions(payload, functions);
+			const functions_prompt = this.promptFromFunctions(options, functions);
 			system += "\n\n" + functions_prompt;
 			functions = [];
 		}
@@ -34,9 +43,17 @@ export default class AnthropicModel extends Model {
 				input_schema: f.parameters,
 				required: f.required || undefined,
 			})),
-			...payload,
 		};
 
+		if (options.force_function && completion_payload.functions.length) {
+			completion_payload.messages.push({
+				role: 'user',
+				content: [
+					{type: 'text', text: 'Use the ' + options.force_function + ' tool in your response.'},
+				],
+			});
+		}
+
 		const message = await this.getAnthropic().messages.create(completion_payload);
 
 		const message_content = [];

package/models/OpenAIModel.js

@@ -15,12 +15,21 @@ export default class OpenAIModel extends Model {
 		return this.openai;
 	}
 
-	async generate(thread, payload = {}, functions = []) {
+	async generate(thread, functions = [], options = {}) {
+		options = {
+			functions: null,
+			force_function: null,
+			...options,
+		};
+
+		if (options.functions !== null)
+			functions = options.functions;
+
 		let messages = thread.messages;
 
 		if (functions.length && !this.supports_functions) {
 			// Se il modello non supporta nativamente le funzioni, inserisco il prompt ad hoc come ultimo messaggio di sistema
-			const functions_prompt = this.promptFromFunctions(payload, functions);
+			const functions_prompt = this.promptFromFunctions(options, functions);
 			let system_messages = [], other_messages = [], first_found = false;
 			for (let message of messages) {
 				if (!first_found && message.role !== 'system')
@@ -46,14 +55,12 @@ export default class OpenAIModel extends Model {
 			model: this.name,
 			messages: convertedMessages,
 			functions,
-			...payload,
 		};
 
-		if (!completion_payload.functions?.length) {
+		if (options.force_function && completion_payload.functions.length)
+			completion_payload.function_call = {name: options.force_function};
+		if (!completion_payload.functions.length)
 			delete completion_payload.functions;
-			if (completion_payload.hasOwnProperty('function_call'))
-				delete completion_payload.function_call;
-		}
 
 		const chatCompletion = await this.getOpenAi().chat.completions.create(completion_payload);
 		const completion = chatCompletion.choices[0].message;

package/package.json

@@ -1,7 +1,7 @@
 {
   "type": "module",
   "name": "symposium",
-  "version": "0.5.7",
+  "version": "0.6.0",
   "description": "Agents",
   "main": "index.js",
   "author": "Domenico Giambra",