EuroEval 15.5.0__py3-none-any.whl → 15.6.0__py3-none-any.whl
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Potentially problematic release.
This version of EuroEval might be problematic. Click here for more details.
- euroeval/benchmark_modules/base.py +3 -2
- euroeval/benchmark_modules/fresh.py +8 -6
- euroeval/benchmark_modules/hf.py +33 -31
- euroeval/benchmark_modules/litellm.py +120 -56
- euroeval/benchmark_modules/vllm.py +41 -26
- euroeval/benchmarker.py +23 -21
- euroeval/callbacks.py +2 -2
- euroeval/constants.py +1 -1
- euroeval/data_models.py +257 -42
- euroeval/dataset_configs/__init__.py +61 -0
- euroeval/dataset_configs/danish.py +120 -0
- euroeval/dataset_configs/dutch.py +123 -0
- euroeval/dataset_configs/english.py +88 -0
- euroeval/dataset_configs/faroese.py +53 -0
- euroeval/dataset_configs/french.py +83 -0
- euroeval/dataset_configs/german.py +91 -0
- euroeval/dataset_configs/icelandic.py +148 -0
- euroeval/dataset_configs/italian.py +81 -0
- euroeval/dataset_configs/norwegian.py +178 -0
- euroeval/dataset_configs/spanish.py +78 -0
- euroeval/dataset_configs/swedish.py +100 -0
- euroeval/exceptions.py +10 -10
- euroeval/finetuning.py +6 -10
- euroeval/generation.py +1 -0
- euroeval/human_evaluation.py +2 -2
- euroeval/languages.py +20 -13
- euroeval/model_cache.py +1 -1
- euroeval/model_loading.py +1 -12
- euroeval/prompt_templates/__init__.py +8 -0
- euroeval/prompt_templates/linguistic_acceptability.py +112 -0
- euroeval/prompt_templates/multiple_choice.py +97 -0
- euroeval/prompt_templates/named_entity_recognition.py +257 -0
- euroeval/prompt_templates/reading_comprehension.py +118 -0
- euroeval/prompt_templates/sentiment_classification.py +137 -0
- euroeval/prompt_templates/summarization.py +97 -0
- euroeval/speed_benchmark.py +1 -1
- euroeval/{task_utils → task_group_utils}/multiple_choice_classification.py +19 -11
- euroeval/{task_utils → task_group_utils}/question_answering.py +31 -30
- euroeval/{task_utils → task_group_utils}/sequence_classification.py +1 -1
- euroeval/{task_utils → task_group_utils}/text_to_text.py +1 -1
- euroeval/{task_utils → task_group_utils}/token_classification.py +3 -2
- euroeval/tasks.py +54 -0
- euroeval/tokenization_utils.py +343 -0
- euroeval/types.py +3 -1
- euroeval/utils.py +2 -347
- {euroeval-15.5.0.dist-info → euroeval-15.6.0.dist-info}/METADATA +30 -9
- euroeval-15.6.0.dist-info/RECORD +59 -0
- euroeval/dataset_configs.py +0 -2408
- euroeval-15.5.0.dist-info/RECORD +0 -40
- /euroeval/{task_utils → task_group_utils}/__init__.py +0 -0
- {euroeval-15.5.0.dist-info → euroeval-15.6.0.dist-info}/WHEEL +0 -0
- {euroeval-15.5.0.dist-info → euroeval-15.6.0.dist-info}/entry_points.txt +0 -0
- {euroeval-15.5.0.dist-info → euroeval-15.6.0.dist-info}/licenses/LICENSE +0 -0
|
@@ -0,0 +1,112 @@
|
|
|
1
|
+
"""Templates for the Linguistic Acceptability task."""
|
|
2
|
+
|
|
3
|
+
from ..data_models import PromptConfig
|
|
4
|
+
from ..languages import DA, DE, EN, ES, FO, FR, IS, IT, NB, NL, NN, NO, SV
|
|
5
|
+
|
|
6
|
+
LA_TEMPLATES = {
|
|
7
|
+
DA: PromptConfig(
|
|
8
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nej"),
|
|
9
|
+
default_prompt_prefix="Følgende er sætninger og om de er grammatisk korrekte.",
|
|
10
|
+
default_prompt_template="Sætning: {text}\nGrammatisk korrekt: {label}",
|
|
11
|
+
default_instruction_prompt="Sætning: {text}\n\nBestem om sætningen er "
|
|
12
|
+
"grammatisk korrekt eller ej. Svar kun med {labels_str}, og intet andet.",
|
|
13
|
+
),
|
|
14
|
+
DE: PromptConfig(
|
|
15
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nein"),
|
|
16
|
+
default_prompt_prefix="Die folgenden Sätze und ob sie grammatikalisch korrekt "
|
|
17
|
+
"sind.",
|
|
18
|
+
default_prompt_template="Satz: {text}\nGrammatikalisch richtig: {label}",
|
|
19
|
+
default_instruction_prompt="Satz: {text}\n\nBestimmen Sie, ob der Satz "
|
|
20
|
+
"grammatikalisch korrekt ist oder nicht. Antworten Sie mit {labels_str}, und "
|
|
21
|
+
"nichts anderes.",
|
|
22
|
+
),
|
|
23
|
+
EN: PromptConfig(
|
|
24
|
+
default_prompt_label_mapping=dict(correct="yes", incorrect="no"),
|
|
25
|
+
default_prompt_prefix="The following are sentences and whether they are "
|
|
26
|
+
"grammatically correct.",
|
|
27
|
+
default_prompt_template="Sentence: {text}\nGrammatically correct: {label}",
|
|
28
|
+
default_instruction_prompt="Sentence: {text}\n\nDetermine whether the sentence "
|
|
29
|
+
"is grammatically correct or not. Answer with {labels_str}, and nothing else.",
|
|
30
|
+
),
|
|
31
|
+
ES: PromptConfig(
|
|
32
|
+
default_prompt_label_mapping=dict(correct="sí", incorrect="no"),
|
|
33
|
+
default_prompt_prefix="Lo siguiente son textos y si son gramaticalmente "
|
|
34
|
+
"correctos.",
|
|
35
|
+
default_prompt_template="Texto: {text}\nGramaticalmente correcto: {label}",
|
|
36
|
+
default_instruction_prompt="Texto: {text}\n\nDetermina si el texto es "
|
|
37
|
+
"gramaticalmente correcto o no. Responde con {labels_str}, y nada más.",
|
|
38
|
+
),
|
|
39
|
+
FO: PromptConfig(
|
|
40
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nei"),
|
|
41
|
+
default_prompt_prefix="Hetta eru nakrir setningar og um teir eru mállæruliga "
|
|
42
|
+
"rættir.",
|
|
43
|
+
default_prompt_template="Setningur: {text}\nMállæruliga rættur: {label}",
|
|
44
|
+
default_instruction_prompt="Setningur: {text}\n\nGreinið hvort setningurin er "
|
|
45
|
+
"mállæruliga rættur ella ikki. Svara við {labels_str}, og einki annað.",
|
|
46
|
+
),
|
|
47
|
+
FR: PromptConfig(
|
|
48
|
+
default_prompt_label_mapping=dict(correct="oui", incorrect="non"),
|
|
49
|
+
default_prompt_prefix="Les phrases suivantes indiquent si elles sont "
|
|
50
|
+
"grammaticalement correctes.",
|
|
51
|
+
default_prompt_template="Phrase : {text}\nCorrect du point de vue grammatical: "
|
|
52
|
+
"{label}",
|
|
53
|
+
default_instruction_prompt="Phrase: {text}\n\nDéterminez si la phrase est "
|
|
54
|
+
"grammaticalement correcte ou non. Répondez par {labels_str}, et rien d'autre.",
|
|
55
|
+
),
|
|
56
|
+
IS: PromptConfig(
|
|
57
|
+
default_prompt_label_mapping=dict(correct="já", incorrect="nei"),
|
|
58
|
+
default_prompt_prefix="Eftirfarandi eru setningar og hvort þær eru "
|
|
59
|
+
"málfræðilega réttar.",
|
|
60
|
+
default_prompt_template="Setning: {text}\nMálfræðilega rétt: {label}",
|
|
61
|
+
default_instruction_prompt="Setning: {text}\n\nGreinið hvort setningin er "
|
|
62
|
+
"málfræðilega rétt eða ekki. Svaraðu með {labels_str}, og ekkert annað.",
|
|
63
|
+
),
|
|
64
|
+
IT: PromptConfig(
|
|
65
|
+
default_prompt_label_mapping=dict(correct="si", incorrect="no"),
|
|
66
|
+
default_prompt_prefix="Di seguito sono riportate le frasi e la loro "
|
|
67
|
+
"correttezza grammaticale.",
|
|
68
|
+
default_prompt_template="Frase : {text}\nGrammaticalmente corretto : {label}",
|
|
69
|
+
default_instruction_prompt="Frase: {text}\n\nStabilite se la frase è "
|
|
70
|
+
"grammaticalmente corretta o meno. Rispondere con {labels_str}, e nient'altro.",
|
|
71
|
+
),
|
|
72
|
+
NB: PromptConfig(
|
|
73
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nei"),
|
|
74
|
+
default_prompt_prefix="Følgende er setninger og hvorvidt de er grammatisk "
|
|
75
|
+
"korrekte.",
|
|
76
|
+
default_prompt_template="Setning: {text}\nGrammatisk korrekt: {label}",
|
|
77
|
+
default_instruction_prompt="Setning: {text}\n\nBestem om setningen er "
|
|
78
|
+
"grammatisk korrekt eller ikke. Svar med {labels_str}, og ikke noe annet.",
|
|
79
|
+
),
|
|
80
|
+
NL: PromptConfig(
|
|
81
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nee"),
|
|
82
|
+
default_prompt_prefix="Hieronder staan zinnen en of ze grammaticaal correct "
|
|
83
|
+
"zijn.",
|
|
84
|
+
default_prompt_template="Zin: {text}\nGrammaticaal correct: {label}",
|
|
85
|
+
default_instruction_prompt="Zin: {text}\n\nBepaal of de zin grammaticaal "
|
|
86
|
+
"correct is of niet. Antwoord met {labels_str}, en verder niets.",
|
|
87
|
+
),
|
|
88
|
+
NN: PromptConfig(
|
|
89
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nei"),
|
|
90
|
+
default_prompt_prefix="Følgende er setninger og hvorvidt de er grammatisk "
|
|
91
|
+
"korrekte.",
|
|
92
|
+
default_prompt_template="Setning: {text}\nGrammatisk korrekt: {label}",
|
|
93
|
+
default_instruction_prompt="Setning: {text}\n\nBestem om setningen er "
|
|
94
|
+
"grammatisk korrekt eller ikke. Svar med {labels_str}, og ikke noe annet.",
|
|
95
|
+
),
|
|
96
|
+
NO: PromptConfig(
|
|
97
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nei"),
|
|
98
|
+
default_prompt_prefix="Følgende er setninger og hvorvidt de er grammatisk "
|
|
99
|
+
"korrekte.",
|
|
100
|
+
default_prompt_template="Setning: {text}\nGrammatisk korrekt: {label}",
|
|
101
|
+
default_instruction_prompt="Setning: {text}\n\nBestem om setningen er "
|
|
102
|
+
"grammatisk korrekt eller ikke. Svar med {labels_str}, og ikke noe annet.",
|
|
103
|
+
),
|
|
104
|
+
SV: PromptConfig(
|
|
105
|
+
default_prompt_label_mapping=dict(correct="ja", incorrect="nej"),
|
|
106
|
+
default_prompt_prefix="Följande är meningar och huruvida de är grammatiskt "
|
|
107
|
+
"korrekta.",
|
|
108
|
+
default_prompt_template="Mening: {text}\nGrammatisk korrekt: {label}",
|
|
109
|
+
default_instruction_prompt="Mening: {text}\n\nBestäm om meningen är "
|
|
110
|
+
"grammatiskt korrekt eller inte. Svara med {labels_str}, och inget annat.",
|
|
111
|
+
),
|
|
112
|
+
}
|
|
@@ -0,0 +1,97 @@
|
|
|
1
|
+
"""Templates for all multiple choice tasks."""
|
|
2
|
+
|
|
3
|
+
from ..data_models import PromptConfig
|
|
4
|
+
from ..languages import DA, DE, EN, ES, FR, IS, IT, NB, NL, NN, NO, SV
|
|
5
|
+
|
|
6
|
+
# TODO: Missing Faroese
|
|
7
|
+
MULTIPLE_CHOICE_TEMPLATES = {
|
|
8
|
+
DA: PromptConfig(
|
|
9
|
+
default_prompt_prefix="Følgende er multiple choice spørgsmål (med svar).",
|
|
10
|
+
default_prompt_template="Spørgsmål: {text}\nSvar: {label}",
|
|
11
|
+
default_instruction_prompt="Spørgsmål: {text}\n\nBesvar ovenstående spørgsmål "
|
|
12
|
+
"ved at svare med {labels_str}, og intet andet.",
|
|
13
|
+
default_prompt_label_mapping="auto",
|
|
14
|
+
),
|
|
15
|
+
DE: PromptConfig(
|
|
16
|
+
default_prompt_prefix="Die folgenden Fragen sind Multiple-Choice-Fragen "
|
|
17
|
+
"(mit Antworten).",
|
|
18
|
+
default_prompt_template="Frage: {text}\nAntwort: {label}",
|
|
19
|
+
default_instruction_prompt="Frage: {text}\n\nBeantworten Sie die obige Frage "
|
|
20
|
+
"mit {labels_str}, und nichts anderes.",
|
|
21
|
+
default_prompt_label_mapping="auto",
|
|
22
|
+
),
|
|
23
|
+
EN: PromptConfig(
|
|
24
|
+
default_prompt_prefix="The following are multiple choice questions (with "
|
|
25
|
+
"answers).",
|
|
26
|
+
default_prompt_template="Question: {text}\nAnswer: {label}",
|
|
27
|
+
default_instruction_prompt="Question: {text}\n\nAnswer the above question by "
|
|
28
|
+
"replying with {labels_str}, and nothing else.",
|
|
29
|
+
default_prompt_label_mapping="auto",
|
|
30
|
+
),
|
|
31
|
+
ES: PromptConfig(
|
|
32
|
+
default_prompt_prefix="Las siguientes son preguntas de opción múltiple "
|
|
33
|
+
"(con respuestas).",
|
|
34
|
+
default_prompt_template="Pregunta: {text}\nRespuesta: {label}",
|
|
35
|
+
default_instruction_prompt="Pregunta: {text}\n\nResponda la pregunta anterior "
|
|
36
|
+
"usando solo {labels_str}, y nada más.",
|
|
37
|
+
default_prompt_label_mapping="auto",
|
|
38
|
+
),
|
|
39
|
+
FR: PromptConfig(
|
|
40
|
+
default_prompt_prefix="Les questions suivantes sont des questions à choix "
|
|
41
|
+
"multiples (avec réponses).",
|
|
42
|
+
default_prompt_template="Question: {text}\nRéponse: {label}",
|
|
43
|
+
default_instruction_prompt="Question: {text}\n\nRépondez à la question "
|
|
44
|
+
"ci-dessus par {labels_str}, et rien d'autre.",
|
|
45
|
+
default_prompt_label_mapping="auto",
|
|
46
|
+
),
|
|
47
|
+
IS: PromptConfig(
|
|
48
|
+
default_prompt_prefix="Eftirfarandi eru fjölvalsspurningar (með svörum).",
|
|
49
|
+
default_prompt_template="Spurningar: {text}\nSvara: {label}",
|
|
50
|
+
default_instruction_prompt="Spurningar: {text}\n\nSvaraðu eftirfarandi "
|
|
51
|
+
"spurningum með {labels_str}, og engu öðru.",
|
|
52
|
+
default_prompt_label_mapping="auto",
|
|
53
|
+
),
|
|
54
|
+
IT: PromptConfig(
|
|
55
|
+
default_prompt_prefix="Le seguenti sono domande a scelta multipla "
|
|
56
|
+
"(con relative risposte).",
|
|
57
|
+
default_prompt_template="Domanda: {text}\nRéponse: {label}",
|
|
58
|
+
default_instruction_prompt="Domanda: {text}\n\nRispondete alla domanda "
|
|
59
|
+
"precedente con {labels_str}, e nient'altro.",
|
|
60
|
+
default_prompt_label_mapping="auto",
|
|
61
|
+
),
|
|
62
|
+
NB: PromptConfig(
|
|
63
|
+
default_prompt_prefix="Følgende er flervalgsspørsmål (med svar).",
|
|
64
|
+
default_prompt_template="Spørsmål: {text}\nSvar: {label}",
|
|
65
|
+
default_instruction_prompt="Spørsmål: {text}\n\nBesvar følgende spørsmål med "
|
|
66
|
+
"{labels_str}, og ikke noe annet.",
|
|
67
|
+
default_prompt_label_mapping="auto",
|
|
68
|
+
),
|
|
69
|
+
NL: PromptConfig(
|
|
70
|
+
default_prompt_prefix="Hieronder staan meerkeuzevragen (met antwoorden).",
|
|
71
|
+
default_prompt_template="Vraag: {text}\nAntwoord: {label}",
|
|
72
|
+
default_instruction_prompt="Vraag: {text}\n\nBeantwoord de bovenstaande vraag "
|
|
73
|
+
"met {labels_str}, en niets anders.",
|
|
74
|
+
default_prompt_label_mapping="auto",
|
|
75
|
+
),
|
|
76
|
+
NN: PromptConfig(
|
|
77
|
+
default_prompt_prefix="Følgende er flervalgsspørsmål (med svar).",
|
|
78
|
+
default_prompt_template="Spørsmål: {text}\nSvar: {label}",
|
|
79
|
+
default_instruction_prompt="Spørsmål: {text}\n\nBesvar følgende spørsmål med "
|
|
80
|
+
"{labels_str}, og ikke noe annet.",
|
|
81
|
+
default_prompt_label_mapping="auto",
|
|
82
|
+
),
|
|
83
|
+
NO: PromptConfig(
|
|
84
|
+
default_prompt_prefix="Følgende er flervalgsspørsmål (med svar).",
|
|
85
|
+
default_prompt_template="Spørsmål: {text}\nSvar: {label}",
|
|
86
|
+
default_instruction_prompt="Spørsmål: {text}\n\nBesvar følgende spørsmål med "
|
|
87
|
+
"{labels_str}, og ikke noe annet.",
|
|
88
|
+
default_prompt_label_mapping="auto",
|
|
89
|
+
),
|
|
90
|
+
SV: PromptConfig(
|
|
91
|
+
default_prompt_prefix="Följande är flervalsfrågor (med svar).",
|
|
92
|
+
default_prompt_template="Fråga: {text}\nSvar: {label}",
|
|
93
|
+
default_instruction_prompt="Fråga: {text}\n\nBesvara följande fråga med "
|
|
94
|
+
"{labels_str}, och inget annat.",
|
|
95
|
+
default_prompt_label_mapping="auto",
|
|
96
|
+
),
|
|
97
|
+
}
|
|
@@ -0,0 +1,257 @@
|
|
|
1
|
+
"""Templates for the Named Entity Recognition task."""
|
|
2
|
+
|
|
3
|
+
from ..data_models import PromptConfig
|
|
4
|
+
from ..languages import DA, DE, EN, ES, FO, FR, IS, IT, NB, NL, NN, NO, SV
|
|
5
|
+
|
|
6
|
+
NER_TEMPLATES = {
|
|
7
|
+
DA: PromptConfig(
|
|
8
|
+
default_prompt_label_mapping={
|
|
9
|
+
"b-per": "person",
|
|
10
|
+
"i-per": "person",
|
|
11
|
+
"b-loc": "sted",
|
|
12
|
+
"i-loc": "sted",
|
|
13
|
+
"b-org": "organisation",
|
|
14
|
+
"i-org": "organisation",
|
|
15
|
+
"b-misc": "diverse",
|
|
16
|
+
"i-misc": "diverse",
|
|
17
|
+
},
|
|
18
|
+
default_prompt_prefix="Følgende er sætninger og JSON-ordbøger med de navngivne "
|
|
19
|
+
"enheder, som forekommer i den givne sætning.",
|
|
20
|
+
default_prompt_template="Sætning: {text}\nNavngivne enheder: {label}",
|
|
21
|
+
default_instruction_prompt="Sætning: {text}\n\nIdentificér de navngivne "
|
|
22
|
+
"enheder i sætningen. Du skal outputte dette som en JSON-ordbog med nøglerne "
|
|
23
|
+
"{labels_str}. Værdierne skal være lister over de navngivne enheder af den "
|
|
24
|
+
"type, præcis som de forekommer i sætningen.",
|
|
25
|
+
),
|
|
26
|
+
DE: PromptConfig(
|
|
27
|
+
default_prompt_label_mapping={
|
|
28
|
+
"b-per": "person",
|
|
29
|
+
"i-per": "person",
|
|
30
|
+
"b-loc": "ort",
|
|
31
|
+
"i-loc": "ort",
|
|
32
|
+
"b-org": "organisation",
|
|
33
|
+
"i-org": "organisation",
|
|
34
|
+
"b-misc": "verschiedenes",
|
|
35
|
+
"i-misc": "verschiedenes",
|
|
36
|
+
},
|
|
37
|
+
default_prompt_prefix="Es folgen Sätze und JSON-Wörterbücher mit den benannten "
|
|
38
|
+
"Entitäten, die in der angegebenen Phrase vorkommen.",
|
|
39
|
+
default_prompt_template="Satz: {text}\nBenannte Entitäten: {label}",
|
|
40
|
+
default_instruction_prompt="Satz: {text}\n\nIdentifizieren Sie die benannten "
|
|
41
|
+
"Entitäten im Satz. Sie sollten dies als JSON-Wörterbuch mit den "
|
|
42
|
+
"Schlüsseln {labels_str} ausgeben. Die Werte sollten Listen der "
|
|
43
|
+
"benannten Entitäten dieses Typs sein, genau wie sie im Satz erscheinen.",
|
|
44
|
+
),
|
|
45
|
+
EN: PromptConfig(
|
|
46
|
+
default_prompt_label_mapping={
|
|
47
|
+
"b-per": "person",
|
|
48
|
+
"i-per": "person",
|
|
49
|
+
"b-loc": "location",
|
|
50
|
+
"i-loc": "location",
|
|
51
|
+
"b-org": "organization",
|
|
52
|
+
"i-org": "organization",
|
|
53
|
+
"b-misc": "miscellaneous",
|
|
54
|
+
"i-misc": "miscellaneous",
|
|
55
|
+
},
|
|
56
|
+
default_prompt_prefix="Below are sentences and JSON dictionaries with the "
|
|
57
|
+
"named entities that occur in the given sentence.",
|
|
58
|
+
default_prompt_template="Sentence: {text}\nNamed entities: {label}",
|
|
59
|
+
default_instruction_prompt="Sentence: {text}\n\nIdentify the named entities in "
|
|
60
|
+
"the sentence. You should output this as a JSON dictionary with the keys being "
|
|
61
|
+
"{labels_str}. The values should be lists of the named entities of that "
|
|
62
|
+
"type, exactly as they appear in the sentence.",
|
|
63
|
+
),
|
|
64
|
+
ES: PromptConfig(
|
|
65
|
+
default_prompt_label_mapping={
|
|
66
|
+
"b-per": "persona",
|
|
67
|
+
"i-per": "persona",
|
|
68
|
+
"b-loc": "lugar",
|
|
69
|
+
"i-loc": "lugar",
|
|
70
|
+
"b-org": "organización",
|
|
71
|
+
"i-org": "organización",
|
|
72
|
+
"b-misc": "misceláneo",
|
|
73
|
+
"i-misc": "misceláneo",
|
|
74
|
+
},
|
|
75
|
+
default_prompt_prefix="Lo siguiente son oraciones y diccionarios JSON con las "
|
|
76
|
+
"entidades nombradas que aparecen en la oración dada.",
|
|
77
|
+
default_prompt_template="Oración: {text}\nEntidades nombradas: {label}",
|
|
78
|
+
default_instruction_prompt="Oración: {text}\n\nIdentifica las entidades "
|
|
79
|
+
"nombradas en la oración. Debes producir esto como un diccionario JSON con las "
|
|
80
|
+
"claves {labels_str}. Los valores deben ser listas de las "
|
|
81
|
+
"entidades nombradas de ese tipo, exactamente como aparecen en la oración.",
|
|
82
|
+
),
|
|
83
|
+
FO: PromptConfig(
|
|
84
|
+
default_prompt_label_mapping={
|
|
85
|
+
"b-per": "persónur",
|
|
86
|
+
"i-per": "persónur",
|
|
87
|
+
"b-loc": "staður",
|
|
88
|
+
"i-loc": "staður",
|
|
89
|
+
"b-org": "felagsskapur",
|
|
90
|
+
"i-org": "felagsskapur",
|
|
91
|
+
"b-misc": "ymiskt",
|
|
92
|
+
"i-misc": "ymiskt",
|
|
93
|
+
},
|
|
94
|
+
default_prompt_prefix="Her eru nakrir setningar og nakrar JSON orðabøkur við "
|
|
95
|
+
"nevndar eindir, sum eru í setningunum.",
|
|
96
|
+
default_prompt_template="Setningur: {text}\nNevndar eindir: {label}",
|
|
97
|
+
default_instruction_prompt="Setningur: {text}\n\nGreinið nevndu einingarnar í "
|
|
98
|
+
"setningunni. Þú ættir að skila þessu sem JSON orðabók með lyklunum "
|
|
99
|
+
"{labels_str}. Gildin ættu að vera listi yfir nevndu einingarnar af "
|
|
100
|
+
"þeirri gerð, nákvæmlega eins og þær koma fram í setningunni.",
|
|
101
|
+
),
|
|
102
|
+
FR: PromptConfig(
|
|
103
|
+
default_prompt_label_mapping={
|
|
104
|
+
"b-per": "personne",
|
|
105
|
+
"i-per": "personne",
|
|
106
|
+
"b-loc": "lieu",
|
|
107
|
+
"i-loc": "lieu",
|
|
108
|
+
"b-org": "organisation",
|
|
109
|
+
"i-org": "organisation",
|
|
110
|
+
"b-misc": "divers",
|
|
111
|
+
"i-misc": "divers",
|
|
112
|
+
},
|
|
113
|
+
default_prompt_prefix="Vous trouverez ci-dessous des phrases et des "
|
|
114
|
+
"dictionnaires JSON avec les entités nommées qui apparaissent dans la "
|
|
115
|
+
"phrase donnée.",
|
|
116
|
+
default_prompt_template="Sentence: {text}\nEntités nommées: {label}",
|
|
117
|
+
default_instruction_prompt="Sentence: {text}\n\nIdentifiez les entités nommées "
|
|
118
|
+
"dans la phrase. Vous devez produire ceci sous forme de dictionnaire JSON "
|
|
119
|
+
"avec les clés {labels_str}. Les valeurs doivent être des listes des "
|
|
120
|
+
"entités nommées de ce type, exactement comme elles apparaissent dans "
|
|
121
|
+
"la phrase.",
|
|
122
|
+
),
|
|
123
|
+
IS: PromptConfig(
|
|
124
|
+
default_prompt_label_mapping={
|
|
125
|
+
"b-per": "einstaklingur",
|
|
126
|
+
"i-per": "einstaklingur",
|
|
127
|
+
"b-loc": "staðsetning",
|
|
128
|
+
"i-loc": "staðsetning",
|
|
129
|
+
"b-org": "stofnun",
|
|
130
|
+
"i-org": "stofnun",
|
|
131
|
+
"b-misc": "ýmislegt",
|
|
132
|
+
"i-misc": "ýmislegt",
|
|
133
|
+
},
|
|
134
|
+
default_prompt_prefix="Eftirfarandi eru setningar ásamt JSON lyklum með "
|
|
135
|
+
"nefndum einingum sem koma fyrir í setningunum.",
|
|
136
|
+
default_prompt_template="Setning: {text}\nNefndar einingar: {label}",
|
|
137
|
+
default_instruction_prompt="Setning: {text}\n\nGreinið nefndu einingarnar í "
|
|
138
|
+
"setningunni. Þú ættir að skila þessu sem JSON orðabók með lyklunum "
|
|
139
|
+
"{labels_str}. Gildin ættu að vera listi yfir nefndu "
|
|
140
|
+
"einingarnar af þeirri gerð, nákvæmlega eins og þær koma fram í "
|
|
141
|
+
"setningunni.",
|
|
142
|
+
),
|
|
143
|
+
IT: PromptConfig(
|
|
144
|
+
default_prompt_label_mapping={
|
|
145
|
+
"b-per": "persona",
|
|
146
|
+
"i-per": "persona",
|
|
147
|
+
"b-loc": "posizione",
|
|
148
|
+
"i-loc": "posizione",
|
|
149
|
+
"b-org": "organizzazione",
|
|
150
|
+
"i-org": "organizzazione",
|
|
151
|
+
"b-misc": "varie",
|
|
152
|
+
"i-misc": "varie",
|
|
153
|
+
},
|
|
154
|
+
default_prompt_prefix="Di seguito sono riportate le frasi e i dizionari JSON "
|
|
155
|
+
"con le entità denominate presenti nella frase data.",
|
|
156
|
+
default_prompt_template="Frase: {text}\nEntità denominate: {label}",
|
|
157
|
+
default_instruction_prompt="Frase: {text}\n\nIdentificare le entità nominate "
|
|
158
|
+
"nella frase. Il risultato dovrebbe essere un dizionario JSON con le chiavi "
|
|
159
|
+
"{labels_str}. I valori devono essere elenchi di entità "
|
|
160
|
+
"nominate di quel tipo, esattamente come appaiono nella frase.",
|
|
161
|
+
),
|
|
162
|
+
NB: PromptConfig(
|
|
163
|
+
default_prompt_label_mapping={
|
|
164
|
+
"b-per": "person",
|
|
165
|
+
"i-per": "person",
|
|
166
|
+
"b-loc": "sted",
|
|
167
|
+
"i-loc": "sted",
|
|
168
|
+
"b-org": "organisasjon",
|
|
169
|
+
"i-org": "organisasjon",
|
|
170
|
+
"b-misc": "diverse",
|
|
171
|
+
"i-misc": "diverse",
|
|
172
|
+
},
|
|
173
|
+
default_prompt_prefix="Følgende er fraser og JSON-ordbøker med de navngitte "
|
|
174
|
+
"enhetene som forekommer i den gitte frasen.",
|
|
175
|
+
default_prompt_template="Frase: {text}\nNavngitte enheter: {label}",
|
|
176
|
+
default_instruction_prompt="Frase: {text}\n\nIdentifiser de navngitte "
|
|
177
|
+
"enhetene i frasen. Du bør outputte dette som en JSON-ordbok med nøklene "
|
|
178
|
+
"{labels_str}. Verdiene skal være lister over de navngitte enhetene av den "
|
|
179
|
+
"typen, akkurat som de vises i frasen.",
|
|
180
|
+
),
|
|
181
|
+
NL: PromptConfig(
|
|
182
|
+
default_prompt_label_mapping={
|
|
183
|
+
"b-per": "persoon",
|
|
184
|
+
"i-per": "persoon",
|
|
185
|
+
"b-loc": "locatie",
|
|
186
|
+
"i-loc": "locatie",
|
|
187
|
+
"b-org": "organisatie",
|
|
188
|
+
"i-org": "organisatie",
|
|
189
|
+
"b-misc": "diversen",
|
|
190
|
+
"i-misc": "diversen",
|
|
191
|
+
},
|
|
192
|
+
default_prompt_prefix="Hieronder staan zinnen en JSON woordenboeken met de "
|
|
193
|
+
"genoemde entiteiten die voorkomen in de gegeven zin.",
|
|
194
|
+
default_prompt_template="Zin: {text}\nGenoemde entiteiten: {label}",
|
|
195
|
+
default_instruction_prompt="Zin: {text}\n\nIdentificeer de genoemde entiteiten "
|
|
196
|
+
"in de zin. Je moet dit uitvoeren als een JSON-woordenboek met de sleutels "
|
|
197
|
+
"{labels_str}. De waarden moeten lijsten zijn van de "
|
|
198
|
+
"genoemde entiteiten van dat type, precies zoals ze voorkomen in de zin.",
|
|
199
|
+
),
|
|
200
|
+
NN: PromptConfig(
|
|
201
|
+
default_prompt_label_mapping={
|
|
202
|
+
"b-per": "person",
|
|
203
|
+
"i-per": "person",
|
|
204
|
+
"b-loc": "sted",
|
|
205
|
+
"i-loc": "sted",
|
|
206
|
+
"b-org": "organisasjon",
|
|
207
|
+
"i-org": "organisasjon",
|
|
208
|
+
"b-misc": "diverse",
|
|
209
|
+
"i-misc": "diverse",
|
|
210
|
+
},
|
|
211
|
+
default_prompt_prefix="Følgende er fraser og JSON-ordbøker med de navngitte "
|
|
212
|
+
"enhetene som forekommer i den gitte frasen.",
|
|
213
|
+
default_prompt_template="Frase: {text}\nNavngitte enheter: {label}",
|
|
214
|
+
default_instruction_prompt="Frase: {text}\n\nIdentifiser de navngitte enhetene "
|
|
215
|
+
"i frasen. Du bør outputte dette som en JSON-ordbok med nøklene {labels_str}."
|
|
216
|
+
"Verdiene skal være lister over de navngitte enhetene "
|
|
217
|
+
"av den typen, akkurat som de vises i frasen.",
|
|
218
|
+
),
|
|
219
|
+
NO: PromptConfig(
|
|
220
|
+
default_prompt_label_mapping={
|
|
221
|
+
"b-per": "person",
|
|
222
|
+
"i-per": "person",
|
|
223
|
+
"b-loc": "sted",
|
|
224
|
+
"i-loc": "sted",
|
|
225
|
+
"b-org": "organisasjon",
|
|
226
|
+
"i-org": "organisasjon",
|
|
227
|
+
"b-misc": "diverse",
|
|
228
|
+
"i-misc": "diverse",
|
|
229
|
+
},
|
|
230
|
+
default_prompt_prefix="Følgende er fraser og JSON-ordbøker med de navngitte "
|
|
231
|
+
"enhetene som forekommer i den gitte frasen.",
|
|
232
|
+
default_prompt_template="Frase: {text}\nNavngitte enheter: {label}",
|
|
233
|
+
default_instruction_prompt="Frase: {text}\n\nIdentifiser de navngitte enhetene "
|
|
234
|
+
"i frasen. Du bør outputte dette som en JSON-ordbok med nøklene {labels_str}."
|
|
235
|
+
"Verdiene skal være lister over de navngitte enhetene "
|
|
236
|
+
"av den typen, akkurat som de vises i frasen.",
|
|
237
|
+
),
|
|
238
|
+
SV: PromptConfig(
|
|
239
|
+
default_prompt_label_mapping={
|
|
240
|
+
"b-per": "person",
|
|
241
|
+
"i-per": "person",
|
|
242
|
+
"b-loc": "plats",
|
|
243
|
+
"i-loc": "plats",
|
|
244
|
+
"b-org": "organisation",
|
|
245
|
+
"i-org": "organisation",
|
|
246
|
+
"b-misc": "diverse",
|
|
247
|
+
"i-misc": "diverse",
|
|
248
|
+
},
|
|
249
|
+
default_prompt_prefix="Följande är meningar och JSON-ordböcker med de "
|
|
250
|
+
"namngivna enheter som förekommer i den givna meningen.",
|
|
251
|
+
default_prompt_template="Mening: {text}\nNamngivna entiteter: {label}",
|
|
252
|
+
default_instruction_prompt="Mening: {text}\n\nIdentifiera de namngivna "
|
|
253
|
+
"enheterna i meningen. Du ska outputta detta som en JSON-ordbok med nycklarna "
|
|
254
|
+
"{labels_str}. Värdena ska vara listor över de namngivna enheter av den "
|
|
255
|
+
"typen, precis som de förekommer i meningen.",
|
|
256
|
+
),
|
|
257
|
+
}
|
|
@@ -0,0 +1,118 @@
|
|
|
1
|
+
"""Templates for the Reading Comprehension task."""
|
|
2
|
+
|
|
3
|
+
from ..data_models import PromptConfig
|
|
4
|
+
from ..languages import DA, DE, EN, ES, FO, FR, IS, IT, NB, NL, NN, NO, SV
|
|
5
|
+
|
|
6
|
+
RC_TEMPLATES = {
|
|
7
|
+
DA: PromptConfig(
|
|
8
|
+
default_prompt_prefix="Følgende er tekster med tilhørende spørgsmål og svar.",
|
|
9
|
+
default_prompt_template="Tekst: {text}\nSpørgsmål: {question}\nSvar med maks. "
|
|
10
|
+
"3 ord: {label}",
|
|
11
|
+
default_instruction_prompt="Tekst: {text}\n\nBesvar følgende spørgsmål om "
|
|
12
|
+
"teksten ovenfor med maks. 3 ord.\n\nSpørgsmål: {question}",
|
|
13
|
+
default_prompt_label_mapping=dict(),
|
|
14
|
+
),
|
|
15
|
+
DE: PromptConfig(
|
|
16
|
+
default_prompt_prefix="Im Folgenden finden Sie Texte mit den dazugehörigen "
|
|
17
|
+
"Fragen und Antworten.",
|
|
18
|
+
default_prompt_template="Text: {text}\nFragen: {question}\nFragen Antwort in "
|
|
19
|
+
"maximal 3 Wörtern: {label}",
|
|
20
|
+
default_instruction_prompt="Text: {text}\n\nBeantworten Sie die folgende Frage "
|
|
21
|
+
"zum obigen Text in höchstens 3 Wörtern.\n\nFrage: {question}",
|
|
22
|
+
default_prompt_label_mapping=dict(),
|
|
23
|
+
),
|
|
24
|
+
EN: PromptConfig(
|
|
25
|
+
default_prompt_prefix="The following are texts with accompanying questions and "
|
|
26
|
+
"answers.",
|
|
27
|
+
default_prompt_template="Text: {text}\nQuestion: {question}\nAnswer in max "
|
|
28
|
+
"3 words: {label}",
|
|
29
|
+
default_instruction_prompt="Text: {text}\n\nAnswer the following question "
|
|
30
|
+
"about the above text in at most 3 words.\n\nQuestion: {question}",
|
|
31
|
+
default_prompt_label_mapping=dict(),
|
|
32
|
+
),
|
|
33
|
+
ES: PromptConfig(
|
|
34
|
+
default_prompt_prefix="A continuación se presentan textos con sus preguntas y "
|
|
35
|
+
"respuestas correspondientes.",
|
|
36
|
+
default_prompt_template="Texto: {text}\nPregunta: {question}\nRespuesta en "
|
|
37
|
+
"máximo 3 palabras: {label}",
|
|
38
|
+
default_instruction_prompt="Texto: {text}\n\nResponda la siguiente pregunta "
|
|
39
|
+
"sobre el texto anterior en máximo 3 palabras.\n\nPregunta: {question}",
|
|
40
|
+
default_prompt_label_mapping=dict(),
|
|
41
|
+
),
|
|
42
|
+
FO: PromptConfig(
|
|
43
|
+
default_prompt_prefix="Hetta eru tekstir saman við spurningum og svar.",
|
|
44
|
+
default_prompt_template="Tekstur: {text}\nSpurningur: {question}\nSvara við í "
|
|
45
|
+
"mesta lagi trimum orðum: {label}",
|
|
46
|
+
default_instruction_prompt="Tekstur: {text}\n\nSvara hesum spurninginum um "
|
|
47
|
+
"tekstin uppiyvir við í mesta lagi trimum orðum.\n\nSpurningur: {question}",
|
|
48
|
+
default_prompt_label_mapping=dict(),
|
|
49
|
+
),
|
|
50
|
+
FR: PromptConfig(
|
|
51
|
+
default_prompt_prefix="Les textes suivants sont accompagnés de questions et de "
|
|
52
|
+
"réponses.",
|
|
53
|
+
default_prompt_template="Texte: {text}\nQuestion: {question}\nRéponse en 3 "
|
|
54
|
+
"mots maximum: {label}",
|
|
55
|
+
default_instruction_prompt="Texte: {text}\n\nRépondez à la question suivante "
|
|
56
|
+
"sur le texte ci-dessus en 3 mots maximum.\n\nQuestion: {question}",
|
|
57
|
+
default_prompt_label_mapping=dict(),
|
|
58
|
+
),
|
|
59
|
+
IS: PromptConfig(
|
|
60
|
+
default_prompt_prefix="Eftirfarandi eru textar með tilheyrandi spurningum og "
|
|
61
|
+
"svörum.",
|
|
62
|
+
default_prompt_template="Texti: {text}\nSpurning: {question}\nSvaraðu með að "
|
|
63
|
+
"hámarki 3 orðum: {label}",
|
|
64
|
+
default_instruction_prompt="Texti: {text}\n\nSvaraðu eftirfarandi spurningu um "
|
|
65
|
+
"textann að hámarki í 3 orðum.\n\nSpurning: {question}",
|
|
66
|
+
default_prompt_label_mapping=dict(),
|
|
67
|
+
),
|
|
68
|
+
IT: PromptConfig(
|
|
69
|
+
default_prompt_prefix="I testi che seguono sono accompagnati da domande e "
|
|
70
|
+
"risposte.",
|
|
71
|
+
default_prompt_template="Testo: {text}\nDomanda: {question}\nRispondere in "
|
|
72
|
+
"massimo 3 parole: {label}",
|
|
73
|
+
default_instruction_prompt="Testo: {text}\n\nRispondi alla seguente domanda "
|
|
74
|
+
"sul in un massimo di 3 parole.\n\nDomanda: {question}",
|
|
75
|
+
default_prompt_label_mapping=dict(),
|
|
76
|
+
),
|
|
77
|
+
NB: PromptConfig(
|
|
78
|
+
default_prompt_prefix="Her følger tekster med tilhørende spørsmål og svar.",
|
|
79
|
+
default_prompt_template="Tekst: {text}\nSpørsmål: {question}\nSvar på maks 3 "
|
|
80
|
+
"ord: {label}",
|
|
81
|
+
default_instruction_prompt="Tekst: {text}\n\nBesvar følgende spørsmål om "
|
|
82
|
+
"teksten ovenfor med maks 3 ord.\n\nSpørsmål: {question}",
|
|
83
|
+
default_prompt_label_mapping=dict(),
|
|
84
|
+
),
|
|
85
|
+
NL: PromptConfig(
|
|
86
|
+
default_prompt_prefix="Hieronder volgen teksten met bijbehorende vragen en "
|
|
87
|
+
"antwoorden.",
|
|
88
|
+
default_prompt_template="Tekst: {text}\nVraag: {question}\nAntwoord in max "
|
|
89
|
+
"3 woorden: {label}",
|
|
90
|
+
default_instruction_prompt="Tekst: {text}\n\nBeantwoord de volgende vraag "
|
|
91
|
+
"over de bovenstaande tekst in maximaal 3 woorden.\n\nVraag: {question}",
|
|
92
|
+
default_prompt_label_mapping=dict(),
|
|
93
|
+
),
|
|
94
|
+
NN: PromptConfig(
|
|
95
|
+
default_prompt_prefix="Her følger tekster med tilhørende spørsmål og svar.",
|
|
96
|
+
default_prompt_template="Tekst: {text}\nSpørsmål: {question}\nSvar på maks 3 "
|
|
97
|
+
"ord: {label}",
|
|
98
|
+
default_instruction_prompt="Tekst: {text}\n\nBesvar følgende spørsmål om "
|
|
99
|
+
"teksten ovenfor med maks 3 ord.\n\nSpørsmål: {question}",
|
|
100
|
+
default_prompt_label_mapping=dict(),
|
|
101
|
+
),
|
|
102
|
+
NO: PromptConfig(
|
|
103
|
+
default_prompt_prefix="Her følger tekster med tilhørende spørsmål og svar.",
|
|
104
|
+
default_prompt_template="Tekst: {text}\nSpørsmål: {question}\nSvar på maks 3 "
|
|
105
|
+
"ord: {label}",
|
|
106
|
+
default_instruction_prompt="Tekst: {text}\n\nBesvar følgende spørsmål om "
|
|
107
|
+
"teksten ovenfor med maks 3 ord.\n\nSpørsmål: {question}",
|
|
108
|
+
default_prompt_label_mapping=dict(),
|
|
109
|
+
),
|
|
110
|
+
SV: PromptConfig(
|
|
111
|
+
default_prompt_prefix="Nedan följer texter med tillhörande frågor och svar.",
|
|
112
|
+
default_prompt_template="Text: {text}\nFråga: {question}\nSvar på max 3 ord: "
|
|
113
|
+
"{label}",
|
|
114
|
+
default_instruction_prompt="Text: {text}\n\nBesvara följande fråga om texten "
|
|
115
|
+
"ovan med högst 3 ord.\n\nFråga: {question}",
|
|
116
|
+
default_prompt_label_mapping=dict(),
|
|
117
|
+
),
|
|
118
|
+
}
|