|
|
--- |
|
|
license: unknown |
|
|
--- |
|
|
## 概要 |
|
|
|
|
|
- 下記プレプリントの評価データの和訳です。 |
|
|
- [Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models](https://arxiv.org/pdf/2406.02061) |
|
|
- [公式リポジトリ](https://github.com/LAION-AI/AIW?tab=readme-ov-file)の[prompts.json](https://github.com/LAION-AI/AIW/tree/main/prompts)を元に和訳しました。 |
|
|
- DeepLを用いて全件和訳しました。 |
|
|
- 和訳後に目視確認を行い、翻訳の過程で問題が成立しなくなる事例を確認したため、手作業で修正しました。 |
|
|
- 例:1つの文中でbrotherを「弟」と訳す事例と「兄」と訳す事例が混在していました。 |
|
|
- 他に問題として成立しなくなる事例が確認された際はフォーラムで共有いただけると幸いです。 |
|
|
|
|
|
## 注意 |
|
|
- id:60とid:62は、原著論文に従い、入力文が`ダミー`になっています。 |
|
|
- id:100~id:108は、原著論文に従い、`right_answer`のカラムが`null`になっています。 |
|
|
- データセットのライセンスが(作成者が調べた限り)公開されていないため、unknownとさせていただきます。分かり次第更新します。 |