scripts/to_chatml.py

"""Ham tarif kayıtlarını ChatML formatına dönüştüren örnek script.

Kullanım:
    python release/huggingface/scripts/to_chatml.py \
        --input release/huggingface/data/train.jsonl \
        --output train_chatml.jsonl

Çıktı her satırda şu yapıda bir JSON nesnesi olur:
    {"messages": [
        {"role": "system", "content": "..."},
        {"role": "user", "content": "..."},
        {"role": "assistant", "content": "..."}
    ]}
"""
from __future__ import annotations

import argparse
import json
import random
from pathlib import Path

SYSTEM_PROMPTS = [
    "Sen deneyimli bir Türk şefisin. Verilen tarifi açık ve sade biçimde aktar.",
    "Sen yemek konusunda uzman bir asistansın. Tarifleri adım adım açıkla.",
    "Sen Türk mutfağını iyi bilen bir aşçısın. Tarifleri doğal ve akıcı şekilde anlat.",
]

USER_TEMPLATES = [
    "{title} tarifi verir misin?",
    "{title} nasıl yapılır?",
    "Bana {title} tarifini anlatır mısın?",
    "{title} için tarif paylaşır mısın?",
]


def format_assistant(row: dict) -> str:
    parts: list[str] = []
    if row.get("description"):
        parts.append(row["description"])

    parts.append("## Malzemeler")
    parts.extend(f"- {x}" for x in row["ingredients"])

    parts.append("\n## Hazırlanışı")
    for i, step in enumerate(row["instructions"], 1):
        parts.append(f"{i}. {step}")

    if row.get("servings"):
        parts.append(f"\n**Porsiyon:** {row['servings']}")

    if row.get("total_time"):
        parts.append(f"**Toplam süre:** {row['total_time']}")

    return "\n".join(parts)


def to_chatml(row: dict, rng: random.Random) -> dict:
    title = row["title"]
    return {
        "messages": [
            {"role": "system", "content": rng.choice(SYSTEM_PROMPTS)},
            {"role": "user", "content": rng.choice(USER_TEMPLATES).format(title=title)},
            {"role": "assistant", "content": format_assistant(row)},
        ]
    }


def main() -> None:
    parser = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter)
    parser.add_argument("--input", required=True, type=Path, help="Kaynak JSONL (örn. data/train.jsonl)")
    parser.add_argument("--output", required=True, type=Path, help="Hedef JSONL")
    parser.add_argument("--seed", type=int, default=42)
    args = parser.parse_args()

    rng = random.Random(args.seed)

    written = 0
    skipped = 0
    with args.input.open("r", encoding="utf-8") as fin, args.output.open("w", encoding="utf-8") as fout:
        for line in fin:
            line = line.strip()
            if not line:
                continue
            try:
                row = json.loads(line)
            except json.JSONDecodeError:
                skipped += 1
                continue
            if not row.get("title") or not row.get("ingredients") or not row.get("instructions"):
                skipped += 1
                continue
            out = to_chatml(row, rng)
            fout.write(json.dumps(out, ensure_ascii=False) + "\n")
            written += 1

    print(f"Yazılan: {written:,} satır → {args.output}")
    if skipped:
        print(f"Atlanan: {skipped:,} satır")


if __name__ == "__main__":
    main()