"""Ham tarif kayıtlarını ChatML formatına dönüştüren örnek script. Kullanım: python release/huggingface/scripts/to_chatml.py \ --input release/huggingface/data/train.jsonl \ --output train_chatml.jsonl Çıktı her satırda şu yapıda bir JSON nesnesi olur: {"messages": [ {"role": "system", "content": "..."}, {"role": "user", "content": "..."}, {"role": "assistant", "content": "..."} ]} """ from __future__ import annotations import argparse import json import random from pathlib import Path SYSTEM_PROMPTS = [ "Sen deneyimli bir Türk şefisin. Verilen tarifi açık ve sade biçimde aktar.", "Sen yemek konusunda uzman bir asistansın. Tarifleri adım adım açıkla.", "Sen Türk mutfağını iyi bilen bir aşçısın. Tarifleri doğal ve akıcı şekilde anlat.", ] USER_TEMPLATES = [ "{title} tarifi verir misin?", "{title} nasıl yapılır?", "Bana {title} tarifini anlatır mısın?", "{title} için tarif paylaşır mısın?", ] def format_assistant(row: dict) -> str: parts: list[str] = [] if row.get("description"): parts.append(row["description"]) parts.append("## Malzemeler") parts.extend(f"- {x}" for x in row["ingredients"]) parts.append("\n## Hazırlanışı") for i, step in enumerate(row["instructions"], 1): parts.append(f"{i}. {step}") if row.get("servings"): parts.append(f"\n**Porsiyon:** {row['servings']}") if row.get("total_time"): parts.append(f"**Toplam süre:** {row['total_time']}") return "\n".join(parts) def to_chatml(row: dict, rng: random.Random) -> dict: title = row["title"] return { "messages": [ {"role": "system", "content": rng.choice(SYSTEM_PROMPTS)}, {"role": "user", "content": rng.choice(USER_TEMPLATES).format(title=title)}, {"role": "assistant", "content": format_assistant(row)}, ] } def main() -> None: parser = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter) parser.add_argument("--input", required=True, type=Path, help="Kaynak JSONL (örn. data/train.jsonl)") parser.add_argument("--output", required=True, type=Path, help="Hedef JSONL") parser.add_argument("--seed", type=int, default=42) args = parser.parse_args() rng = random.Random(args.seed) written = 0 skipped = 0 with args.input.open("r", encoding="utf-8") as fin, args.output.open("w", encoding="utf-8") as fout: for line in fin: line = line.strip() if not line: continue try: row = json.loads(line) except json.JSONDecodeError: skipped += 1 continue if not row.get("title") or not row.get("ingredients") or not row.get("instructions"): skipped += 1 continue out = to_chatml(row, rng) fout.write(json.dumps(out, ensure_ascii=False) + "\n") written += 1 print(f"Yazılan: {written:,} satır → {args.output}") if skipped: print(f"Atlanan: {skipped:,} satır") if __name__ == "__main__": main()