LibreAI / Développement / easy-dataset
// devtools · ConardLi/easy-dataset

easy-dataset

easy-dataset est un projet de développement open source, créé par ConardLi (ConardLi/easy-dataset sur GitHub). Il compte 14 981 étoiles sur GitHub et 1 533 forks, il est publié sous la licence AGPL-3.0 et a été mis à jour pour la dernière fois sur GitHub le 1er mai 2026.

Turn domain documents into high-quality LLM fine-tuning, RAG and evaluation datasets through a visual UI.

★ 15,0 k étoiles⑂ 1,5 k forksAGPL-3.0mis à jour mai 2026
▦ visuel — le README de ce projet ne contient aucune capture intégrable,
voici donc un emplacement réservé. Le guide ci-dessous est complet malgré tout.
// détails du projet

Détails du projet

Étoiles GitHub
14 981
Forks
1 533
Licence
AGPL-3.0
Dernière mise à jour sur GitHub
1er mai 2026
Catégorie
Développement
Type de fiche
Guide d'installation complet
Site officiel
Official site
// fonctionnement

Comment ça marche

  1. Gather your domain documents

    Collect the PDFs, Word files, Markdown, EPUB or other documents you want to turn into training or evaluation data.

  2. Run the app

    Start Easy Dataset with Docker Compose or npm, then open it in your browser at http://localhost:1717.

  3. Configure a model and import documents

    Connect an LLM API (or a local Ollama model), import your files, and let parsing, splitting and the domain label tree run.

  4. Generate, review and export

    Generate questions and answers, check quality scores, then export in Alpaca or ShareGPT format, generate a LLaMA Factory config, or upload to Hugging Face.

// fonctionnalités

Pourquoi on l'adore

Intelligent document processing

Parses PDF, Markdown, DOCX, TXT, EPUB and more, with multiple splitting algorithms (Markdown structure, recursive, fixed length, code-aware) and visual segmentation.

Question and answer generation

Auto-extracts questions from text segments and generates answers and chain-of-thought with an LLM, guided by a domain label tree built from your documents.

Multiple dataset types

Builds single-turn QA, multi-turn dialogue and image QA datasets, plus data distillation straight from domain topics without uploading documents.

Model evaluation system

Generates evaluation sets (true/false, choice, short-answer, open-ended), runs judge-model scoring with custom rules, and offers a double-blind human arena.

Training-ready exports

Exports Alpaca, ShareGPT and other formats as JSON/JSONL, with balanced export per tag, one-click LLaMA Factory config generation and direct Hugging Face upload.

Task and resource management

Background batch processing with a task center, token and API-call monitoring dashboards, custom project prompt templates and a 3-model testing playground.

Advertisement
// lancez-le

Lancez-le vous-même

  1. Clone the repository

    Clone Easy Dataset and enter the project directory.

    git clone https://github.com/ConardLi/easy-dataset.git
    cd easy-dataset
  2. Install and build with npm

    Install dependencies and build the app (Docker users can skip this and use the official image instead).

    npm install
    npm run build
  3. Start the app

    Launch the server and open the UI in your browser.

    npm run start
    # then open http://localhost:1717
// cas d'usage

Ce que vous pouvez créer

Advertisement
// faq

Questions fréquentes

Who maintains Easy Dataset?

It is developed by ConardLi and community contributors; an accompanying paper is on arXiv (2507.04009).

Is it free to use?

The software is open source under AGPL-3.0, so self-hosting is free; note AGPL conditions apply if you offer it as a network service.

Does it need a paid API key?

It needs an LLM to generate questions and answers: you can use a paid provider's API key, or a local Ollama model at no API cost.

How does it compare with writing dataset scripts by hand?

Easy Dataset replaces ad-hoc parsing/splitting/generation scripts with a visual pipeline, quality scoring and one-click exports to training formats and LLaMA Factory.

How do I get started?

Clone the repo (or pull the Docker image), start it, open http://localhost:1717, connect a model, and import your first documents.

// continuez l'exploration

Outils similaires

Développement

rocketride-server

A high-performance AI pipeline engine - build LLM workflows as portable .pipe files

★ 17,8 k étoilesMIT
Voir le guide →
Développement

slides_maker

Turn papers and code into editable PPTX slides with charts and speaker notes.

★ 538 étoilesMIT
Voir le guide →
Développement

llm-course

A free course to get into large language models, with roadmaps and runnable Colab notebooks

★ 83,3 k étoilesApache-2.0
Voir le guide →
Développement

headroom

Compress tool outputs, logs and RAG chunks before they reach the LLM — same answers, fewer tokens

★ 74,7 k étoilesApache-2.0
Voir le guide →
Développement

econ-writing-skill

Turn your AI assistant into an expert economics-paper writer.

★ 638 étoilesMIT
Voir le guide →
Développement

LlamaFactory

Unified, efficient fine-tuning of 100+ LLMs and VLMs with a CLI and Web UI — ACL 2024

★ 75,4 k étoilesApache-2.0
Voir le guide →
// alternatives

Alternatives en Développement

Les autres projets de la catégorie Développement avec le plus d'étoiles du catalogue LibreAI — la sélection réaliste d'alternatives si easy-dataset ne vous convient pas.

// plus en devtools

Plus en Développement

Projets de la catégorie Développement proches dans le catalogue, les plus proches en étoiles de easy-dataset — continuez à explorer de part et d'autre.

Obtenir easy-dataset

Gratuit et ouvert : récupérez le code source, mettez une étoile au dépôt et commencez à créer.