LibreAI / 開発ツール / easy-dataset
// devtools · ConardLi/easy-dataset

easy-dataset

easy-datasetは、ConardLiが公開しているオープンソースの開発ツールプロジェクトです(GitHub: ConardLi/easy-dataset)。GitHubスターは14,981、フォークは1,533で、AGPL-3.0ライセンスの下で公開されています。GitHubでの最終更新は2026年5月1日です。

Turn domain documents into high-quality LLM fine-tuning, RAG and evaluation datasets through a visual UI.

★ 15.0k スター⑂ 1.5k フォークAGPL-3.0更新 2026年5月
▦ ビジュアル — このプロジェクトのREADMEには埋め込み可能なスクリーンショットがないため、
ここではプレースホルダーを表示しています。下のガイド自体は完全な内容です。
// プロジェクトの基本情報

プロジェクト基本情報

リポジトリ
ConardLi/easy-dataset
GitHubスター
14,981
フォーク
1,533
ライセンス
AGPL-3.0
GitHubでの最終更新
2026年5月1日
カテゴリ
開発ツール
掲載タイプ
完全なインストールガイド
公式サイト
Official site
// 仕組み

仕組み

  1. Gather your domain documents

    Collect the PDFs, Word files, Markdown, EPUB or other documents you want to turn into training or evaluation data.

  2. Run the app

    Start Easy Dataset with Docker Compose or npm, then open it in your browser at http://localhost:1717.

  3. Configure a model and import documents

    Connect an LLM API (or a local Ollama model), import your files, and let parsing, splitting and the domain label tree run.

  4. Generate, review and export

    Generate questions and answers, check quality scores, then export in Alpaca or ShareGPT format, generate a LLaMA Factory config, or upload to Hugging Face.

// 機能

選ばれる理由

Intelligent document processing

Parses PDF, Markdown, DOCX, TXT, EPUB and more, with multiple splitting algorithms (Markdown structure, recursive, fixed length, code-aware) and visual segmentation.

Question and answer generation

Auto-extracts questions from text segments and generates answers and chain-of-thought with an LLM, guided by a domain label tree built from your documents.

Multiple dataset types

Builds single-turn QA, multi-turn dialogue and image QA datasets, plus data distillation straight from domain topics without uploading documents.

Model evaluation system

Generates evaluation sets (true/false, choice, short-answer, open-ended), runs judge-model scoring with custom rules, and offers a double-blind human arena.

Training-ready exports

Exports Alpaca, ShareGPT and other formats as JSON/JSONL, with balanced export per tag, one-click LLaMA Factory config generation and direct Hugging Face upload.

Task and resource management

Background batch processing with a task center, token and API-call monitoring dashboards, custom project prompt templates and a 3-model testing playground.

Advertisement
// 自分で実行

自分で実行してみる

  1. Clone the repository

    Clone Easy Dataset and enter the project directory.

    git clone https://github.com/ConardLi/easy-dataset.git
    cd easy-dataset
  2. Install and build with npm

    Install dependencies and build the app (Docker users can skip this and use the official image instead).

    npm install
    npm run build
  3. Start the app

    Launch the server and open the UI in your browser.

    npm run start
    # then open http://localhost:1717
// 活用例

作れるもの

Advertisement
// よくある質問

よくある質問

Who maintains Easy Dataset?

It is developed by ConardLi and community contributors; an accompanying paper is on arXiv (2507.04009).

Is it free to use?

The software is open source under AGPL-3.0, so self-hosting is free; note AGPL conditions apply if you offer it as a network service.

Does it need a paid API key?

It needs an LLM to generate questions and answers: you can use a paid provider's API key, or a local Ollama model at no API cost.

How does it compare with writing dataset scripts by hand?

Easy Dataset replaces ad-hoc parsing/splitting/generation scripts with a visual pipeline, quality scoring and one-click exports to training formats and LLaMA Factory.

How do I get started?

Clone the repo (or pull the Docker image), start it, open http://localhost:1717, connect a model, and import your first documents.

// さらに探索

似ているツール

開発ツール

rocketride-server

A high-performance AI pipeline engine - build LLM workflows as portable .pipe files

★ 17.8k スターMIT
ガイドを見る →
開発ツール

slides_maker

Turn papers and code into editable PPTX slides with charts and speaker notes.

★ 538 スターMIT
ガイドを見る →
開発ツール

llm-course

A free course to get into large language models, with roadmaps and runnable Colab notebooks

★ 83.3k スターApache-2.0
ガイドを見る →
開発ツール

headroom

Compress tool outputs, logs and RAG chunks before they reach the LLM — same answers, fewer tokens

★ 74.7k スターApache-2.0
ガイドを見る →
開発ツール

econ-writing-skill

Turn your AI assistant into an expert economics-paper writer.

★ 638 スターMIT
ガイドを見る →
開発ツール

LlamaFactory

Unified, efficient fine-tuning of 100+ LLMs and VLMs with a CLI and Web UI — ACL 2024

★ 75.4k スターApache-2.0
ガイドを見る →
// 代替候補

代替候補: 開発ツール

LibreAIカタログに掲載された開発ツールプロジェクトの中で最もスターの多いもの — easy-datasetが合わなかった場合に検討したい、現実的な候補リストです。

// さらに見る devtools

さらに見る: 開発ツール

カタログの中でeasy-datasetとスター数が近い開発ツールプロジェクト — 前後の棚もそのまま見て回れます。

easy-datasetを入手する

無料でオープン — ソースコードを入手して、リポジトリにスターを付け、作り始めましょう。