LibreAI / Аудио / StyleTTS2
// audio · yl4579/StyleTTS2

StyleTTS2

StyleTTS2 — проект с открытым исходным кодом из категории «Аудио» от yl4579 (yl4579/StyleTTS2 на GitHub). У него 6 365 звёзд на GitHub и 709 форков, он распространяется по лицензии MIT и последний раз обновлялся на GitHub 10 августа 2024.

Human-level text-to-speech through style diffusion and adversarial training with speech language models.

★ 6,4 тыс. звёзд⑂ 709 форковMITобновлено авг. 2024
▦ визуал — в README этого проекта нет встраиваемого скриншота,
поэтому здесь заглушка. Руководство ниже в любом случае полное.
// факты о проекте

Факты о проекте

Репозиторий
yl4579/StyleTTS2
Звёзды GitHub
6 365
Форки
709
Лицензия
MIT
Последнее обновление на GitHub
10 августа 2024
Категория
Аудио
Тип страницы
Полное руководство по установке
// как это работает

Как это работает

  1. Clarify your voice goal

    Decide whether you will use a pretrained voice model or train/fine-tune on your own dataset and language.

  2. Clone and install

    Clone the repo, install PyTorch and the requirements, plus phonemizer and espeak-ng for text processing.

  3. Configure models

    Download a pretrained StyleTTS 2 model (LJSpeech or LibriTTS) or prepare your training config.

  4. Synthesize your first line

    Run inference with a reference audio clip to generate speech in that style, or start a training run.

// возможности

Почему его любят

Style diffusion synthesis

Models speech style with diffusion, producing natural, expressive prosody rather than flat monotone output.

Adversarial training with speech LMs

Uses large speech language models such as WavLM in adversarial training to push quality towards human level.

Zero-shot speaker adaptation

Adapts to a new speaker's style from a reference recording using the pretrained text aligner and pitch extractor.

Pretrained models published

Ready models trained on LJSpeech (24 kHz) and LibriTTS are downloadable from Hugging Face.

Full training pipeline

Includes first-stage, second-stage and fine-tuning training scripts with Accelerate support for your own datasets.

Multilingual path

Pretrained components cover English, Japanese and Chinese corpora, and a multilingual PL-BERT supports training other languages.

Advertisement
// запустите сами

Запустите сами

  1. Clone the repository

    Clone StyleTTS 2 and enter the directory.

    git clone https://github.com/yl4579/StyleTTS2.git
    cd StyleTTS2
  2. Install dependencies

    Install the requirements, plus phonemizer and espeak-ng used for text processing.

    pip install -r requirements.txt
    pip install phonemizer
    sudo apt-get install espeak-ng
  3. Train or fine-tune

    For your own data, launch the documented two-stage training pipeline; for inference, download a pretrained model from Hugging Face and follow the README's inference notebook.

    accelerate launch train_first.py --config_path ./Configs/config.yml
    python train_second.py --config_path ./Configs/config.yml
// сценарии использования

Что можно создать

Advertisement
// вопросы и ответы

Вопросы и ответы

Who maintains StyleTTS 2?

StyleTTS 2 is maintained by yl4579 and accompanies the StyleTTS 2 research paper.

Is it free?

The code is MIT licensed. Pretrained models have their own usage conditions described in the README, especially for voices not in the training set.

Does it need a paid API key?

No — inference and training run locally on your own GPU with downloaded models.

How does it compare to XTTS or F5-TTS?

All are open voice-cloning TTS systems; StyleTTS 2's distinction is its style-diffusion design plus adversarial training with speech language models, and its two-stage training pipeline.

How do I get started?

Clone the repo, install requirements and espeak-ng, download the LJSpeech or LibriTTS pretrained model from Hugging Face, and run the inference example.

// продолжить изучение

Похожие инструменты

Аудио

kubeai

The easiest way to serve AI models, including speech-to-text, on Kubernetes.

★ 1,3 тыс. звёздApache-2.0
Смотреть руководство →
Аудио

silero-models

Silero Models: pre-trained text-to-speech models made embarrassingly simple

★ 6,1 тыс. звёздCustom
Смотреть руководство →
Аудио

vits

VITS — the original end-to-end text-to-speech model: a conditional VAE with adversarial learning, in PyTorch.

★ 7,9 тыс. звёздMIT
Смотреть руководство →
Аудио

index-tts

IndexTTS: industrial-level, controllable zero-shot text-to-speech with voice cloning

★ 24,4 тыс. звёздNOASSERTION
Смотреть руководство →
Аудио

Speech

A scalable generative AI framework built for researchers and developers working on Large Language Models, Multimodal, and Speech AI (Automatic Speech Recogni…

★ 18,5 тыс. звёздApache-2.0
Смотреть руководство →
Аудио

Chatterbox

Chatterbox — Resemble AI's open-source TTS family: expressive text-to-speech and voice cloning, multilingual V3, low-latency Turbo and tiny Nano models, MIT

★ 27,1 тыс. звёздMIT
Смотреть руководство →
// альтернативы

Альтернативы: Аудио

Другие проекты из категории «Аудио» с наибольшим числом звёзд в каталоге LibreAI — реалистичный список альтернатив, если StyleTTS2 вам не подходит.

// ещё в категории audio

Больше проектов: Аудио

Соседние проекты из категории «Аудио» в каталоге, ближайшие по числу звёзд к StyleTTS2 — продолжайте изучать полку по обе стороны от него.

Получить StyleTTS2

Бесплатно и открыто — забирайте исходный код, ставьте звезду репозиторию и начинайте создавать.