Организация deepspeedai на GitHub представлена несколькими проектами, в основном написанными на Python и C++. Среди наиболее заметных репозиториев можно выделить DeepSpeed, библиотеку оптимизации глубокого обучения, и DeepSpeedExamples, содержащий примеры моделей. Эти проекты направлены на упрощение распределенного обучения и повышения эффективности.
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
Example models using DeepSpeed
Ongoing research training transformer language models at scale, including: BERT & GPT-2
MII makes low-latency and high-throughput inference possible, powered by DeepSpeed.
Описание для этого репозитория не предоставлено.
An implementation of model parallel autoregressive transformers on GPUs, based on the DeepSpeed library.
deepspeedai разрабатывает инструменты и библиотеки для глубокого обучения, включая DeepSpeed, который оптимизирует распределенное обучение, и Megatron-DeepSpeed, который фокусируется на обучении трансформеров.
Основными языками программирования, используемыми в репозиториях deepspeedai, являются Python и C++. Эти языки позволяют разрабатывать эффективные решения для задач глубокого обучения.
Да, все репозитории deepspeedai на GitHub являются публичными. Это позволяет разработчикам и исследователям использовать и вносить вклад в проекты, такие как DeepSpeed и DeepSpeed-MII.
Следите за deepspeedai с помощью RepoGuard и получайте уведомления в момент появления нового публичного репозитория.
Следить за этим аккаунтом