Theta Labs запускает гибридную облачную архитектуру Edge с динамическим рынком GPU спроса и предложения для ...

Новая децентрализованная система предоставляет вычисления на базе ИИ уровня предприятия с экономией до 70% за счет интеллектуального сочетания облачных и распределенных ресурсов

Компания Theta Labs сегодня анонсировала бета-версию своей гибридной архитектуры облака на границе для сети Theta EdgeCloud, вычислительной платформы, которая сочетает в себе традиционные облачные GPU с распределенной сетью из более чем 30,000 узлов границы, управляемых сообществом. Платформа предназначена для предоставления экономически эффективного доступа к высокопроизводительным вычислительным ресурсам для обучения и вывода AI моделей, обработки видео, финансового моделирования и других задач, требующих интенсивных вычислений с использованием GPU. В этом новом релизе представлена новая децентрализованная площадка GPU, которая поддерживает конкурентоспособные и прозрачные цены на вычисления по всей платформе.

Гибридная архитектура решает фундаментальную проблему современного вычисления: рост цен и ограниченная доступность специализированного оборудования, необходимого для задач ИИ и машинного обучения. Традиционные облачные провайдеры взимают высокие цены за доступ к GPU, часто исключая из игры небольшие исследовательские группы, стартапы и учебные заведения. Интегрируя распределенные вычислительные ресурсы от членов сообщества наряду с традиционной облачной инфраструктурой, платформа предоставит аналогичные возможности по значительно сниженным ценам.

Динамичный рынок GPU для эффективной маршрутизации вычислений

Theta EdgeCloud — это децентрализованный рынок, который соединяет предложение и спрос на вычислительную мощность GPU. Он предоставляет возможность любому, у кого есть неиспользуемые GPU, внести свои ресурсы и зарабатывать вознаграждения, в то время как разработчики и команды ИИ получают масштабируемую, экономически эффективную платформу для запуска контейнеризованных рабочих нагрузок.

Платформа теперь позволяет клиентам выбирать наиболее подходящую инфраструктуру для различных типов вычислительных задач. Например, обучение большой модели ИИ, которое требует значительного объема GPU vRAM, может быть направлено на мощные облачные или центровые GPU. В отличие от этого, такие задачи, как нагрузки на инференс моделей с выбросами, которые по своей природе могут быть распараллелены, могут быть распределены между многими игровыми машинами, управляемыми сообществом, что предоставляет гибкую и экономически эффективную альтернативу.

Чтобы обеспечить справедливую и динамичную модель ценообразования, Theta EdgeCloud позволяет операторам узлов (стороне предложения) устанавливать свои собственные почасовые ставки аренды. В то же время пользователи (стороне спроса) могут выбирать узлы, которые соответствуют их требованиям к производительности и бюджетным ограничениям при запуске рабочих нагрузок. Такой подход, основанный на рыночных механизмах, помогает поддерживать конкурентоспособные и прозрачные цены на вычисления с использованием GPU на платформе.

Система включает в себя механизмы резервного копирования с автоматической логикой переключения на резервный канал для перераспределения задач, если какое-либо устройство сообщества выходит из строя, что обеспечивает надежное выполнение вычислительных задач в гетерогенной сети типов GPU.

Питание ведущих академических и корпоративных клиентов

Платформа в настоящее время обслуживает клиентов, включая Стэнфордский университет, Сеульский национальный университет, KAIST, Университет Йонсея, Университет Орегона, Государственный университет Мичигана и НТУ Сингапур для академических исследований в области ИИ. Корпоративные клиенты включают крупные спортивные команды, такие как Лас-Вегас Найтс НХЛ, Хьюстон Рокетс НБА и глобальные киберспортивные команды FlyQuest и Evil Geniuses.

Бета-версия включает в себя функции, запрошенные существующими клиентами, включая постоянное хранилище для обучения моделей ИИ, улучшенную приоритезацию задач и интерфейс API для разработчиков для подачи задач и аналитики.

«Реальность такова, что затраты на графические процессоры стали непосильными для многих организаций, занимающихся важными исследованиями в области ИИ», — сказал Джейи Лонг, технический директор Theta Labs. «Университеты сообщают нам, что им приходится сокращать проекты или ждать месяцы, чтобы получить доступ к доступным вычислительным ресурсам. Используя неиспользуемую мощность графических процессоров, находящихся в игровых компьютерах и рабочих станциях по всему миру, мы можем предоставить такие же вычислительные возможности за малую часть стоимости. Это означает, что наши партнеры в Стэндфорде, KAIST и других учреждениях могут проводить больше экспериментов, быстрее итерации и раздвигать границы того, что возможно в исследованиях ИИ, не ограничивая свои амбиции бюджетнымиConstraints.

Технические возможности

Гибридная архитектура поддерживает контейнеризированные вычислительные задачи, включая обучение и вывод AI-моделей, видеокодирование и транскодирование, 3D-рендеринг, финансовые симуляции и приложения для научных вычислений. Платформа предоставляет более 80 ПетаFLOPS распределенной вычислительной мощности GPU благодаря комбинации облачных партнерств с Google Cloud и Amazon Web Services, а также своей распределенной границы сети.

Клиентский узел EdgeCloud - это легковесный программный пакет, который позволяет членам сообщества использовать свои неиспользуемые возможности GPU. Продвинутая контейнеризация заданий обеспечивает высокоэффективные вычисления на различных типах и спецификациях GPU. Чтобы узнать больше о программном обеспечении клиента EdgeCloud, пожалуйста, ознакомьтесь с этой ссылкой.

О компании Theta Labs

Theta Labs является ведущим поставщиком децентрализованной облачной инфраструктуры для ИИ, медиа и развлечений, обеспечиваемой глобальной сетью из 30 000 распределенных краевых узлов и родной блокчейн-технологией. При поддержке Samsung, Sony, Bertelsmann Digital Media Investments и Creative Artists Agency, Theta входит в десятку лучших блокчейнов DePIN по рыночной капитализации на Coingecko и в число лучших токенов ИИ на Binance.com. Корпоративный валидатор Theta и совет по управлению состоят из мировых лидеров рынка, включая Google, Samsung, CAA и Binance.

Недавно запущенная Theta EdgeCloud является первой гибридной платформой облачных и крайних вычислений с ИИ, обладающей более чем 80 ПетаФЛОПС мощности распределенных GPU по запросу. EdgeCloud теперь насчитывает 25 глобальных клиентов, включая 4 из 5 лучших университетов Южной Кореи, ведущие профессиональные спортивные команды, включая NHL Las Vegas Knights, NBA Houston Rockets и глобальные киберспортивные команды FlyQuest и Evil Geniuses среди прочих.

Вебсайт | Твиттер | Медиум | Дискорд | Портал разработчиков | Гитхаб

Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Награда
  • комментарий
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить