Ключевые выводы
- Niv-AI разработала систему мониторинга энергопотребления GPU с точностью до миллисекунд
- Технология позволяет сократить потери энергии в дата-центрах ИИ на 30%
- Компания привлекла $12 млн в раунде seed-финансирования
- Решение уже тестируется в нескольких дата-центрах США
- Niv-AI выступает как "интеллектуальный слой" между дата-центрами и электросетью
Искусственный интеллект требует колоссальных энергетических ресурсов, но современные дата-центры не справляются с управлением пиковыми нагрузками. Niv-AI предлагает решение, которое может изменить ситуацию.
Энергетический кризис в эпоху ИИ
Искусственный интеллект стремительно развивается, но вместе с ним растет и его энергопотребление. Современные дата-центры, работающие с тысячами GPU, сталкиваются с серьезной проблемой: невозможностью эффективно управлять внезапными пиковыми нагрузками. Когда процессоры переключаются между вычислительными задачами и коммуникацией между собой, энергопотребление скачет в пределах миллисекунд.
Эта проблема стала настолько острой, что лидеры отрасли вынуждены принимать крайние меры. Дженсен Хуанг, CEO Nvidia, недавно заявил: "Каждый неиспользуемый ватт — это потерянный доход". Дата-центры вынуждены либо платить за временное энергоснабжение, либо снижать нагрузку на GPU на 30%, что напрямую влияет на их рентабельность.
Ситуация усугубляется тем, что строительство новых дата-центров сталкивается с серьезными препятствиями. Проблемы с землепользованием, цепочками поставок и ограничениями электросетей делают невозможным быстрое расширение инфраструктуры. Это создает идеальную бурю: растущий спрос на вычисления ИИ сталкивается с жесткими ограничениями по энергоснабжению.
Проблема не только в количестве потребляемой энергии, но и в ее нестабильности. Электросеть испытывает стресс от непредсказуемых скачков потребления, что может привести к сбоям в работе. Дата-центры, в свою очередь, боятся потреблять слишком много энергии в определенное время, опасаясь перегрузить сеть.
Niv-AI: Решение проблемы с корнем
Именно эту проблему и решила решить стартап Niv-AI, основанный в Тель-Авиве в прошлом году. Компания разработала систему, которая позволяет точно измерять энергопотребление GPU с точностью до миллисекунд. Это стало возможным благодаря установке специальных датчиков на уровне стойки, которые отслеживают энергопотребление в реальном времени.
Томер Тимор, CEO Niv-AI, объясняет: "Проблема, которую мы рассматриваем, имеет две стороны. С одной стороны, мы помогаем дата-центрам использовать больше GPU и, надеюсь, получать больше от уже оплаченной энергии. С другой стороны, мы также создаем гораздо более ответственные профили энергопотребления между дата-центрами и сетью."
Система Niv-AI работает на основе сбора данных о потреблении энергии в различных сценариях глубокого обучения. Анализируя эти данные, компания разрабатывает методы смягчения, которые позволяют дата-центрам раскрыть больше своей существующей мощности. Инженеры ожидают создать AI-модель на основе собранных данных, которая будет обучена прогнозировать и синхронизировать нагрузки по всему дата-центру.
Этот подход можно сравнить с "копилотом" для инженеров дата-центров. Система не просто мониторит потребление, но и предсказывает будущие потребности, позволяя оптимизировать распределение нагрузки. Это особенно важно для крупных гиперскейлеров, которые пытаются строить новые дата-центры и сталкиваются с трудностями в землепользовании и цепочках поставок.
Технология и внедрение
Niv-AI уже развернула свои датчики в нескольких партнерских дата-центрах и владеет собственными GPU для тестирования. Цель — понять специфические профили энергопотребления для различных задач глубокого обучения. Это позволяет разработать целевые методы оптимизации, которые работают именно для тех задач, которые выполняются в конкретном дата-центре.
Компания ожидает иметь операционную систему в нескольких дата-центрах США в течение шести-восьми месяцев. Это впечатляющий срок для технологии, которая может кардинально изменить подход к управлению энергией в индустрии ИИ. Основатели видят свой продукт как недостающий "интеллектуальный слой" между дата-центрами и электросетью.
С финансовой точки зрения, Niv-AI привлекла $12 млн в раунде seed-финансирования от инвесторов, включая Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward и Aurora Capital Partners. Компания отказалась раскрывать свою оценку, но масштаб инвестиций свидетельствует о серьезном интересе к решению этой проблемы.
Технология Niv-AI особенно актуальна в свете недавних заявлений отраслевых лидеров. Как отметил Лиор Хандлсман, партнер Grove Ventures и член совета директоров Niv-AI: "Мы просто не можем продолжать строить дата-центры так, как мы строим их сейчас". Решение Niv-AI предлагает способ увеличить эффективность существующей инфраструктуры, не требуя масштабного строительства новых объектов.
Перспективы и влияние на отрасль
Успех Niv-AI может иметь далеко идущие последствия для всей индустрии ИИ. Если технология сможет сократить потери энергии на 30%, это эквивалентно созданию дополнительной мощности без строительства новых дата-центров. Это особенно важно в эпоху, когда энергетическая инфраструктура уже испытывает серьезные нагрузки.
Кроме экономических преимуществ, технология Niv-AI также имеет экологическое значение. Сокращение потерь энергии означает меньший углеродный след для индустрии ИИ. В то время как мир стремится к декарбонизации, каждая сэкономленная ватта электроэнергии имеет значение.
Потенциальный рынок для технологии Niv-AI огромен. По мере того как все больше компаний внедряют ИИ и создают собственные модели, потребность в эффективном управлении энергией будет только расти. Технология может стать стандартом де-факто для дата-центров, работающих с ИИ.
Интересно, что подход Niv-AI также может повлиять на отношения между дата-центрами и электросетями. Создавая более предсказуемые и управляемые профили потребления, дата-центры могут стать более надежными партнерами для энергетических компаний. Это может привести к новым моделям сотрудничества и даже к стимулам для энергосбережения.
Проблемы и вызовы
Несмотря на многообещающий потенциал, Niv-AI сталкивается с рядом проблем. Во-первых, интеграция их системы в существующую инфраструктуру дата-центров может быть сложной и дорогостоящей. Каждый дата-центр уникален, и то, что работает в одном месте, может не работать в другом.
Во-вторых, есть вопросы безопасности и надежности. Любая новая система, управляющая критической инфраструктурой, должна быть абсолютно надежной. Ошибка в управлении энергопотреблением может привести к простою всего дата-центра, что обойдется в миллионы долларов ущерба.
Также существует вопрос масштабируемости. Хотя технология работает на уровне отдельных стоек, масштабирование до уровня всего дата-центра или даже сети дата-центров представляет собой серьезную техническую задачу. Компании придется доказать, что их решение может работать на любом уровне масштаба.
Наконец, есть конкурентная угроза. Крупные игроки, такие как Amazon, Google и Microsoft, могут разработать собственные решения или приобрести стартапы, работающие в этой области. Niv-AI должна быстро закрепиться на рынке, прежде чем крупные конкуренты начнут активно работать в этой сфере.
Сравнение с альтернативными решениями
На рынке уже существуют другие подходы к управлению энергией в дата-центрах. Некоторые компании сосредоточены на улучшении эффективности охлаждения, другие работают над оптимизацией программного обеспечения. Однако Niv-AI выделяется своим фокусом на GPU-специфических проблемах.
Традиционные системы управления энергией обычно работают на уровне целых серверов или дата-центров, но не могут реагировать на изменения в пределах миллисекунд. Niv-AI заполняет эту нишу, предлагая гранулярность, необходимую для современных нагрузок ИИ.
Еще одно ключевое отличие — подход Niv-AI к проблеме. Вместо того чтобы просто мониторить потребление, компания активно работает над оптимизацией. Это делает их решение более проактивным, чем реактивные системы, которые просто предупреждают об ошибках.
Сравнение с решениями крупных облачных провайдеров также показывает преимущества Niv-AI. Хотя компании, такие как AWS и Azure, имеют собственные системы управления энергией, они часто являются проприетарными и недоступными для сторонних клиентов. Niv-AI предлагает независимое решение, которое может работать с оборудованием любого производителя.
Будущее управления энергией в ИИ
Разработка Niv-AI — это только начало новой эры в управлении энергией для ИИ. По мере того как модели становятся все более сложными и требовательными к ресурсам, потребность в эффективных решениях будет только расти. Мы можем ожидать появления новых технологий, которые выйдут за рамки простого мониторинга и оптимизации.
Одна из перспективных областей — интеграция возобновляемых источников энергии. Системы управления энергией будущего могут динамически переключаться между различными источниками в зависимости от доступности и стоимости. Это сделает дата-центры не только более эффективными, но и более устойчивыми.
Еще один тренд — развитие краевых вычислений. По мере того как обработка данных перемещается ближе к источникам данных, управление энергией становится еще более критичным. Решения, подобные Niv-AI, могут быть адаптированы для работы в распределенных средах.
Наконец, мы можем ожидать более тесной интеграции между системами управления энергией и ИИ-моделями. Вместо того чтобы рассматривать энергопотребление как отдельную проблему, будущие системы могут оптимизировать как вычислительную эффективность, так и энергопотребление одновременно, создавая по-настоящему устойчивые решения для ИИ.
