Исследование Microsoft показало, что современные системы искусственного интеллекта работают значительно эффективнее, чем считалось ранее, снижая энергопотребление при обработке запросов.
Современные системы искусственного интеллекта (ИИ) потребляют на 8-20 раз меньше энергии на один запрос по сравнению с предыдущими оценками. Об этом говорится в исследовании Microsoft AI for Good Lab, Microsoft Sustainability и Azure.
Типичный запрос к большим языковым моделям (LLM), таким как те, что используются в Microsoft Copilot, потребляет от 0,16 до 0,60 Вт⋅ч электроэнергии. Это сопоставимо с потреблением обычного ПК за 15-60 секунд.
Предыдущие оценки не учитывали высокую эффективность крупномасштабных ИИ-систем. При обработке миллиардов запросов ежедневно крупные платформы, такие как Microsoft Azure, применяют методы оптимизации, что приводит к экономии ресурсов.
Исследование также оценило потребление воды для охлаждения. Типичный ИИ-запрос потребляет от 0 до 0,067 мл воды. С развитием технологий охлаждения дата-центров этот показатель будет снижаться.
Эффективность ИИ-систем растет с их масштабом. Большие системы, обрабатывающие тысячи запросов одновременно, более экономичны, чем небольшие. Это позволяет оптимизировать ресурсы при обработке большого числа запросов.
Microsoft инвестирует в повышение энергоэффективности ИИ. Разрабатываются более компактные и специализированные модели, такие как Fara-7B и Phi. Также используется интеллектуальная маршрутизация запросов, направляющая простые задачи к легким моделям.
Оптимизация процессов обработки запросов в дата-центрах и применение более производительного оборудования, включая специализированные ИИ-чипы (например, Microsoft Maia 200), способствуют дальнейшему снижению энергопотребления.
Эти улучшения могут привести к 8-20-кратному снижению потребления энергии на один ИИ-запрос в ближайшей перспективе. Рост использования ИИ не обязательно должен приводить к пропорциональному увеличению нагрузки на энергетические сети и водные ресурсы.
