Відповідно до дослідження IDC AInomics інвестиції у штучний інтелект (ШІ) у 2025 році зростуть на 104% та становитимуть щонайменше п’яту частину від загального бюджету компаній. Ключовим драйвером цього зростання стане генеративний ШІ. Тому в статті розглядаємо, що таке центр обробки даних штучного інтелекту та в чому його особливість.

Центр обробки даних штучного інтелекту – це об’єкт, у якому розміщується спеціальна ІТ-інфраструктура, необхідна для навчання, розгортання та надання програм і послуг ШІ. Він має вдосконалену архітектуру обчислення, мережі та зберігання, а також можливості енергопостачання та охолодження.

У той час як традиційні ЦОД містять багато тих самих компонентів, що й спеціалізований для ШІ, їхня обчислювальна потужність та інші можливості ІТ-інфраструктури значно відрізняються. 

Більшості компаній сьогодні не потрібно будувати власні центри обробки даних штучного інтелекту з нуля. Адже такі варіанти, як гібридна хмара та колокейшн, дозволяють вирішити це завдання, пропонуючи потужну IT-інфраструктуру для високоінтенсивних робочих навантажень.

Обидва типи дата-центрів мають сервери, системи зберігання та мережеве обладнання, а їхні власники дбають про безпеку, надійність та енергоефективність.

Головна різниця – потужність обробки. Традиційні ЦОД не розраховані на інтенсивні навантаження ШІ, що призводить до перевантажень. Натомість дата-центри для ШІ оснащені прискорювачами (GPU, TPU, NPU), швидкою пам’яттю та вдосконаленими системами охолодження для ефективної роботи AI-моделей.

Гіпермасштабні дата-центри – це великі об’єкти з понад 5000 серверів і площею від 1000 метрів квадратних. Вони призначені для обробки масштабних робочих навантажень, таких як генеративний ШІ, аналітика та хмарні сервіси. Основні провайдери: AWS, Microsoft Azure, Google Cloud.

Комерційні ЦОД – це модель, коли компанії орендують серверні потужності у великих дата-центрів. Це дозволяє бізнесу отримати доступ до гіпермасштабної інфраструктури без значних капіталовкладень. Лідери ринку: Equinix, Digital Realty, що здають площі Amazon, Google та Microsoft для подальшої оренди клієнтам.

Обидва варіанти підходять для ШІ-рішень, але вибір залежить від потреб компанії. Гіпермасштабовані – для великих провайдерів, комерційні – для тих, хто хоче масштабування без власної інфраструктури.

Microsoft назвала штучний інтелект «електрикою нашого віку», і темпи його впровадження це підтверджують. Інструменти ШІ, такі як ChatGPT, швидко набули популярності, що стимулювало розвиток нових рішень та інфраструктури.

ШІ стає доступним не лише для великих компаній — завдяки відкритим моделям будь-який бізнес може інтегрувати AI у свої процеси. За даними IBM, 43% технологічних керівників уже переглядають свою ІТ-інфраструктуру для масштабування ШІ-рішень.

Попит на обчислювальні потужності призвів до стрімкого розвитку дата-центрів. Найбільші хаби з’являються в Азіатсько-Тихоокеанському регіоні та Північній Америці.

Технологічні гіганти активно інвестують у цей сектор. У 2025 році Microsoft виділить 80 мільярдів доларів на будівництво нового дата-центру, а Meta — понад 10 мільярдів на гіпермасштабний комплекс у Луїзіані. Швидкість розвитку цієї інфраструктури визначатиме майбутнє ШІ.

Центрам обробки даних із підтримкою ШІ притаманні певні функції та характеристики:

Дата-центри для ШІ використовують потужні прискорювачі (GPU, TPU, NPU), які оптимізують машинне навчання, обробку мовлення та великі мовні моделі (LLM). Графічні процесори Nvidia дозволяють обробляти завдання паралельно, значно підвищуючи швидкість роботи.

ШІ вимагає високошвидкісної пам’яті та гнучкої архітектури. 

Твердотільні накопичувачі (SSD) — пристрої зберігання даних на основі напівпровідників, які зазвичай використовують флеш-пам’ять NAND — основа роботи  центрів обробки даних штучного інтелекту. Зокрема, твердотільні накопичувачі NVMe , які мають швидкість, можливість програмування та здатність виконувати паралельну обробку.

Графічні процесори, прискорювачі та деякі твердотільні накопичувачі ЦОД також використовують пам’ять високої пропускної здатності (HBM). Такий тип архітектури пам’яті забезпечує високопродуктивну передачу даних із меншим енергоспоживанням, ніж динамічна пам’ять з довільним доступом (DRAM).

Для обробки запитів у реальному часі дата-центри впроваджують оптоволоконні мережі, технологію комбінованої оптики та програмно визначені мережі (SDN). Це зменшує затримки та дозволяє швидко масштабувати навантаження.

Сервери ШІ споживають величезну кількість енергії, що вимагає ефективних рішень. Наприклад в спеціалізованих ЦОД переважає рідинне охолодження. Такий метод використовує воду, а не повітряне охолодження для передачі та розсіювання тепла. Він пропонує більшу ефективність у роботі з високою щільністю тепла та покращену ефективність енергоспоживання — коефіцієнт (PuE).

Очікується, що до 2030 року попит на енергію для дата-центрів зросте на 165%.

Технологічні компанії, як Apple, уже перевели свої дата-центри на 100% відновлювану енергію (сонячну, гідро- та вітрову). Розглядаються навіть орбітальні центри обробки даних, які зможуть використовувати сонячну енергію в космосі, знижуючи витрати на електроенергію на 95%.

Раніше ми писали про роль штучного інтелекту в дата-центрах.