Великі технологічні компанії намагаються скоротити свої системи штучного інтелекту (ШІ), оскільки зростаючі витрати на обчислення змушують їх переглянути спосіб створення та розгортання своїх найдосконаліших програм. Цей захід ефективності знаменує значний зсув у галузі, де фокус переміщується від сирої потужності до оптимізованої продуктивності.
Процес, відомий як оптимізація штучного інтелекту, включає удосконалення складних програмних систем для покращення їх продуктивності, одночасно зменшуючи обчислювальну потужність, необхідну для роботи. Ці підвищення ефективності можуть перетворити складну економіку на стабільну діяльність для компаній, які покладаються на масивні обчислювальні системи. Вересневе партнерство Meta з Amazon Web Services (AWS) продемонструвало цю тенденцію, дозволивши фірмі запропонувати свою модель штучного інтелекту Llama різних розмірів, оптимізовану для різних обчислювальних середовищ.
Серверна ферма
За майстерністю ШІ ховається дорога інфраструктура. Запуск розширених програм вимагає величезних центрів обробки даних і спеціалізованих процесорів. Наприклад, партнерство Microsoft з OpenAI вимагало створення кількох суперкомп’ютерів зі штучним інтелектом, кожен з яких використовує тисячі графічних процесорів Nvidia A100. Ці установки споживають значну кількість енергії — для навчання великої мовної моделі (LLM) може знадобитися енергія, еквівалентна тисячам домогосподарств.
Цей тиск викликав інновації в архітектурі програмного забезпечення. Google запровадив різноманітні методи оптимізації, наприклад квантування, яке зменшує точність чисел, необхідних у обчисленнях, зберігаючи продуктивність моделі. Meta досягла підвищення ефективності зі своїми моделями Llama AL завдяки вдосконаленню архітектури, що дозволило меншим моделям працювати високо, використовуючи менше параметрів.
Від центру обробки даних до кишенькового пристрою
Прагнення до ефективності виходить за рамки контролю над витратами. Розгортання Apple машинного навчання на пристрої для Face ID демонструє, як оптимізація дозволяє працювати складному програмному забезпеченню на мобільних пристроях. Реалізація Google перекладу на пристрої в Android є ще одним прикладом того, як оптимізовані моделі можуть працювати без постійного підключення до хмари.
Результати змінюють спосіб розгортання програмного забезпечення. Механізм штучного інтелекту Qualcomm, зокрема в серії Snapdragon, дозволяє смартфонам запускати оптимізовані версії нейронних мереж локально. Ця технологія забезпечує такі функції, як переклад у реальному часі на телефонах Google Pixel і розширені можливості камери на останніх пристроях Android.
Хмарні провайдери також взяли на озброєння оптимізацію. Microsoft Azure та AWS представили спеціалізовані екземпляри для запуску оптимізованих робочих навантажень штучного інтелекту, що дозволяє ефективніше розподіляти ресурси між центрами обробки даних. Ці вдосконалення допомагають керувати зростаючим попитом на обчислювальні ресурси ШІ.
Тенденція до ефективності свідчить про розвиток технологічного сектору зі зміщенням акценту з демонстрації можливостей на практичне розгортання. Випуск компанією Nvidia графічного процесора H100 відображає цей напрямок оптимізації в усій галузі. Transformer Engine цього чіпа покращує ефективність операцій LLM, динамічно регулюючи точність під час обробки.
Команди інженерів продовжують розробляти нові методи оптимізації. Робота Google над навчанням розріджених моделей зменшує потреби в обчисленнях, зосереджуючись на найважливіших нейронних зв’язках. Розробка Intel спеціалізованих прискорювачів штучного інтелекту спрямована на підвищення ефективності за допомогою апаратного забезпечення, розробленого спеціально для робочих навантажень штучного інтелекту.
Вплив виходить за межі Силіконової долини. Постачальники медичних послуг використовують оптимізовані моделі машинного навчання для аналізу медичних зображень, що дозволяє виконувати складну обробку на стандартному лікарняному обладнанні. Фінансові установи впровадили системи машинного навчання, які врівноважують аналіз із практичними вимогами до обчислень.
Змагання за оптимізацією стали такими ж критичними, як і прагнення до інновацій. Компанії, які володіють цими методами, отримують можливість розгортати ефективніші сервіси, одночасно керуючи витратами. Це знаменує фундаментальну зміну у філософії проектування системи, що підштовхує галузь за межі гонитви за чистою обчислювальною потужністю до більш стійких і практичних рішень.
