Мікросхеми на трильйон: як Nvidia стала головним виробником "заліза" для штучного інтелекту
З чого почалась історія Nvidia та як перший чип ледь не поховав компанію, мікросхемами якої користуються зараз усі, хто працює із штучним інтелектом.
Зростання популярності штучного інтелекту покращило фінансові показники розробників комп'ютерного "заліза". Насамперед це стосується американського виробника мікросхем компанії Nvidia, яку інвестори оцінили 1 трлн дол.
Nvidia – монополіст у сегменті "заліза" для машинного навчання. Компанія володіє майже 95% ринку потужних графічних процесорів для серверів глибокого навчання (GPU). Їх постійно бракує: лише розробник ChatGPT компанія OpenAI споживає майже 20% світових GPU. Усі вони – виробництва Nvidia.
Хоча до початку буму в галузі штучного інтелекту про американську компанію знали не так вже й багато людей, бо вона не розробляє популярних застосунків і пошукових систем і не пов'язана зі смартфонами. Значення Nvidia для ринку ШІ точно описує аналітик TechInsights Ден Хатчісон: "Nvidia для штучного інтелекту – це майже те саме, що Intel для комп’ютерів".
Проте ця компанія не завжди працювала з ШІ. Раніше вона була відома насамперед завдяки чипам для обробки графіки, зокрема, для комп’ютерних ігор.
Початок історії
"Забігайлівка" в каліфорнійському містечку Сан-Хосе. Саме там у 1993 році інженери Кріс Малаховські, Кертіс Прім та Дженсен Хуанг заснували Nvidia для створення чипів, що генерували б швидшу і реалістичнішу графіку для відеоігор.
"Східна частина Сан-Хосе була неспокійним районом: фасад ресторану був пошкоджений дірками від куль гангстерів, які стріляли по авто поліцейських. Ніхто не міг здогадатися, що троє чоловіків, які пили каву літрами, закладали фундамент компанії, яка визначатиме комп'ютерні технології на початку 21 століття, як Intel у 1990-х роках", – писав у 2016 році американський Forbes.
Малаховські та Прім тоді працювали інженерами в компанії Sun Microsystems, що виробляла програмне забезпечення. Вони були невдоволені напрямом її розвитку. Хуанг обіймав керівну посаду в LSI Logic, розробнику інтегральних схем.
Вони вірили, що прорив у галузі станеться завдяки прискоренню обчислень, занадто складних для процесорів загального призначення. Вибір на користь графічних процесорів (GPU) обумовило стрімке зростання популярності відеоігор з тривимірною графікою, що обіцяло великі прибутки виробникам відеокарт.
"У 1993 році не було ринку, але ми бачили, що насувається хвиля. У Каліфорнії є змагання з серфінгу, які відбуваються щороку протягом п'яти місяців. Коли йде хвиля або шторм у Японії, серфери їдуть у Каліфорнію, бо там через два дні буде хвиля. Щось схоже було в нас. Ми були на початку", – згадував Малаховські.
Ця стратегія виявилася успішною. У 1999 році компанія розмістила акції на біржі, а через два десятиліття графічні процесори приносили Nvidia 5 млрд дол на рік.
Рішення Хуанга "спіймати хвилю" розвитку ШІ у 2006 році і розвивати графічні процесори для глибоких машинних обчислень теж виявилося вдалим. Через десять років технологічні гіганти Google, Microsoft, Facebook та Amazon вишикувалися в чергу за чипами для своїх центрів обробки даних.
"Ще ніколи в історії нашої компанії ми не були в центрі таких великих ринків. Це можна пояснити тим, що ми робимо одну річ неймовірно добре: обчислення на графічних процесорах", – говорив Хуанг у 2016 році.
Батько чипів: як засновник TSMC вивів Тайвань на технологічну мапу світу
"Глибоке машинне навчання – це майже як мозок. Воно надзвичайно ефективне. Ви можете навчити його робити майже все, але в нього є величезний недолік: воно потребує величезної кількості обчислень. Тут з'явився графічний процесор – обчислювальна модель, майже ідеальна для такого навчання", – поділився секретом успіху співзасновник Nvidia та нинішній СЕО компанії.
Рішення Хуанга – від запуску компанії до інвестицій у штучний інтелект – стали визначальними в історії Nvidia. Зараз він володіє 3,6% акцій Nvidia, а його статки Forbes оцінює майже 38 млрд дол.
Дженсен народився на Тайвані. У десятирічному році він опинився в інтернаті в Кентуккі, поки його батьки завершували процес еміграції до США. Аби призвичаїтися до нової країни, Хуанг захопився настільним тенісом. Так він вивчив англійську, знайшов друзів і став призером чемпіонату США в юніорському розряді.
У старших класах він захопився комп'ютерами, а згодом вивчав комп'ютерні науки та дизайн мікросхем в Університеті штату Орегон. Там Хуанг зустрів майбутню дружину Лорі. Після закінчення університету вони переїхали до Кремнієвої долини, де Дженсен отримав роботу з проєктування чипів у компанії AMD.
У 1992 році він здобув ступінь магістра електротехніки в Стенфорді. Під час роботи в компанії LSI Хуанг познайомився з Малаховським та Прімом, які тоді працювали в Sun Microsystems. Хуангу тоді виповнилося 30 і вони втрьох почали мріяти про створення компанії з виробництва графічних чипів.
"Війна чипів": чому бізнес-виданням року від FT стала книжка про мікросхеми
Перший чип – NV1 – Nvidia випустила в 1995 році. На розробку чипу витратили залучені від Sequoia Capital та Sutter Hill Ventures 10 млн дол, але він не виправдав сподівань: не вдалося завоювати багато платоспроможних клієнтів. Nvidia, якій тоді було лише два роки, ледь не збанкрутувала і була змушена звільнити половину співробітників. У компанії залишилися лише 40 людей.
Третій чип, RIVA 128, випущений у 1997 році, виявився надзвичайно успішним. Він був на 400% швидшим за будь-який інший графічний процесор. Завдяки йому компанія забезпечила не лише власне виживання, а й розвиток.
Компанія на трильйон
"Повинен бути зв'язок між роботою, яку ви виконуєте, та користю для суспільства. Робота, яку ми виконуємо, повинна приносити користь суспільству на якомусь рівні, який є майже науковою фантастикою. Ми хочемо мати можливість сприяти відкриттю ліків від раку. Це звучить неймовірно", – ділиться сьогодні планами Хуанг.
У травні 2023 року Nvidia оцінили 1 трлн дол. Це стало непересічною подією для сфери напівпровідників. Компанія з цієї галузі вперше увійшла до "клубу" технологічних гігантів, членами якого є Apple, Amazon, Alphabet та Microsoft.
В умовах революції штучного інтелекту акції Nvidia, провідного розробника "заліза" для ШІ, стрімко зростають. У травні вони подорожчали на 29%, а за пів року – на 138%. Схоже, це лише початок: в останньому квартальному звіті Nvidia оголосила, що збільшує виробництво чипів для ШІ, щоб задовольнити висхідний попит.
Інтерес до ринку чипів для ШІ досяг шаленого рівня після успіху ChatGPT. "Від допомоги з промовами до програмування та приготування їжі – ChatGPT виявився надзвичайно популярним та затребуваним. Цей успіх був би неможливим без потужного комп’ютерного обладнання, зокрема, чипів від Nvidia", – заявив аналітик напівпровідникової галузі в консалтинговій компанії Gartner Алан Прістлі.
GPT-4 більший і кращий за ChatGPT, але OpenAI не пояснює, чому. Що відомо про нову модель?
Для навчання ChatGPT використали 10 тис графічних процесорів Nvidia, об’єднаних у кластер на суперкомп'ютері від Microsoft. Один ШІ-чип від Nvidia коштує 10 тис дол. Найпотужніша версія, очевидно, коштуватиме набагато більше.
Як Nvidia вдалося стати системним гравцем у сфері штучного інтелекту? Насамперед – завдяки сміливій і, головне, своєчасній ставці на власну технологію.
У 2006 році вчені Стенфордського університету з’ясували, що графічні процесори не лише обробляють дані, а й прискорюють математичні операції. Тоді Хуанг ухвалив доленосне рішення для розвитку ШІ: інвестував мільярди в розробку графічних процесорів, які можна було б використовувати за межами графіки.
"Для дослідників штучного інтелекту це був новий спосіб виконання високопродуктивних обчислень на споживчому обладнанні. Саме ця можливість допомогла зробити перші прориви в сучасному штучному інтелекті", – пише ВВС.
Через сім років після перших інвестицій Хуанга була представлена платформа штучного інтелекту Alexnet, яка могла класифікувати зображення. Для навчання Alexnet використали лише два графічні процесори Nvidia. Навчання тривало кілька днів, а не місяці, як могло б статися на значно більшій кількості звичайних чипів. Відтоді нові типи графічних процесів лише набували популярності.
Nvidia скористалася перевагою першопроходця, інвестуючи перші зароблені від продажу нових мікросхем кошти в розробку процесорів, більш пристосованих для ШІ, а також у програмне забезпечення, що полегшує використання технології.
Через десять років після запуску Alexnet став популярним стартап Metaphysic, який створює реалістичні відео із знаменитостями за допомогою ШІ. Для навчання та запуску своїх моделей стартап використовує сотні графічних процесорів Nvidia.
Корифей Кремнієвої долини: історія "батька" ChatGPT Сема Альтмана
Наступним етапом у розвитку чипів Nvidia для ШІ став запуск ChatGPT. Як пояснюють експерти, розвиток "глибокого навчання великих моделей на великих даних" перетворив обчислювальну потужність на ключовий фактор прогресу всіх інтелектуально ємних індустрій: від розробки ліків до створення нової зброї.
Там, де залучений штучний інтелект, обчислювальна потужність вирішує все. Формула переваги проста: зібрати якомога більше даних, створити якомога складнішу модель і навчити її якомога швидше. Той, у кого вийде "більше – більше – швидше", має найвищі шанси виграти в технологічних перегонах.
Що далі
За словами аналітика Tirias Research, наразі домінування Nvidia виглядає переконливим, але довгострокову перспективу передбачити складніше. "Nvidia – це мішень перед носом, яку всі намагаються збити", – каже аналітик.
Інші великі компанії намагаються конкурувати з Nvidia. AMD та Intel, більш відомі як розробники центральних процесорів (CPU), теж виготовляють графічні процесори для додатків на базі ШІ. Intel приєдналася до цієї гонки лише недавно.
Google має тензорні процесори (TPU), які використовуються не лише для пошуку, а й для машинного навчання. Amazon має власний чип для навчання моделей ШІ. Microsoft розробляє свій ШІ-чип. Власний проєкт ШІ-чипа має Meta.
Попри амбітні плани технологічних корпорацій, протистояти Nvidia складно. У британській компанії Graphcore, яка розробляє інтелектуальні процесори (IPU), пояснили, що їм важко змінити статус-кво на ринку, оскільки весь світ уже створив свої продукти на базі ШІ з використанням графічних процесорів Nvidia.
"Його опустили на землю". Як Джек Ма створив Alibaba і чому посварився з китайським режимом
Гендиректор Graphcore Найджел Тун сподівається, що з часом, коли ШІ перейде від експериментів до комерційного розгортання, економічно вигідніші обчислення стануть більш важливими. Утім, наразі монополії Nvidia на "золотій лихорадці" ШІ нічого не загрожує. За оцінкою експертів, немає жодних ознак того, що нинішній дефіцит графічних процесорів зникне в найближчому майбутньому.
Відрив Nvidia від конкурентів колосальний: у 20-100 разів. Якщо прогнозований аналітиками попит на сервери з GPU для навчання великих моделей до 2030 року збільшиться втричі, у компанії є чим на це відповісти. Nvidia недавно оголосила про суперкомп'ютерну платформу для ШІ DGX GH200.
Як і раніше, Nvidia отримує основний дохід від графіки та ігор, але лише за 2020 рік її продажі графічних процесорів для використання в центрах обробки даних зросли до 6,7 млрд дол. До пандемії графічні процесори компанії були розгорнуті в 97,4% прискорювачів ШІ в чотирьох найбільших хмарних провайдерів: AWS, Google, Alibaba та Azure. Це ще одне підтвердження домінування фірми на ринку.
За словами аналітика Cambrian AI Research Карла Фройнда, частка Nvidia на ринку навчання алгоритмів штучного інтелекту сягає 100%. Ще майже 70% з 500 найкращих суперкомп'ютерів використовують її графічні процесори.
Майже всі головні віхи розвитку ШІ відбулися на обладнанні Nvidia. Настільна гра AlphaGo від DeepMind, мовні моделі GPT-3 та GPT-4 і ChatGPT від OpenAI – усе це працює на апаратному забезпеченні компанії. Tesla встановлює графічні процесори Nvidia у всіх своїх електромобілях для автопілоту.
Nvidia не переймається конкуренцією. "Штучний інтелект потрібен усім. Інші компанії повинні вирішити, який вони зроблять внесок", – заявив топменеджер компанії Ян Бак.