автордың кітабынан сөз тіркестері Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции
Он всегда начинал день с самого важного проекта: если удастся чуть продвинуться, значит, день прожит не зря
3 Ұнайды
Развитие независимых производств, не связанных с разработчиками, способствовало волне инноваций в вычислительных технологиях, поскольку стартапы могли сфокусироваться на экспериментах с революционными технологиями. TSMC выполняла заказы с непревзойденной точностью и качеством, что обеспечивалось высочайшей дисциплиной на предприятии. Работники описывали корпоративную культуру в компании как «армейскую», а график работы был 9–9–6, то есть они трудились с девяти утра до девяти вечера шесть дней в неделю.
Хуангу не сразу удалось договориться с TSMC. Сначала он отправил руководству компании несколько голосовых сообщений, которые остались без ответа. Затем, не слишком надеясь на ответ, отправил письмо Моррису Чангу, генеральному директору компании. Через некоторое время в офисе Хуанга раздался звонок. Это случилось в конце рабочего дня, и многие сотрудники расслаблялись, закончив трудиться. «Кругом стоял шум, я снял трубку, но почти ничего не слышал из-за галдежа, — рассказывает Хуанг. — И тогда я крикнул: "Эй, ребята, потише, это Моррис!"» (Малаховски приводит другой вариант фразы Хуанга: «А ну заткнулись все, у меня Моррис Чанг на линии!»)
Вся жизнь Морриса Чанга была связана с производством полупроводников. Он родился в Китае в 1931 году и подростком эмигрировал в США. Много лет успешно работал в Texas Instruments, но в 1970-х годах не получил место в топ-менеджменте, на которое рассчитывал, — по мнению некоторых, из-за расовых предрассудков. После этого он переехал на Тайвань и возглавил TSMC, которая под его руководством стала крупнейшей технологической корпорацией Азии
1 Ұнайды
Чтобы быть уволенным из Nvidia, надо было совершить что-то действительно вопиющее, и многие сотрудники работали десятилетиями
1 Ұнайды
«В душе ты остаешься иммигрантом, — говорит он. — Внутри я все еще китаец».
1 Ұнайды
Управленческие специалисты считают, что непосредственно генеральному директору должны подчиняться от 8 до 12 сотрудников. У Хуанга их было 55
продукция Nvidia фактически стала основным фактором повышения мирового потребления электроэнергии. По мере улучшения способности процессоров к матричному умножению росло и их энергопотребление. Процессор 2020 года A100 в стандартной конфигурации потреблял 250 ватт, выпущенный через два года H100 — 350 ватт, на 75% больше, новый B100 2024 года — 700 ватт, а еще более мощный B200 — целый киловатт
По одной из оценок, чтобы удовлетворить растущие потребности генеративного ИИ, США нужно было за десять лет удвоить мощность атомных электростанций. По самым скромным прогнозам, увеличение спроса на электроэнергию за это время составило бы не менее 20%. Обеспечить графические процессоры Nvidia электричеством, не нарушая квот на выбросы углекислого газа, было практически невозможно. Поэтому, помимо модернизации мощных линий электропередачи, Dominion уже начала рассматривать возможность восстановления законсервированных угольных станций
Графические процессоры были крайне энергоемкими. Если для простого поиска в Google требовалось около трети ватта электроэнергии в час, то с подключенным генеративным ИИ затраты возрастали в 10 раз — количества энергии, потраченного на обработку запроса, хватило бы на горение лампочки в течение 20 минут. Попросите GPT написать курсовую работу на 5000 слов, и вы израсходуете электроэнергию, достаточную для работы микроволновки в течение часа
С 2012 по 2022 год Nvidia сумела добиться ускорения производительности ИИ на одной микросхеме в 1000 раз, что значительно превышало все предсказания закона Мура. Лишь малая часть этого прироста была обусловлена развитием транзисторов; львиная доля (более 400 раз) обеспечивалась использованием математических инструментов Nvidia
момент своего ухода Кирк возглавлял Nvidia Research — группу из 30 ученых, работавших над передовыми графическими технологиями. Но Хуанг посчитал, что для работы над растущей мощностью CUDA нужен некто более амбициозный, и поручил Кирку найти себе замену. Человек, которого предложил Кирк, жил «со скоростью света» и вскоре превратил Nvidia Research в самый успешный корпоративный отдел исследований и разработок в мире.