Всплеск AIGC зажег большую модель, а также зажег всю дорожку чипов AI. Однако наибольшую выгоду получила компания Nvidia, обладающая высокопроизводительными чипами искусственного интеллекта. В качестве необходимого оборудования для обучения ИИ высокопроизводительные чипы Nvidia мгновенно становятся популярными, и даже «одну карту трудно найти».
На этой неделе британская «Financial Times» сообщила, что для обеспечения победы в «Войне сотен моделей» интернет-гиганты в лице Baidu, Tencent, Alibaba и ByteDance на одном дыхании разместили у Nvidia крупный заказ на $5 млрд. конкурировать за высокопроизводительные ИИ-чипы. На самом деле, не только китайские компании, но и иностранные OpenAI, Google, META, Amazon и т. д., все компании, занимающиеся генеративным ИИ, в значительной степени полагаются на ИИ-чипы Nvidia для обучения.
Согласно статистике, в настоящее время Nvidia занимает от 80% до 95% мирового рынка вычислительных чипов для ИИ. Абсолютная монополия на рынке принесла огромные выгоды Nvidia. С начала 2023 года акции Nvidia выросли на 170%. Всего через неделю после того, как Nvidia опубликовала финансовый отчет за первый квартал 2023 года, цена ее акций выросла более чем на 25%. По состоянию на конец мая цена акций Nvidia в какой-то момент достигла рекордного уровня в 419,38 долларов США, что сделало ее первой в мире компанией по производству чипов, рыночная стоимость которой превышает 1 триллион долларов США. **
Бросив вызов Nvidia, этот единорог привлек еще 100 миллионов долларов
Там, где есть монополия, будут и претенденты. Tenstorrent, канадская стартап-компания по производству микросхем искусственного интеллекта, является передовой компанией, которая осмеливается бросить вызов гигантам.
ИИ-чип Tentorrent (изображение с сайта tomshardware.com)
Агентство Reuters недавно сообщило, что Tenstorrent успешно привлекла 100 миллионов долларов от инвестиционных фондов Hyundai Motor Group и Samsung. Средства будут использованы для расходов и инвестиций команды исследователей и разработчиков, таких как разработка микросхем искусственного интеллекта (Chiplets) и разработка дорожной карты программного обеспечения для машинного обучения.
Этот раунд финансирования является седьмым раундом финансирования Tenstorrent. В отличие от прошлого, источником этого раунда финансирования являются не традиционные институты венчурного капитала, а такие заинтересованные стороны, как Hyundai и Samsung.
Финансирование этого раунда разделено на три транша: 30 миллионов долларов от Hyundai Motor Group, 20 миллионов долларов от Kia Motors и 50 миллионов долларов от Samsung Catalyst Fund и других инвесторов, включая Fidelity Ventures, Eclipse Ventures, Epiq Capital и Maverick Capital и др.
До этого раунда финансирования Tenstorrent привлек 234,5 миллиона долларов и был оценен в 1 миллиард долларов, что сделало его выскочкой-единорогом. На данный момент Tenstorrent привлек в общей сложности более 350 миллионов долларов США, и ожидается, что последняя оценка увеличится до более чем 1,4 миллиарда долларов США.
Хенг-со Ким, исполнительный вице-президент и глава отдела глобальной стратегии (GSO) Hyundai Motor Group, сказал: «Высокий потенциал роста Tentorrent и высокопроизводительные чипы искусственного интеллекта помогут группе обеспечить конкурентоспособные технологии для будущей мобильности. Благодаря этим инвестициям , группа надеется разработать и оптимизировать полупроводниковые технологии, чтобы помочь в разработке умных автомобилей будущего и в то же время расширить внутренние возможности разработки технологий искусственного интеллекта».
Марко Чисари, исполнительный вице-президент Samsung Electronics и глава Центра инноваций Samsung Semiconductor, также отметил: «Передовые технологии Tentorrent, исполнительное руководство и агрессивная дорожная карта побудили нас возглавить этот раунд финансирования. Мы очень рады о возможности сотрудничать с Tenstorrent», чтобы ускорить инновации в области искусственного интеллекта и вычислений».
В дополнение к признанию этой передовой компании внимание отраслевых партнеров и инвесторов привлекло появление Джима Келлера, легенды в области чипов.
Устраняйте сильных и помогайте слабым, люди дают им прозвище Рейнджер Силиконовой долины
Что касается Джима Келлера, большинство людей, возможно, не слышали об этом, но если его имя упоминается в индустрии чипов, я уверен, что многие люди будут считать его «богом». Он работает в отрасли почти 40 лет и поддерживает таких технологических гигантов, как AMD, Intel, Apple и Tesla. Некоторые люди в отрасли высмеивали, что он заботился о сбалансированном развитии индустрии чипов, поэтому его называли «Рейнджером Силиконовой долины».
В 1984 году Джим Келлер посвятил себя производству микросхем после получения степени бакалавра электротехники в Университете штата Пенсильвания. Хотя он не учился в аспирантуре, он был очень талантлив и полагался на свои силы, чтобы преуспеть в индустрии микросхем, где были только высокообразованные таланты, и он мог «ходить боком» среди крупных гигантов микросхем, что делало его легенда своего поколения.
После выпуска Джим Келлер впервые присоединился к DEC, которая в то время была в центре внимания, и проработал там 15 лет. За это время Джим Келлер постепенно превратился из новичка в чип-архитектора, который может играть свою собственную роль. Он участвовал и руководил разработкой процессоров Alpha 21164 и 21264, которые в будущем оказали огромное влияние на многих архитекторов и дизайнеров.
Покинув DEC, Джим Келлер начал свою жизнь с проектирования микросхем. В 1998 году он присоединился к AMD, помогал в разработке процессора AMD Athlon (K7) и работал архитектором процессора K8. Благодаря архитектуре K8 AMD впервые может конкурировать с Intel. В то же время он участвовал в разработке архитектуры X86-64, благодаря чему AMD впервые превзошла Intel в техническом плане. Два достижения сделали Джима Келлера знаменитым.
В 1999 году Джим Келлер присоединился к Sibyte, занимаясь исследованиями и разработками сетевых процессоров на базе архитектуры MIPS, а также разработал микросхему MIPS с сетевым интерфейсом 1 Гбит/с. В то время он не знал, что формальная архитектура MIPS заложила основу для более поздних чипов Apple A-серии. В 2004 году он ушел, чтобы присоединиться к PA Semi.
В 2008 году Apple приобрела PA Semi, и Джим Келлер, естественно, вошел в Apple и участвовал в разработке чипов собственной разработки Apple. Во время своего пребывания в должности он руководил разработкой мобильных процессоров двух поколений A4 и A5, которые применялись в iPhone 4/4s, iPad/iPad2 и других устройствах и стали отправной точкой для собственных чипов Apple A-серии. Говорят, что Джобс очень доволен этими двумя чипами собственной разработки. Поскольку в iPhone 3 раньше использовались микросхемы Samsung, для Джобса это большой шаг вперед — возможность использовать самодельные нестандартные микросхемы. Но Джим Келлер не упустил свои достижения: когда чипы Apple A-серии были на пике популярности, он решил вернуться к AMD.
В 2012 году AMD сильно отставала от Intel в разработке процессоров для ПК. Джим Келлер решил вернуться в свой разгромленный старый клуб и возглавил разработку революционной микроархитектуры под кодовым названием Zen (Дзен). Архитектура Zen заявляла о повышении производительности процессоров AMD на 40%, но многие тогда не поверили, считая это преувеличением, но факты все подтвердили. Zen стала самой известной архитектурой в истории AMD, одним махом переломив ситуацию и помогая AMD восстановить свои лидирующие позиции на рынке высокопроизводительных процессоров x86-64. Джим Келлер также завоевал репутацию «отца дзэн».
В 2015 году Джим Келлер снова ушел на пенсию и покинул AMD. И на этот раз он присоединится к Tesla, чтобы помочь Илону Маску. Проработав в Tesla три года, он разработал и сконструировал ИИ-чип для автономного вождения — Autopilot, который, как говорят, отгрузил 1 миллион единиц, создав аппаратную основу для полностью автономного вождения Tesla.
В 2018 году, столкнувшись с Intel, которая потеряла лидирующие позиции в индустрии чипов, Джим Келлер снова вернулся, чтобы помочь ему. Занимал должность старшего вице-президента, руководил исследованиями и разработками архитектуры NGC в рамках пограничного исследовательского проекта, чтобы планировать на ближайшие десять лет вперед. Говорят, что в Intel он руководил 10 000 инженеров, и считается, что никто не сможет побить этот рекорд.
Когда наступит 2021 год, Nvidia убьет всех с помощью A100 (на тот момент самого высокопроизводительного ИИ-чипа в отрасли), и у нее нет соперников. Но «Рейнджер» не мог терпеть попадание песка в глаза. Джим Келлер решил уйти из Intel, чтобы заняться ИИ-чипами, поэтому он присоединился к вышеупомянутой компании Tenstorrent и в настоящее время является генеральным директором.
Судя по его резюме, Джим Келлер почти 40 лет участвовал в исследованиях и разработках чипов с различными наборами инструкций, такими как Alpha, MIPS, X86, AI и ARM.Можно сказать, что он прошел все основные наборы инструкций. . С тех пор как он присоединился к Tenstorrent, он помог компании быстро завоевать репутацию в индустрии чипов ИИ в окружении могущественных врагов и привлек финансирование.Я считаю, что это как-то связано с участием этого мастера дизайна чипов.
Новорожденные телята не боятся тигров, чипы искусственного интеллекта бросают вызов
Tenstorrent была основана в 2016 году бывшими сотрудниками AMD Любисой Байич, Милошем Трайковичем и Иваном Хамером и представляет собой настоящую «маленькую компанию», в которой работает около 70 сотрудников в Торонто и Остине. Однако все ключевые члены компании имеют опыт разработки микросхем, и их даже можно назвать «командой разработчиков микросхем». В дополнение к Джиму Келлеру, представленному выше, основатель Любиша Байич был старшим архитектором Nvidia и AMD, но теперь объявил о своем уходе на пенсию и стал консультантом, а также продолжит изучение решений искусственного интеллекта следующего поколения.
Раджа Кодури, бывший коллега бывшего главного архитектора Джима Келлера в Intel, также вошел в совет директоров Tenstorrent. Компания внесла большой вклад в технологии и архитектуру Intel, особенно в том, что в 2022 году на рынок были выведены 3 новые линейки продуктов для высокопроизводительного графического бизнеса. «Он один из немногих людей в отрасли, которые разбираются во всех аспектах бизнеса процессоров, графических процессоров, искусственного интеллекта и полупроводников, и он является большим вкладом в рост бизнеса Tenstorrent», — представил Джим Келлер.
Кроме того, главным архитектором Tenstorrent Ascalon является Вей-Хан Лиен, который был одним из разработчиков, ответственных за «широкую» микроархитектуру ЦП Apple, которая может выполнять до 8 инструкций за такт. SoC Apple A14 и M1, например, имеют восемь широких высокопроизводительных процессорных ядер Firestorm, и спустя два года после их появления они по-прежнему остаются одними из самых энергоэффективных конструкций в отрасли. Лиен, возможно, является одним из лучших экспертов по «широкой» микроархитектуре ЦП в отрасли, и, как сообщается, он является единственным разработчиком процессоров, который руководил командой инженеров для разработки высокопроизводительного процессорного ядра RISC-V с восемью шириной.
Разобравшись с костяком команды, давайте взглянем на продукты Tenstorrent. Они планируют разрабатывать чипы RISC-V и AI в виде гетерогенных конструкций и конструкций Chiplet. В настоящее время Tenstorrenst разработала чипы Grayskull и Wormhole на основе 12-нм техпроцесса с вычислительной мощностью FP8 до 328 Тфлопс. Среди них Grayskull содержит 120 пользовательских ядер с мощным массивом процессорных ядер TENSIX, каждое ядро TENSIX имеет полностью программируемые многопоточные интерфейсные функции на C++, механизм матричных вычислений с высокой площадью и энергоэффективностью, мощный и гибкий механизм SIMD и т. д. . В ближайшем будущем компания также выпустит автономный компьютерный чип Black Hole ML, построенный с использованием 6-нм техпроцесса и основанный на архитектуре SiFive RISC-V X-280 для гетерогенных вычислений, запуск которого запланирован на этот год. Между тем, весь программный стек составляет всего около 50 000 строк кода. В отличие от большинства других интегральных схем (ASIC), предназначенных для ИИ, для которых требуется индивидуальный процесс разработки, Tenstorrent очень адаптируется и гибок, поддерживает все основные цепочки инструментов, фреймворки и среды выполнения. Таким образом, самое большое преимущество Nvidia, которое чрезвычайно легко развить, подвергается сомнению.
Что касается высокопроизводительных чипов искусственного интеллекта, Tenstorrent планирует выпустить высокопроизводительный дизайн с широкими возможностями настройки, который можно будет сравнить с новейшей платформой Nvidia GH200 Grace Hopper в 2024 году благодаря сочетанию 3-нм процессорных чипов и чипов ML/AI. На стороне процессора 16 ядер, а чипсет AI содержит 40 ядер. Группа микросхем AI и микросхема ЦП имеют по четыре микросхемы памяти, и весь набор микросхем подключен к микросхеме ввода-вывода для расширения таких функций, как PCIe.
По словам Джима Келлера, ** цель Tentorrent — быть в 5-10 раз дешевле, чем аналогичные системы с графическим процессором. ** Мы используем гораздо меньшую пропускную способность памяти, потому что у нас есть графический компилятор, а наша архитектура больше похожа на машину потока данных, чем на GPU, поэтому данные передаются от одного элемента обработки к другому очень быстро. Это позволяет избежать использования дорогих кремниевых вставок HBM. В то же время наши чипы имеют сетевые порты, которые позволяют формировать крупномасштабные кластеры массивов через сетевые кабели для горизонтального расширения без использования других коммутаторов. Технически это одна из причин, почему наш подход дешевле, чем у Nvidia. Кроме того, мы также поддерживаем передачу лицензий на открытые технологии, что удобно для всех, кто хочет построить экологию.
Чип-трек ИИ положил начало новой тенденции — увеличению числа отечественных игроков
Хотя претендентов не следует недооценивать, Nvidia по-прежнему занимает абсолютную лидирующую позицию в области ИИ-чипов, занимая подавляющую часть рынка облачных сценариев обучения и рассуждений. Помимо Nvidia, есть AMD и Intel. Однако в связи с бурным развитием нашей страны многие отечественные предприятия в последние годы вышли на этот путь и постепенно добились прогресса.
Согласно прогнозу IDC, масштаб вычислительной мощности ИИ в Китае будет поддерживать быстрый рост, и ожидается, что к 2026 году он достигнет 1271,4 EFLOPS, а CAGRA (2022-2026) составит 52,3%. В этом контексте IDC прогнозирует, что гетерогенные вычисления станут основной тенденцией.В следующие 18 месяцев скорость загрузки графических процессоров, ASIC и FPGA в глобальных серверах искусственного интеллекта будет увеличиваться.В 2025 году объем рынка чипов ИИ достигнет 72,6 миллиарда долларов США. Отечественные компании, такие как Cambrian, Pingtouge и другие игроки эпохи 1.0, теперь стали зарегистрированными компаниями с высококачественными чипами вычислительной мощности ИИ. Кроме того, все больше и больше стартапов по производству ИИ-чипов активно присоединяются, включая капитал со всех сторон, увеличивая инвестиции в эту область.
Взяв в качестве примера 2022 год, многие компании, такие как Moore Thread, Tianshu Zhixin, Muxi, Denglin Technology, Shenliu Microelectronics, Lingjiu Microelectronics и Lisuan Technology, получили капитальное финансирование. Среди них Moore Thread 1,5 млрд, Tianshu Zhixin Chao 1 млрд и Mu Xi 1 млрд. Сумма финансирования этих трех компаний относительно велика.
Компания Moore Thread, основанная в октябре 2020 года, занимается разработкой интегральных схем и занимается разработкой полнофункциональных чипов для графических процессоров. В настоящее время Moore Thread выпустила два многофункциональных чипа GPU на основе своей унифицированной системной архитектуры MUSA — «Sudi» и «Chunxiao», а также серию программных стеков GPU и прикладных инструментов.
В июле 2022 года Tianshu Zhixin объявила о завершении раундов финансирования C+ и C++ на сумму более 1 млрд юаней. Компания занимается исследованиями и разработками, а также производством высокопроизводительных чипов GPGPU и высокопроизводительных вычислительных систем.В 2018 году она начала исследования и разработку 7-нанометровых чипов GPGPU в облаке. В марте 2021 года будет официально выпущен 7-нм универсальный GPU для облачных вычислений — Tiangai 100. По состоянию на конец марта 2022 года Tiangai 100 выполнила заказы на продажу почти на 200 миллионов юаней и внедрила более 200 сценариев приложений.
5 июля 2022 года Му Си объявил о завершении раунда финансирования Pre-B в размере 1 миллиарда юаней. Это пятый раунд финансирования Muxi после его создания в сентябре 2020 года с общим объемом инвестиций более 2 миллиардов юаней. Первый высокопроизводительный графический процессор общего назначения Muxi был успешно выпущен в январе 2022 г. Он использует 7-нм техпроцесс и фокусируется на рассуждениях ИИ. Его можно применять для искусственного интеллекта, автономного вождения, промышленной и производственной автоматизации, умных городов, естественного языка. обработки, граничных вычислений и других областей, которые планируется запустить в массовое производство в 2023 году, а исследования и разработки более совершенных чипов, которые можно применять для обучения искусственному интеллекту и научных вычислений, вступили в завершающую стадию.
В эпоху больших моделей вычислительная мощность стала критически важной инфраструктурой. Чтобы выдержать жесткую рыночную конкуренцию ИИ и высокопроизводительных вычислений, необходимо обеспечить поддержку вычислительной мощности с высокой производительностью и универсальностью. По мере того, как связь между алгоритмом ИИ и архитектурой чипа становится все глубже и глубже, мы ожидаем увидеть все больше и больше отечественных компаний-производителей чипов ИИ, таких как Tenstorrent, которые осмелятся бросить вызов гигантам, внедрять структурные инновации в технологии и шаг за шагом добиваться прогресса в экологии. . Конечно, мы также ожидаем активного притока капитала со всех сторон для создания взаимовыгодной ситуации.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Бросив вызов Nvidia, этот единорог привлек еще 100 миллионов долларов
Первоисточник: Rongzhong Finance
Автор: Чжэн Вэй
Всплеск AIGC зажег большую модель, а также зажег всю дорожку чипов AI. Однако наибольшую выгоду получила компания Nvidia, обладающая высокопроизводительными чипами искусственного интеллекта. В качестве необходимого оборудования для обучения ИИ высокопроизводительные чипы Nvidia мгновенно становятся популярными, и даже «одну карту трудно найти».
На этой неделе британская «Financial Times» сообщила, что для обеспечения победы в «Войне сотен моделей» интернет-гиганты в лице Baidu, Tencent, Alibaba и ByteDance на одном дыхании разместили у Nvidia крупный заказ на $5 млрд. конкурировать за высокопроизводительные ИИ-чипы. На самом деле, не только китайские компании, но и иностранные OpenAI, Google, META, Amazon и т. д., все компании, занимающиеся генеративным ИИ, в значительной степени полагаются на ИИ-чипы Nvidia для обучения.
Согласно статистике, в настоящее время Nvidia занимает от 80% до 95% мирового рынка вычислительных чипов для ИИ. Абсолютная монополия на рынке принесла огромные выгоды Nvidia. С начала 2023 года акции Nvidia выросли на 170%. Всего через неделю после того, как Nvidia опубликовала финансовый отчет за первый квартал 2023 года, цена ее акций выросла более чем на 25%. По состоянию на конец мая цена акций Nvidia в какой-то момент достигла рекордного уровня в 419,38 долларов США, что сделало ее первой в мире компанией по производству чипов, рыночная стоимость которой превышает 1 триллион долларов США. **
Бросив вызов Nvidia, этот единорог привлек еще 100 миллионов долларов
Там, где есть монополия, будут и претенденты. Tenstorrent, канадская стартап-компания по производству микросхем искусственного интеллекта, является передовой компанией, которая осмеливается бросить вызов гигантам.
Агентство Reuters недавно сообщило, что Tenstorrent успешно привлекла 100 миллионов долларов от инвестиционных фондов Hyundai Motor Group и Samsung. Средства будут использованы для расходов и инвестиций команды исследователей и разработчиков, таких как разработка микросхем искусственного интеллекта (Chiplets) и разработка дорожной карты программного обеспечения для машинного обучения.
Этот раунд финансирования является седьмым раундом финансирования Tenstorrent. В отличие от прошлого, источником этого раунда финансирования являются не традиционные институты венчурного капитала, а такие заинтересованные стороны, как Hyundai и Samsung.
Финансирование этого раунда разделено на три транша: 30 миллионов долларов от Hyundai Motor Group, 20 миллионов долларов от Kia Motors и 50 миллионов долларов от Samsung Catalyst Fund и других инвесторов, включая Fidelity Ventures, Eclipse Ventures, Epiq Capital и Maverick Capital и др.
До этого раунда финансирования Tenstorrent привлек 234,5 миллиона долларов и был оценен в 1 миллиард долларов, что сделало его выскочкой-единорогом. На данный момент Tenstorrent привлек в общей сложности более 350 миллионов долларов США, и ожидается, что последняя оценка увеличится до более чем 1,4 миллиарда долларов США.
Хенг-со Ким, исполнительный вице-президент и глава отдела глобальной стратегии (GSO) Hyundai Motor Group, сказал: «Высокий потенциал роста Tentorrent и высокопроизводительные чипы искусственного интеллекта помогут группе обеспечить конкурентоспособные технологии для будущей мобильности. Благодаря этим инвестициям , группа надеется разработать и оптимизировать полупроводниковые технологии, чтобы помочь в разработке умных автомобилей будущего и в то же время расширить внутренние возможности разработки технологий искусственного интеллекта».
Марко Чисари, исполнительный вице-президент Samsung Electronics и глава Центра инноваций Samsung Semiconductor, также отметил: «Передовые технологии Tentorrent, исполнительное руководство и агрессивная дорожная карта побудили нас возглавить этот раунд финансирования. Мы очень рады о возможности сотрудничать с Tenstorrent», чтобы ускорить инновации в области искусственного интеллекта и вычислений».
В дополнение к признанию этой передовой компании внимание отраслевых партнеров и инвесторов привлекло появление Джима Келлера, легенды в области чипов.
Устраняйте сильных и помогайте слабым, люди дают им прозвище Рейнджер Силиконовой долины
Что касается Джима Келлера, большинство людей, возможно, не слышали об этом, но если его имя упоминается в индустрии чипов, я уверен, что многие люди будут считать его «богом». Он работает в отрасли почти 40 лет и поддерживает таких технологических гигантов, как AMD, Intel, Apple и Tesla. Некоторые люди в отрасли высмеивали, что он заботился о сбалансированном развитии индустрии чипов, поэтому его называли «Рейнджером Силиконовой долины».
В 1984 году Джим Келлер посвятил себя производству микросхем после получения степени бакалавра электротехники в Университете штата Пенсильвания. Хотя он не учился в аспирантуре, он был очень талантлив и полагался на свои силы, чтобы преуспеть в индустрии микросхем, где были только высокообразованные таланты, и он мог «ходить боком» среди крупных гигантов микросхем, что делало его легенда своего поколения.
После выпуска Джим Келлер впервые присоединился к DEC, которая в то время была в центре внимания, и проработал там 15 лет. За это время Джим Келлер постепенно превратился из новичка в чип-архитектора, который может играть свою собственную роль. Он участвовал и руководил разработкой процессоров Alpha 21164 и 21264, которые в будущем оказали огромное влияние на многих архитекторов и дизайнеров.
Покинув DEC, Джим Келлер начал свою жизнь с проектирования микросхем. В 1998 году он присоединился к AMD, помогал в разработке процессора AMD Athlon (K7) и работал архитектором процессора K8. Благодаря архитектуре K8 AMD впервые может конкурировать с Intel. В то же время он участвовал в разработке архитектуры X86-64, благодаря чему AMD впервые превзошла Intel в техническом плане. Два достижения сделали Джима Келлера знаменитым.
В 1999 году Джим Келлер присоединился к Sibyte, занимаясь исследованиями и разработками сетевых процессоров на базе архитектуры MIPS, а также разработал микросхему MIPS с сетевым интерфейсом 1 Гбит/с. В то время он не знал, что формальная архитектура MIPS заложила основу для более поздних чипов Apple A-серии. В 2004 году он ушел, чтобы присоединиться к PA Semi.
В 2008 году Apple приобрела PA Semi, и Джим Келлер, естественно, вошел в Apple и участвовал в разработке чипов собственной разработки Apple. Во время своего пребывания в должности он руководил разработкой мобильных процессоров двух поколений A4 и A5, которые применялись в iPhone 4/4s, iPad/iPad2 и других устройствах и стали отправной точкой для собственных чипов Apple A-серии. Говорят, что Джобс очень доволен этими двумя чипами собственной разработки. Поскольку в iPhone 3 раньше использовались микросхемы Samsung, для Джобса это большой шаг вперед — возможность использовать самодельные нестандартные микросхемы. Но Джим Келлер не упустил свои достижения: когда чипы Apple A-серии были на пике популярности, он решил вернуться к AMD.
В 2012 году AMD сильно отставала от Intel в разработке процессоров для ПК. Джим Келлер решил вернуться в свой разгромленный старый клуб и возглавил разработку революционной микроархитектуры под кодовым названием Zen (Дзен). Архитектура Zen заявляла о повышении производительности процессоров AMD на 40%, но многие тогда не поверили, считая это преувеличением, но факты все подтвердили. Zen стала самой известной архитектурой в истории AMD, одним махом переломив ситуацию и помогая AMD восстановить свои лидирующие позиции на рынке высокопроизводительных процессоров x86-64. Джим Келлер также завоевал репутацию «отца дзэн».
В 2015 году Джим Келлер снова ушел на пенсию и покинул AMD. И на этот раз он присоединится к Tesla, чтобы помочь Илону Маску. Проработав в Tesla три года, он разработал и сконструировал ИИ-чип для автономного вождения — Autopilot, который, как говорят, отгрузил 1 миллион единиц, создав аппаратную основу для полностью автономного вождения Tesla.
В 2018 году, столкнувшись с Intel, которая потеряла лидирующие позиции в индустрии чипов, Джим Келлер снова вернулся, чтобы помочь ему. Занимал должность старшего вице-президента, руководил исследованиями и разработками архитектуры NGC в рамках пограничного исследовательского проекта, чтобы планировать на ближайшие десять лет вперед. Говорят, что в Intel он руководил 10 000 инженеров, и считается, что никто не сможет побить этот рекорд.
Когда наступит 2021 год, Nvidia убьет всех с помощью A100 (на тот момент самого высокопроизводительного ИИ-чипа в отрасли), и у нее нет соперников. Но «Рейнджер» не мог терпеть попадание песка в глаза. Джим Келлер решил уйти из Intel, чтобы заняться ИИ-чипами, поэтому он присоединился к вышеупомянутой компании Tenstorrent и в настоящее время является генеральным директором.
Судя по его резюме, Джим Келлер почти 40 лет участвовал в исследованиях и разработках чипов с различными наборами инструкций, такими как Alpha, MIPS, X86, AI и ARM.Можно сказать, что он прошел все основные наборы инструкций. . С тех пор как он присоединился к Tenstorrent, он помог компании быстро завоевать репутацию в индустрии чипов ИИ в окружении могущественных врагов и привлек финансирование.Я считаю, что это как-то связано с участием этого мастера дизайна чипов.
Новорожденные телята не боятся тигров, чипы искусственного интеллекта бросают вызов
Tenstorrent была основана в 2016 году бывшими сотрудниками AMD Любисой Байич, Милошем Трайковичем и Иваном Хамером и представляет собой настоящую «маленькую компанию», в которой работает около 70 сотрудников в Торонто и Остине. Однако все ключевые члены компании имеют опыт разработки микросхем, и их даже можно назвать «командой разработчиков микросхем». В дополнение к Джиму Келлеру, представленному выше, основатель Любиша Байич был старшим архитектором Nvidia и AMD, но теперь объявил о своем уходе на пенсию и стал консультантом, а также продолжит изучение решений искусственного интеллекта следующего поколения.
Раджа Кодури, бывший коллега бывшего главного архитектора Джима Келлера в Intel, также вошел в совет директоров Tenstorrent. Компания внесла большой вклад в технологии и архитектуру Intel, особенно в том, что в 2022 году на рынок были выведены 3 новые линейки продуктов для высокопроизводительного графического бизнеса. «Он один из немногих людей в отрасли, которые разбираются во всех аспектах бизнеса процессоров, графических процессоров, искусственного интеллекта и полупроводников, и он является большим вкладом в рост бизнеса Tenstorrent», — представил Джим Келлер.
Кроме того, главным архитектором Tenstorrent Ascalon является Вей-Хан Лиен, который был одним из разработчиков, ответственных за «широкую» микроархитектуру ЦП Apple, которая может выполнять до 8 инструкций за такт. SoC Apple A14 и M1, например, имеют восемь широких высокопроизводительных процессорных ядер Firestorm, и спустя два года после их появления они по-прежнему остаются одними из самых энергоэффективных конструкций в отрасли. Лиен, возможно, является одним из лучших экспертов по «широкой» микроархитектуре ЦП в отрасли, и, как сообщается, он является единственным разработчиком процессоров, который руководил командой инженеров для разработки высокопроизводительного процессорного ядра RISC-V с восемью шириной.
Разобравшись с костяком команды, давайте взглянем на продукты Tenstorrent. Они планируют разрабатывать чипы RISC-V и AI в виде гетерогенных конструкций и конструкций Chiplet. В настоящее время Tenstorrenst разработала чипы Grayskull и Wormhole на основе 12-нм техпроцесса с вычислительной мощностью FP8 до 328 Тфлопс. Среди них Grayskull содержит 120 пользовательских ядер с мощным массивом процессорных ядер TENSIX, каждое ядро TENSIX имеет полностью программируемые многопоточные интерфейсные функции на C++, механизм матричных вычислений с высокой площадью и энергоэффективностью, мощный и гибкий механизм SIMD и т. д. . В ближайшем будущем компания также выпустит автономный компьютерный чип Black Hole ML, построенный с использованием 6-нм техпроцесса и основанный на архитектуре SiFive RISC-V X-280 для гетерогенных вычислений, запуск которого запланирован на этот год. Между тем, весь программный стек составляет всего около 50 000 строк кода. В отличие от большинства других интегральных схем (ASIC), предназначенных для ИИ, для которых требуется индивидуальный процесс разработки, Tenstorrent очень адаптируется и гибок, поддерживает все основные цепочки инструментов, фреймворки и среды выполнения. Таким образом, самое большое преимущество Nvidia, которое чрезвычайно легко развить, подвергается сомнению.
Что касается высокопроизводительных чипов искусственного интеллекта, Tenstorrent планирует выпустить высокопроизводительный дизайн с широкими возможностями настройки, который можно будет сравнить с новейшей платформой Nvidia GH200 Grace Hopper в 2024 году благодаря сочетанию 3-нм процессорных чипов и чипов ML/AI. На стороне процессора 16 ядер, а чипсет AI содержит 40 ядер. Группа микросхем AI и микросхема ЦП имеют по четыре микросхемы памяти, и весь набор микросхем подключен к микросхеме ввода-вывода для расширения таких функций, как PCIe.
По словам Джима Келлера, ** цель Tentorrent — быть в 5-10 раз дешевле, чем аналогичные системы с графическим процессором. ** Мы используем гораздо меньшую пропускную способность памяти, потому что у нас есть графический компилятор, а наша архитектура больше похожа на машину потока данных, чем на GPU, поэтому данные передаются от одного элемента обработки к другому очень быстро. Это позволяет избежать использования дорогих кремниевых вставок HBM. В то же время наши чипы имеют сетевые порты, которые позволяют формировать крупномасштабные кластеры массивов через сетевые кабели для горизонтального расширения без использования других коммутаторов. Технически это одна из причин, почему наш подход дешевле, чем у Nvidia. Кроме того, мы также поддерживаем передачу лицензий на открытые технологии, что удобно для всех, кто хочет построить экологию.
Чип-трек ИИ положил начало новой тенденции — увеличению числа отечественных игроков
Хотя претендентов не следует недооценивать, Nvidia по-прежнему занимает абсолютную лидирующую позицию в области ИИ-чипов, занимая подавляющую часть рынка облачных сценариев обучения и рассуждений. Помимо Nvidia, есть AMD и Intel. Однако в связи с бурным развитием нашей страны многие отечественные предприятия в последние годы вышли на этот путь и постепенно добились прогресса.
Согласно прогнозу IDC, масштаб вычислительной мощности ИИ в Китае будет поддерживать быстрый рост, и ожидается, что к 2026 году он достигнет 1271,4 EFLOPS, а CAGRA (2022-2026) составит 52,3%. В этом контексте IDC прогнозирует, что гетерогенные вычисления станут основной тенденцией.В следующие 18 месяцев скорость загрузки графических процессоров, ASIC и FPGA в глобальных серверах искусственного интеллекта будет увеличиваться.В 2025 году объем рынка чипов ИИ достигнет 72,6 миллиарда долларов США. Отечественные компании, такие как Cambrian, Pingtouge и другие игроки эпохи 1.0, теперь стали зарегистрированными компаниями с высококачественными чипами вычислительной мощности ИИ. Кроме того, все больше и больше стартапов по производству ИИ-чипов активно присоединяются, включая капитал со всех сторон, увеличивая инвестиции в эту область.
Взяв в качестве примера 2022 год, многие компании, такие как Moore Thread, Tianshu Zhixin, Muxi, Denglin Technology, Shenliu Microelectronics, Lingjiu Microelectronics и Lisuan Technology, получили капитальное финансирование. Среди них Moore Thread 1,5 млрд, Tianshu Zhixin Chao 1 млрд и Mu Xi 1 млрд. Сумма финансирования этих трех компаний относительно велика.
Компания Moore Thread, основанная в октябре 2020 года, занимается разработкой интегральных схем и занимается разработкой полнофункциональных чипов для графических процессоров. В настоящее время Moore Thread выпустила два многофункциональных чипа GPU на основе своей унифицированной системной архитектуры MUSA — «Sudi» и «Chunxiao», а также серию программных стеков GPU и прикладных инструментов.
В июле 2022 года Tianshu Zhixin объявила о завершении раундов финансирования C+ и C++ на сумму более 1 млрд юаней. Компания занимается исследованиями и разработками, а также производством высокопроизводительных чипов GPGPU и высокопроизводительных вычислительных систем.В 2018 году она начала исследования и разработку 7-нанометровых чипов GPGPU в облаке. В марте 2021 года будет официально выпущен 7-нм универсальный GPU для облачных вычислений — Tiangai 100. По состоянию на конец марта 2022 года Tiangai 100 выполнила заказы на продажу почти на 200 миллионов юаней и внедрила более 200 сценариев приложений.
5 июля 2022 года Му Си объявил о завершении раунда финансирования Pre-B в размере 1 миллиарда юаней. Это пятый раунд финансирования Muxi после его создания в сентябре 2020 года с общим объемом инвестиций более 2 миллиардов юаней. Первый высокопроизводительный графический процессор общего назначения Muxi был успешно выпущен в январе 2022 г. Он использует 7-нм техпроцесс и фокусируется на рассуждениях ИИ. Его можно применять для искусственного интеллекта, автономного вождения, промышленной и производственной автоматизации, умных городов, естественного языка. обработки, граничных вычислений и других областей, которые планируется запустить в массовое производство в 2023 году, а исследования и разработки более совершенных чипов, которые можно применять для обучения искусственному интеллекту и научных вычислений, вступили в завершающую стадию.
В эпоху больших моделей вычислительная мощность стала критически важной инфраструктурой. Чтобы выдержать жесткую рыночную конкуренцию ИИ и высокопроизводительных вычислений, необходимо обеспечить поддержку вычислительной мощности с высокой производительностью и универсальностью. По мере того, как связь между алгоритмом ИИ и архитектурой чипа становится все глубже и глубже, мы ожидаем увидеть все больше и больше отечественных компаний-производителей чипов ИИ, таких как Tenstorrent, которые осмелятся бросить вызов гигантам, внедрять структурные инновации в технологии и шаг за шагом добиваться прогресса в экологии. . Конечно, мы также ожидаем активного притока капитала со всех сторон для создания взаимовыгодной ситуации.