Автор: J1N, Techub News

Введение: Эпохи с первой по вторую

Kuzco — это сеть майнинга вычислительных мощностей, которая специализируется на обслуживании больших языковых моделей LLM. В этом году a16z выбрала ее для участия в осенней программе акселератора Crypto Startup Accelerator (CSX), запущенной в Нью-Йорке 9 сентября. Проекты, отобранные в рамках программы, получат награды. не менее 500 000 долларов США от инвестиций a16z и получит рекомендации и поддержку от операционной группы a16z. Программа акселератора завершилась.

16 ноября Куско объявил, что первый этап (Epoch One) плана стимулирования завершится 18 ноября 2024 года. Все операции будут приостановлены, снимки данных будут храниться постоянно, а окончательный рейтинг по баллам будет объявлен в новом рейтинговом списке. .

Согласно официальным сообщениям, Epoch One была запущена 6 марта 2024 года, а максимальное количество устройств превысило 8000. В сети используется модель большого языка Llama-3 AI со спецификацией 8B, выпущенная Meta , с общим количеством устройств более 1 триллиона. жетоны.

И объявил, что информация о финансировании и дорожная карта развития проекта будут опубликованы в ближайшие несколько недель, а вторая фаза программы стимулирования (Вторая эпоха) будет открыта 9 декабря. Вторая эпоха принесет некоторые новые функции, такие как более высокая пропускная способность оборудования NVIDIA и надежность, поощрять пользователей к доступу к лучшему вычислительному оборудованию, такому как A100 и H100, поддерживать большее количество изображений и многомодальную языковую модель VLM;

До запуска Epoch Two еще полмесяца. В этой статье речь пойдет о:

Обзор первой эпохи: бои в одиночку

Конфигурация

В список авторской конфигурации вошли видеокарты серии RTX 2060, 2070S, 3080, 4060, 4060Ti, а также 4 устройства 4070S и 2 устройства Apple M2 и M3. Эти устройства распределены по нескольким хостам, ноутбукам и выделенной установке для майнинга.

расходы

Стоит отметить, что данные видеокарты изначально приобретались автором каждый год для игровых нужд, а не приобретались специально для майнинга. Таким образом, стоимость покупки оборудования не включается в расчет стоимости, рассчитывается только фактическая стоимость электроэнергии для майнинговой машины. Вот первая статья « A16z «Disciple» Куско Практическое руководство: Как эффективно проводить майнинг вычислительной мощности с помощью ИИ? 》Примеры собранных горных машин.

Конфигурация майнинговой машины:

Ручная горнодобывающая машина

На рисунке ниже показана мощность, потребляемая майнинговой машиной в октябре и ноябре. Всего было получено 564 киловатт-часа, а заработанные KZO Points составили примерно 600 миллионов баллов. Все машины вместе взятые дают около 1,1 миллиарда очков. Конкретную стоимость электроэнергии необходимо рассчитывать на основе счета за электроэнергию в вашем регионе. Это только для справки.

В крайнем правом углу изображения всего получено 1 миллиард баллов.

Подготовка ко второй эпохе: развертывание кластера

Основываясь на рассказах автора в первой статье и богатом опыте эксплуатации и обслуживания личного участия в сборке, отладке и развертывании оборудования, автор успешно получил определенную финансовую поддержку и вложил все это в сборку высокопроизводительных горных машин для дальнейшее дальнейшее улучшение масштаба вычислительной мощности и операционной эффективности.

Подготовка ко второй эпохе: развертывание кластера

Основываясь на рассказах автора в первой статье и богатом опыте эксплуатации и обслуживания, личного участия в сборке, отладке и развертывании оборудования, автор успешно получил определенную финансовую поддержку и вложил все это в сборку высокопроизводительных горных машин для дальнейшее дальнейшее улучшение масштаба вычислительной мощности и операционной эффективности.

От отдельных солдат к групповому развертыванию

Логика конфигурации и выбора станков с высокими техническими характеристиками

В сочетании с практическим опытом автора в Epoch One материнская плата, процессор, видеокарта, блок питания, конфигурация платформы и сети были полностью оптимизированы, а также была выбрана более подходящая комбинация оборудования, которая не только улучшила стабильность, безопасность и эффективность системы. Общая работа, а также уделять больше внимания ликвидности подержанного рынка при выборе оборудования. Эта стратегия может эффективно снизить фактические затраты на вводимые ресурсы и предоставить последующим участникам более экономически эффективные варианты.

материнская плата

Автор выбрал промышленную материнскую плату вместо основной B85, главным образом исходя из всесторонних соображений производительности, стабильности и экономической эффективности.

С точки зрения производительности, запуск модели Llama-3 от Kuzco требует запуска нескольких процессов Docker, а параллельный запуск этих процессов будет занимать много ресурсов ЦП и требовать высокой производительности ЦП, а B85-совместимые ЦП не могут удовлетворить это требование.

Кроме того, промышленные материнские платы имеют очевидные преимущества в длительной стабильной работе, устойчивости к высоким температурам и гарантии производителя. В то же время они обладают более высокой ликвидностью на вторичном рынке, поэтому они, несомненно, являются лучшим выбором.

видеокарта

Автор решил использовать 4070S в качестве основной видеокарты, главным образом, исходя из следующих моментов:

Преимущества производительности вычислений с использованием искусственного интеллекта: по сравнению с видеокартами серии 30 повышение производительности видеокарт серии 40 в вычислениях с использованием искусственного интеллекта намного больше, чем улучшение производительности в играх. Основная причина заключается в том, что вычислительная мощность ИИ в основном зависит от количества ядер CUDA видеокарты, а видеокарты серии 40 имеют значительно больше ядер CUDA, чем видеокарты серии 30.

Преимущество энергоэффективности: автор провел подробные тесты на различных графических процессорах и рассчитал среднее энергопотребление каждого токена.

Судя по результатам испытаний, 4070S демонстрирует лучшие результаты с точки зрения баланса между производительностью и энергопотреблением. Его более высокий коэффициент энергоэффективности напрямую снижает затраты на электроэнергию, что делает его наиболее экономичным выбором.

Цена и ликвидность на подержанном рынке. Как видеокарта среднего и высокого класса, 4070S обладает высокой ликвидностью и сохранением стоимости на подержанном рынке, что еще больше снижает затраты на хранение устройства и обеспечивает гибкость для последующего использования. аппаратные обновления.

Процессор

Как упоминалось ранее, при работе Llama-3 от Kuzco необходимо запускать несколько докеров, что потребляет чрезвычайно значительные ресурсы ЦП. Особенно при работе на нескольких картах загрузка ЦП может достигать 80–90%. Поэтому возможности многоядерной и многопоточной обработки особенно важны. Высокопроизводительный, многопоточный и стабильный процессор может не только эффективно поддерживать многозадачные операции, но также обеспечивать стабильность и эффективность всего процесса майнинга.

i5 13-го поколения может достигать загрузки более 70% при работе видеокарты с полной нагрузкой.

Мягкий маршрут — это квадрат на картинке.

Сетевая среда также имеет решающее значение для майнинга. Даже если настроена высокопроизводительная видеокарта, если сеть не оптимизирована, вычислительная мощность будет серьезно затронута. По фактическим замерам автора, недостаточная скорость сети может привести к падению вычислительной мощности до 30%, а некачественные узлы сети могут напрямую привести к невозможности подключения к сети Kuzco. Оба эти момента неприемлемы для майнинга. Чтобы решить эти проблемы, автор использует решение мягкой маршрутизации. Этот метод не только прост в настройке, но и может эффективно работать без ручного вмешательства после завершения настройки. Теоретически он также может поддерживать доступ неограниченного количества устройств. Что касается конкретных методов работы, читателям рекомендуется ознакомиться с соответствующей информацией в соответствии со своими потребностями.

источник питания

Классический источник питания для ядерной бомбы Great Wall мощностью 2000 Вт

Классический источник питания для ядерной бомбы Great Wall мощностью 2000 Вт

При выборе блока питания необходимо уделить особое внимание вопросу пикового энергопотребления. Именно поэтому, несмотря на то, что номинальная потребляемая мощность 7-shot 4070S составляет всего 1540 Вт, автор все же предпочел использовать два блока питания по 2000 Вт. общей мощностью 4000 Вт. Это не пустая трата ресурсов, а пренебрежение стабильностью и безопасностью оборудования.

Во время работы видеокарта будет испытывать пиковое энергопотребление , то есть ее фактическое энергопотребление может в некоторые моменты достигать 1,5 и более раз от номинального энергопотребления, а затем возвращаться к нормальному уровню. Если блок питания недостаточно мощный, чтобы справиться с этим пиком, это может вызвать механизм принудительного отключения блока питания и даже привести к повреждению видеокарты. Это фатальная угроза нормальной работе майнинговой машины.

4070-е показатели энергопотребления при работе

Если взять в качестве примера 4070S, хотя его номинальная потребляемая мощность составляет 220 Вт, пиковая потребляемая мощность может превышать 400 Вт. Общая пиковая потребляемая мощность 7 видеокарт может достигать более 3000 Вт, поэтому для обеспечения стабильной работы машины настроены два источника питания мощностью 2000 Вт. Пользователям, которые настраивают несколько 4090, необходимо обратить особое внимание. Номинальная потребляемая мощность одного 4090 составляет 450 Вт, а пиковое энергопотребление может достигать 770 Вт. В случае нескольких карт только два источника питания могут не удовлетворить потребность. В этом случае для обеспечения стабильности системы обычно требуются три источника питания.

4090 производительность энергопотребления при работе

Пополнить

Что касается таких вопросов, как настройки BIOS, совместимость оборудования и удаленное управление, я не буду здесь вдаваться в подробности. В Интернете имеется большое количество бесплатных руководств. Большинство проблем можно решить, следуя этим руководствам. Рекомендуется проводить целевую проверку и обработку в соответствии с конфигурацией и потребностями вашего оборудования, что является простым и эффективным способом.

Риски и преимущества

Что касается таких вопросов, как настройки BIOS, совместимость оборудования и удаленное управление, я не буду здесь вдаваться в подробности. В Интернете имеется большое количество бесплатных руководств. Большинство проблем можно решить, следуя этим руководствам. Рекомендуется проводить целевую проверку и обработку в соответствии с конфигурацией и потребностями вашего оборудования, что является простым и эффективным способом.

Риски и преимущества

Ответьте на вопрос, который волнует каждого больше всего: сколько денег вы можете копать каждый день? Честно говоря, на этот вопрос нет однозначного ответа, поскольку риски и выгоды всегда сосуществуют. Я могу поделиться четкой точкой зрения: будь то валютный круг или традиционная индустрия, если какой-либо проект может точно рассчитать ежедневный доход, то вы, вероятно, не сможете заработать много денег. Если у вас нет определенных монопольных ресурсов, таких как чрезвычайно низкие затраты на электроэнергию или очень дешевое оборудование для майнинга, вы можете иметь преимущество в доходах. Однако не у всех есть такие ресурсы.

Автор выбирает оборудование с хорошей ликвидностью именно для снижения инвестиционных рисков и ценового давления. Если взять в качестве примера майнинг Kuzco, то затраты в основном сосредоточены на амортизации оборудования и затратах на электроэнергию, поэтому ваши максимальные потери ограничиваются этими фиксированными затратами. Если участие не осуществляется по низкой цене, то любое инвестиционное решение теряет смысл. Следует подчеркнуть, что характеристики добычи на первом руднике определяют отсутствие четких ожиданий прибыли, но именно в этом и заключается потенциал первого рудника.

По субъективному мнению, у этого трека огромные рыночные перспективы: с одной стороны, Kuzco получил инвестиционную поддержку от a16z, с другой — спрос на большие языковые модели LLM быстро растёт; Подумайте об этом, почти никто не использует LLM, верно? Такие платформы, как ChatGPT от OpenAI, Llama от Meta и XAI от Маска, получили раунды крупного финансирования, что ясно демонстрирует потенциал роста этой отрасли.

Обычным людям нелегко напрямую участвовать в индустрии искусственного интеллекта. С одной стороны, порог для технологии ИИ высок, с другой стороны, обучение моделей ИИ требует огромного количества ресурсов и средств, и большинство людей не могут позволить себе такие затраты; Присоединившись к вычислительной сети ИИ через Kuzco, обычные люди смогут легко участвовать в этой быстрорастущей области по контролируемым ценам, вносить свой вклад в вычислительную мощность ИИ и одновременно получать прибыль.

Кроме того, цена Биткойна в настоящее время вот-вот превысит 100 000 долларов США, поднявшись с 16 000 долларов США в 2022 году до сегодняшних максимумов, и за ней существует огромный риск восстановления. Если вы решите приобрести токены проектов искусственного интеллекта напрямую, вы также столкнетесь с аналогичными рисками высокой волатильности. Напротив, участие в вычислительной сети искусственного интеллекта является более надежным выбором: не только затраты четко контролируются, но и можно выйти на путь высокоскоростного роста отрасли искусственного интеллекта с относительно низким риском. Это один из практических способов для обычных людей войти в сферу ИИ в нынешних условиях.