Cointime

Download App
iOS & Android

Практическое руководство a16z «ученика» Куско: Как эффективно использовать вычислительную мощность ИИ

Validated Media

Автор: J1N, Techub News

Предисловие

Kuzco, о котором автор рассказал сегодня, представляет собой сеть для майнинга вычислительных мощностей, которая специализируется на обслуживании больших языковых моделей LLM. В этом году она была выбрана для участия в осенней программе акселератора Crypto Startup Accelerator (CSX), запущенной a16z в Нью-Йорке . программа получит как минимум a16z в течение 8 недель, инвестиции в размере 500 000 долларов США, а также руководство и поддержку со стороны операционной группы a16z. На данный момент до окончания программы осталось примерно 2 недели.

Проект Kuzco все еще находится на очень ранней стадии. Он относится к той же области вычислительных сетей на графических процессорах, что и io.net, но имеет другое направление развития. Благодаря сильной финансовой поддержке и опыту, io.net завершил раздачу пользователям раньше, чем Kuzco, и успешно разместился на основных криптовалютных биржах, таких как Binance, Coinbase и Bybit, получив большую долю рынка.

Автор лично участвовал в майнинге io.net. Честно говоря, весь процесс похож на то, чтобы позволить видеокарте «лежать и зарабатывать деньги». Просто оставьте видеокарту бездействующей, и она автоматически будет приносить вам доход, даже сам. счет за электричество невелик. Каждая майнинговая машина потребляет всего 1,2 киловатт-часа электроэнергии в день, а общий счет за электроэнергию за три месяца составляет всего 10,8 долларов США. В сочетании с амортизацией бывшей в употреблении видеокарты и долей интернет-инструментов стоимость легко составляет от 100 до 200 долларов США. В итоге была получена прибыль в 4000 долларов США. Как ни посмотри, этот проект напоминает «воздушный замок», который то левой, то правой ногой поднимается вверх по спирали.

Последующее снижение цен на токены подтвердило это. Кроме того, автор также составил статью под названием «Цена упала на 70%: как лопнул пузырь аренды вычислительных мощностей ИИ?» Эта статья также отражает пузырь на рынке вычислительной мощности для искусственного интеллекта . Будь то цены на рынке лизинга или снижение токенов проектов, рынок корректирует истинную стоимость этих проектов. Такая коррекция цен соответствует законам рынка, указывая на то, что будущее может развиваться более рационально. направление.

Механизм майнинга Kuzco существенно отличается от предыдущего популярного проекта io.net. io.net — это «воздушный замок». Вы можете легко получить в десятки раз больше дохода, повесив видеокарту, но реальная ценность поддержки, стоящей за ней, не очевидна. Куско, с другой стороны, более приземленный и поддерживается a16z. Я провел несколько недель, тщательно тестируя различные конфигурации майнинговых установок, в том числе однокарточные, многокарточные и различные настройки системы. Посредством этих практических операций я поделюсь этим практическим опытом со всеми, чтобы каждый мог понять проект майнинга, который обеспечивает реальную ценность для пользователей, а не ложное процветание, поддерживаемое только пузырями.

Специализируется на обслуживании сети майнинга вычислительной мощности LLM с большой языковой моделью.

Kuzco — это децентрализованная сеть графических процессоров в экосистеме Solana. Ее цель — использовать простаивающие ресурсы графических процессоров отдельных пользователей для предоставления эффективных и дешевых вычислительных услуг для больших языковых моделей (таких как Llama3, Mistral и Phi3). Пользователи могут использовать эти модели через API, совместимый с OpenAI. Распределенная архитектура Kuzco может интегрировать простаивающие вычислительные ресурсы, чтобы обеспечить работу крупномасштабных языковых моделей, и в то же время мотивировать майнеров, которые предоставляют вычислительную мощность через механизм вознаграждения.

Статус работы проекта

Статус работы проекта

По состоянию на 21 октября проект Kuzco насчитывает 2000 онлайн-машин для майнинга на графических процессорах, наибольшее число которых достигает 6000. Наиболее часто используемые модели графических процессоров включают 3090, 3060 и т. д. Майнеры в настоящее время награждаются баллами KZO, но эти баллы пока не могут быть монетизированы, и проект еще не анонсировал экономическую модель токена. Автор предполагает, что с продвижением плана ускорителя a16z в будущем у проекта может появиться больше новых разработок и обновлений.

Как развернуть

Официальные требования к оборудованию

Project Kuzco может работать в операционных системах Mac, Windows и Linux, поддерживая множество различных конфигураций оборудования. Минимальные системные требования: 16 ГБ оперативной памяти, 30 ГБ доступного дискового пространства и пропускная способность сети не менее 10 МБ/с. Kuzco поддерживает видеокарты NVIDIA (карта N) и AMD (карта A) с объемом видеопамяти не менее 8 ГБ. Минимальное требование к карте N для обычных пользователей — GTX750, и большинство профессиональных компьютерных видеокарт поддерживают ее.

Однако автор не рекомендует использовать карту A для майнинга вычислительной мощности, поскольку совместимость видеокарт AMD плохая, особенно производительность в задачах AI не так хороша, как у карты N. Если вам необходимо использовать карту A, вам необходимо проверить официальный список поддержки совместимости . В области ИИ я должен сказать: AMD, НЕТ!

Авторская пятикарточная платформа, материнская плата Huazi Z490

Автор протестировал эффективность майнинга на нескольких аппаратных средствах, но из-за колебаний сети эффективность может колебаться.

  • GTX1070: 20 ток/с
  • RTX2060: 30 ток/с
  • RTX2070S: 40 ток/с
  • RTX3080: 80 ток/с
  • RTX4060Ti: 50 ток/с
  • RTX4070S: 70 ток/с
  • M2: 20 ток/с
  • М3: 30 ток/с

Единица: токены Avager/секунда (среднее количество вычислений жетонов, выполняемых в секунду)

Единица: токены Avager/секунда (среднее количество вычислений жетонов, выполняемых в секунду)

Мониторинг работы горных машин в режиме реального времени

Метод развертывания

Kuzco предоставляет клиентское приложение, которое пользователи могут загрузить и использовать для начала майнинга, но этот метод иногда работает нестабильно и может отключаться от сети без автоматического перезапуска. Автор рекомендует более стабильный подход — использовать систему Linux или среду Windows WSL (подсистема Windows для Linux) для запуска майнинга через командную строку (CLI) или контейнер Docker. Если вам нужно использовать несколько видеокарт, вы можете указать графический процессор через контейнер Docker в Linux для майнинга на нескольких картах. Например, чтобы указать GPU0: "docker run --rm --runtime=nvidia --gpus '"device=0"' -d kuzcoxyz/worker:latest --worker --code 」,即可启动多个GPU

При майнинге с использованием нескольких карт обратите внимание на следующие аппаратные аспекты аппаратного оборудования:

Источник питания: источник питания является ключевым и не может быть сохранен. Рекомендуется покупать по стандарту «1 юань = 1 Вт» и стараться использовать источники питания с золотой медалью. При майнинге выбирайте источник питания мощностью от 1500 Вт до 2000 Вт в зависимости от количества видеокарт или используйте несколько источников питания, но для обеспечения нормального питания для нескольких источников питания требуются дополнительные линии запуска для подключения к материнской плате. В противном случае он не сможет нормально запуститься.

Информация о энергопотреблении

Провод: в условиях высокого энергопотребления шнур питания легко повредить, поэтому автор рекомендует использовать шнур питания более высокого качества. Кроме того, разные марки блоков питания модулей используют разные проводные интерфейсы и не могут использоваться универсально. Если используется кабель другой марки, устройство может быть повреждено или сожжено. Поэтому для обеспечения совместимости кабель должен соответствовать марке блока питания.

Старый и поврежденный шнур питания

Материнская плата: каждый канал материнской платы (независимо от x1, x8, x16) может поддерживать только одну видеокарту. Например, несколько каналов могут поддерживать несколько видеокарт. Материнская плата B85, популярная в период майнинга Ethereum, является хорошим выбором.

Старый и поврежденный шнур питания

Материнская плата: каждый канал материнской платы (независимо от x1, x8, x16) может поддерживать только одну видеокарту. Например, несколько каналов могут поддерживать несколько видеокарт. Материнская плата B85, популярная в период майнинга Ethereum, является хорошим выбором.

Платформа B85, оставленная автором, когда он участвовал в майнинге Ethereum, была утилизирована.

ЦП: поскольку одновременно необходимо обрабатывать несколько задач, чем больше потоков имеет ЦП, тем лучше. При использовании Docker для запуска майнинга на начальном этапе будет занято большое количество ресурсов ЦП. Если используется несколько видеокарт, их необходимо запускать по порядку, иначе система может выйти из строя или зависнуть.

Молодёжи надо идти на i9, не надо идти на е5 только для того, чтобы сохранить лицо.

Видеокарта: один процесс Docker занимает примерно 6 ГБ видеопамяти (в официальном документе указано 8 ГБ, но на самом деле может работать 6 ГБ). Если видеокарта имеет 12 ГБ видеопамяти, вы можете запустить два процесса Docker на одной видеокарте. При майнинге рабочая нагрузка видеокарты будет составлять от 50% до 90%, а температура видеокарты должна поддерживаться в пределах 85 градусов, чтобы быть разумной и безопасной.

Кабель адаптера PCIE: рекомендуется использовать кабель адаптера PCIE от x1 до x16, при этом x1 подключается к материнской плате, а x16 — к видеокарте. Если вы используете видеокарту серии 40, вам понадобится удлинитель x16.

Качество сетевого соединения. Качество сетевого соединения будет иметь большое влияние на эффективность майнинга. Тест автора показал, что сетевые узлы, использующие Сингапур, получили больше вычислительных задач, чем узлы в Гонконге. Другими словами, выбор лучшего сетевого узла может повысить эффективность майнинга.

Если в процессе майнинга возникнет неисправность, необходимо в первую очередь проверить рабочее состояние материнской платы и программного обеспечения. Если проблема возникает на уровне программного обеспечения, ее можно определить, проверив сообщение об ошибке терминала. Это может быть ошибка памяти, и компьютер необходимо перезагрузить, или это может быть вызвано официальным обновлением файла и локальной машиной для майнинга; не обновил код вовремя. Решение — заменить узел или обновить код.

Ошибка запуска

На аппаратном уровне, если майнинг-машину невозможно включить, сначала проверьте индикатор неисправности на материнской плате. Если взять в качестве примера материнские платы ASUS, то чаще всего вы сталкиваетесь с белым индикатором VGA, который указывает на проблему с питанием видеокарты. Если это произойдет, вы можете попробовать переподключить кабели PCIE и питания видеокарты. Однако иногда может загораться белый свет, но машина продолжает работать нормально.

Подвести итог

Хотя автор называет io.net «воздушным замком», имея в виду, что его рыночная стоимость серьезно завышена, он успешно привлек 40 миллионов долларов США при оценке в 1 миллиард долларов США. Однако после того, как io.net появился в сети, появилось множество имитационных дисков. Продукты и капитал, стоящий за этими имитационными дисками, не выдержали строгой проверки, что показывает, что успех io.net не может быть легко скопирован каждым проектом.

Основываясь на этом наблюдении, автор искал горнодобывающий проект, имеющий большую практическую ценность. Наконец, автор открыл для себя Куско. Kuzco впервые был создан и поддержан a16z, что повышает его авторитет и потенциал. Во-вторых, механизм майнинга Kuzco фактически предоставляет услуги вычислительной мощности через графический процессор.

Основываясь на этом наблюдении, автор искал горнодобывающий проект, имеющий большую практическую ценность. Наконец, автор открыл для себя Куско. Kuzco впервые был создан и поддержан a16z, что повышает его авторитет и потенциал. Во-вторых, механизм майнинга Kuzco фактически предоставляет услуги вычислительной мощности через графический процессор.

Что еще более важно, с макроэкономической точки зрения, в области Куско модели больших языков (LLM) в настоящее время являются наиболее широко используемыми продуктами искусственного интеллекта среди общественности. Бесчисленное количество людей по всему миру используют эти модели каждый день, и эти модели требуют огромной вычислительной мощности. поддерживать. Автор считает, что предоставление вычислительных мощностей для такого огромного спроса не только очень значимо, но и имеет реальную коммерческую ценность. Поэтому Kuzco — проект, достойный внимания.

Кроме того, стоимость участия в сети вычислительной мощности графического процессора относительно невелика. В частности, цена видеокарт серии 40 на вторичном рынке стабильна, а стоимость амортизации низкая, поэтому ее стоит покупать. Однако автор напоминает вам не брать в аренду видеокарту, поскольку стоимость аренды карты намного выше, чем покупка подержанной видеокарты. В то же время, стимулы для аирдропа Куско неясны, и будут высокие риски, если карты будут сдаваться в аренду в больших количествах опрометчиво.

Более того, сама машина для майнинга имеет высокую практическую ценность. Ее можно не только использовать для майнинга Kuzco, но она также более стабильна и надежна, чем прямые инвестиции в высокорисковые альткоины. Поскольку машина для майнинга имеет хорошую масштабируемость, помимо майнинга Kuzco ее также можно использовать для майнинга других проектов на графическом процессоре или в качестве валидатора узлов блокчейна и запуска некоторых скриптов и сервисов для увеличения дохода. Это означает, что даже если Куско больше не будет добываться, майнинговая машина все равно сможет продолжать приносить прибыль.

Наконец, многие спрашивают, какую прибыль можно получить от майнинга за один день. На этот вопрос нет однозначного ответа. Никто, кроме команды проекта, не может точно знать, какова конечная прибыль. Существует большая неопределенность в доходности майнинга. Она может быть очень высокой или ниже ожидаемой, поэтому невозможно заранее определить, сколько денег вы сможете заработать.

Комментарий

Все комментарии

Рекомендуем к прочтению

  • За последние 24 часа вся сеть ликвидировала 65,7735 миллиона долларов, а рыночная доля BTC выросла до 55,6%.

    Согласно данным CoinGecko, текущая общая рыночная стоимость криптовалют составляет 2,384 триллиона долларов США, с падением за 24 часа на 1,4%. Кроме того, доля рынка BTC составляет 55,6%, а доля рынка ETH — 12,5%. По данным Coinglass, за последние 24 часа вся сеть ликвидировала $65,7735 млн, из которых длинные ордера ликвидировали $29,4027 млн, а короткие — $36,3708 млн.

  • ARKM упал ниже $1,5

    Рынок показывает, что ARKM упал ниже 1,5 доллара США и сейчас торгуется на уровне 1,49 доллара США с падением за 24 часа на 9,7%. Рынок сильно колеблется, поэтому, пожалуйста, контролируйте риски.

  • DOT упал ниже 4 долларов

    Рынок показывает, что DOT упал ниже 4 долларов США и сейчас торгуется на уровне 3,99 доллара США с 24-часовым падением на 4,55%. Рынок сильно колеблется, поэтому, пожалуйста, контролируйте риски.

  • BNB упал ниже $580

    Ситуация на рынке показывает, что BNB упал ниже 580 долларов США и сейчас торгуется на уровне 579,9 долларов США, с падением за 24 часа на 2,44%. Рынок сильно колеблется, поэтому, пожалуйста, контролируйте риски.

  • AAVE упал ниже $140

    Рынок показывает, что AAVE упал ниже 140 долларов США и сейчас торгуется на уровне 139,97 долларов США, с падением за 24 часа на 6,17%. Рынок сильно колеблется, поэтому, пожалуйста, контролируйте риски.

  • BTC упал ниже $67 000

    Ситуация на рынке показывает, что BTC упал ниже 67 000 долларов США и сейчас торгуется на уровне 66 999,23 доллара США с падением за 24 часа на 0,6%. Рынок сильно колеблется, поэтому, пожалуйста, контролируйте риски.

  • BTC пробивает отметку в $67 000

    Ситуация на рынке показывает, что BTC превысил 67 000 долларов США и сейчас торгуется на уровне 67 002 долларов США. 24-часовое снижение сократилось до 1,51%. Рынок сильно колеблется, поэтому, пожалуйста, контролируйте риски.

  • Вчера чистый приток IBIT составил 291 миллион долларов США.

    Согласно данным терминала Bloomberg, вчера чистый приток биткойн-спотового ETF IBIT компании BlackRock составил $291 млн.

  • Альпака Медиа - Первая компания в Стране Ламы

    Yangtuo Media — инновационная медиа-компания, специализирующаяся на рекламе и связывающая рекламодателей с жителями материковой части Янто. Рекламные объявления отображаются в местах с интенсивным движением через NPC Yangtuo Media Salesperson, а также предоставляются награды в виде жетонов ламы. С помощью этой формы рекламодатели могут устанавливать рекламный контент, сумму спонсорства и диапазон вознаграждений. Вы можете получить жетоны ламы у продавца Yangtuo Media!

  • Меняется ли тенденция Memecoin? ——Наблюдайте за изменениями настроений рынка Memecoin в сети и на биржах.

    В этой статье мы будем использовать анализ данных на примере $MOODENG для изучения процесса разработки Memecoins на ранних стадиях, требующих создания сообщества и долгосрочных инвестиций. В то же время мы проанализируем общие характеристики пятерки лучших. Memecoins рекомендованы Мурадом и объективно наблюдают за новыми тенденциями Memecoin.