ЗАМOРОЖЕННЫЙ ИИ: как нейросеть превращают в кремний

Нейросеть, которую не нужно загружать. ИИ-чипы нового поколения способны буквально зашивать искусственный интеллект прямо в кремний. Как это работает и почему Google и Taalas заинтересовались этой технологией? Поддержка: Boosty: https://boosty.to/vaulttec13 DonationAlerts https://www.donationalerts.com/r/vaulttec_13 Донат Boosty: https://boosty.to/vaulttec13/donate ВК https://vk.ru/VaultTec_13 Сегодня современные нейросети требуют огромных вычислительных мощностей, дорогих видеокарт, высокоскоростной памяти и гигантских дата-центров. Но что, если можно отказаться от значительной части этой инфраструктуры? Канадский стартап Taalas представил HC1 — специализированный ИИ-чип, в котором веса нейросети физически закодированы в структуре микросхемы. По заявлениям разработчика, такая архитектура позволяет добиться невероятной скорости генерации текста. А Google, по сообщениям о проекте Frozen, тоже исследует возможность создания процессоров, в которых обученная модель или её вычислительная структура будут буквально встроены в кремний. В этом выпуске Смотритель открывает технические архивы и разбирается: — почему современные GPU тратят столько энергии на перемещение данных; — что такое стена памяти и почему она мешает развитию искусственного интеллекта; — как работает технология Taalas HC1; — каким образом веса нейросети можно физически записать в микросхему; — почему такой чип способен генерировать тысячи токенов в секунду; — что такое вычисления Multiply, Select, Add; — как Google работает над проектом Frozen; — почему замороженные нейросети могут оказаться дешевле обычных AI-моделей; — какие недостатки есть у специализированных ИИ-процессоров; — почему такие чипы могут быстро устаревать; — смогут ли нейросети однажды работать прямо внутри смартфонов без облака и постоянного подключения к интернету. Но у этой технологии есть и обратная сторона. Если нейросеть буквально впаяна в кремний, её уже нельзя просто обновить обычной загрузкой нового файла. Производительность может вырасти, энергопотребление — снизиться, но гибкость окажется под вопросом. Так что же ждёт индустрию искусственного интеллекта? Обычные GPU уступят место специализированным ИИ-чипам или будущее принадлежит целой экосистеме разных процессоров? Жители Убежища, сегодня мы заглянем в будущее вычислительной техники. Возможно, однажды искусственный интеллект перестанет быть программой, которую запускают на компьютере. Он станет частью самого компьютера. Подписывайтесь на канал, ставьте лайки и делитесь своим мнением в комментариях. Смотритель продолжит разбирать самые интересные технологии из довоенных архивов. 00:00 — Введение: загадочный проект Google Frozen 02:01 — Стена памяти: почему чипы тратят энергию впустую 06:08 — Попытки обойти барьер (Cerebras и Groq) 08:18 — Taalas HC1: модель зашита прямо в кремний 11:26 — Принцип Multiply-Select-Add: как чип считает без перемножения 13:10 — Где хранится динамический контекст диалога 14:15 — Откуда берутся 17 000 токенов в секунду 17:40 — Концепция Google Frozen: от V1 к гибкому V2 21:04 — Четыре скрытых цены «заморозки» 24:14 — Будущее ИИ-агентов и дешёвая генерация 25:28 — Нейросети в смартфонах без облака 26:55 — Итоги и вопросы к аудитории #ИскусственныйИнтеллект #Нейросети #ИИЧипы #Google #Taalas #Технологии