Машины непрерывного мышления от Sakana AI: разъяснение

196 подписчиков

12+
12+

день назад

ПожаловатьсяНарушение авторских прав

196 подписчиков

12+
12+

день назад

ПожаловатьсяНарушение авторских прав
12+
12+

день назад

https://www.youtube.com/watch?list=TLGGnsX-8QzUWCMxODEyMjAyNQ&v=OvPEnhLtEbA В источнике представлен подробный обзор новой архитектуры искусственного интеллекта (ИИ), разработанной Sakana AI, называемой Continuous Thought Machine (CTM), которая призвана решить ограничения современных нейронных сетей. Автор объясняет, что обычные модели ИИ, такие как GPT-4, просто мгновенно прогнозируют токены без внутреннего процесса "мышления", в отличие от CTM, которая имитирует биологический мозг, выполняя постепенные "тактики мышления" и изменяя свое внутреннее состояние с течением времени. Ключевые архитектурные новшества CTM включают автономную мини-сеть внутри каждого нейрона, использующую историю для обновления своего состояния, и использование синхронизации нейронов в качестве представления для принятия решений. Эти нововведения позволяют CTM демонстрировать адаптивное поведение, например, трассировку пути в лабиринтах или повышение уверенности по мере увеличения времени на обдумывание сложных изображений. В статье также обсуждаются технические детали, включая функцию потерь и реализацию набора данных для классификации изображений.

Название:

Машины непрерывного мышления от Sakana AI: разъяснение

Категория:

Разное