Нейроны передают импульсы в цифровом коде. Ну то есть они дискретные.
Нейроны передают импульсы в цифровом коде. Ну то есть они дискретные.
Почему они не пользуются аналоговыми сигналами? Ведь можно передавать не “нет разряда”, “есть разряд”, а точно менять напряжение?
Проблема в том, что мы тёплые и шумные. В мозгу этот шум постоянно случайно открывает ионные каналы и портит сигналы. А мозг — это устройство, собранное из ненадежных биологических компонентов. При этом он работает на удивление точно. Но за эту точность приходится платить огромную цену энергией.
Аналоговый сигнал накапливает шум. Импульс очищает сигнал от шума при передаче на большие расстояния. Это выгоднее энергетически для надежной связи в сетях такого масштаба как мозг. На короткие расстояния можно и аналогово.
Нервная система тратит около 47% энергии на поддержание сигналов и подавление шумов. То есть половина бюджета уходит чисто на поддержание порядка, уборку, коррекцию и сборку мусора.
Первая оптимизация — собственно, переход на дискретный двоичный сигнал.
Вторая оптимизация — модель прогноза.
Главный потребитель АТФ — натрий-калиевый насос. Это белок, который постоянно выкачивает натрий из клетки и закачивает калий обратно, восстанавливая заряд после прохождения сигнала. Бюджет АТФ надо экономить.
Мозг постоянно строит прогнозы о мире. Это кэши.
Если прогноз совпадает с реальностью — ошибки нет. Нейроны молчат или работают в экономном фоновом режиме. Энергия экономится.
Если прогноз неверен — случается сюрприз, ошибка предсказания. Начинаются дикие затраты энергии на обработку нештатной ситуации, которой нет в кэше. Мозг должен либо обновить свою модель обучением, либо действовать, чтобы изменить мир под модель.
Формула свободной энергии (которую мозг старается уменьшить) выглядит с точки зрения авторов работы так:
Свободная энергия ≈ сложность – точность
Если надо уменьшить свободную энергию, значит, надо снижать сложность и повышать точность.
Матмодель сложности — количество лишних параметров в модели. В биологии — это отклонение нейронов от состояния покоя, то есть лишние импульсы. Сложность модели физически воплощается в метаболических затратах АТФ.
Пример — поездка на велосипеде. У новичка мозг работает на пределе, огромный поток ошибок предсказания, а потом ещё лицо-земля и новый опыт. У опытного пользователя всё закэшировано, прогнозы совпадают с реальностью, можно изредка заниматься верхнеуровневой стратегией и другим делом, новый опыт приходит редко.
И, сюрприз, быть умным (эффективно и точно обрабатывать информацию) и быть экономным (беречь энергию) — это для мозга одно и то же.
То есть умный — это не тот, кто много думает, а тот, у кого наиболее точная заранее рассчитанная картина мира, претрейн. А исполнение на ней уже быстрое.
Получается, что оптимальных стратегий две:
— Ленивый и тупой с простой картиной мира и в дружелюбной среде. Быть просто тупым и ленивым — хорошо, пока ложные простые модели хорошо объясняют картину мира. Если они перестают объяснять, это эволюционный тупик. Тупой мозг строит плохую модель мира — ну или вообще не строит. За пределами тепличной среды он будет постоянно сталкиваться с тем, что реальность будет давать ему с ноги. Поэтому быть ленивым и тупым хорошо в стабильной тепличной обстановке без изменений. Можно смотреть ковёр и пускать слюну. — Ленивый и умный — в общем случае. Умный точно предсказывает, что произойдет. Сенсорные данные поступают и полностью совпадают с прогнозом. Ошибки предсказания нет. Нейроны, отвечающие за ошибку, молчат. Система находится в покое. Потребление энергии минимально. Дзен.
Основной автор Карл Фристон — самый цитируемый нейробиолог. Он разговаривает матаном. Но в работе много допущений от идей уровня “ну там всё как в термодинамике” до того, что не все метаболические траты связаны с передачей информации (есть ещё ремонт клеток, синтез белков), которые модель может не учитывать полностью. Короче, красивая гипотеза.
— Вступайте в ряды Фурье! | Самые тупые посты Первокурсники заучивают материал, чтобы получить хорошую оценку. Выпускники заучивают привычки профессора, чтобы получить хорошую оценку.