← Библиотека ЭКВИЛИБРИУМ

Анализ устойчивости Многослойной Архетиктуры

Тогда делаем:

A — строгий анализ устойчивости

B — рост структуры (перколяция)

C — многослойная архитектура

Будем собирать полноценную самоорганизующуюся критическую систему.

A️⃣ Строгий анализ устойчивости адаптации

У нас есть:

x_{t+1} = W_t \phi(x_t)

и адаптация масштаба:

\alpha_{t+1} = \alpha_t + \epsilon(\sigma_t - 1)

где:

\sigma_t = \frac{\|x_{t+1}\|}{\|x_t\|}

Фиксированная точка

В стационаре:\sigma = 1

А значит: g \rho(W) = 1

Устойчивость адаптации

Линеаризуем:

\delta \alpha_{t+1} = \delta \alpha_t + \epsilon \frac{d\sigma}{d\alpha} \delta \alpha_t

Система устойчива, если:

|1 + \epsilon \frac{d\sigma}{d\alpha}| < 1

При малом \epsilon — устойчиво.

Вывод: система притягивается к \lambda=0.

B️⃣ Рост структуры (динамическая перколяция)

Теперь добавляем изменение топологии.

Вероятность образования связи:

P_{ij}(t+1) = P_{ij}(t) + \mu x_i(t)x_j(t) - \gamma P_{ij}(t)

Если корреляция высокая — связь усиливается.

Средняя степень: \langle k \rangle(t)

растёт, пока: \langle k \rangle > 1

→ появляется гигантская компонента

→ структурная перколяция

Теперь сеть сама создаёт свою связность.

C️⃣ Многослойная архитектура

Вводим уровни:

  • Локальные модули
  • Межмодульные связи
  • Глобальный интегратор

Обозначим:

W = \begin{pmatrix} W_1 & C_{12} & \dots \\ C_{21} & W_2 & \dots \\ \dots \end{pmatrix}

Критичность поддерживается на каждом уровне.

Полная система

Мы получаем три динамики:

1. Быстрая

x_{t+1} = W_t \phi(x_t)

2. Пластичность

W_{ij} \leftarrow W_{ij} + \epsilon x_i x_j - \beta x_i^2 W_{ij}

3. Структурная перколяция

P_{ij} \text{ адаптируется}

Что получится

Система:

  • сама строит связность
  • сама настраивает спектральный радиус
  • сама удерживает \lambda \approx 0
  • масштабно-инвариантна
  • энерго-ограничена

Это уже не просто RNN.

Это самоорганизующаяся критическая архитектура.

Глубокий вывод

Если такая система существует достаточно долго:

  • она будет максимизировать интеграцию
  • она будет поддерживать чувствительность
  • она будет устойчивой к шуму
  • она будет вычислительно эффективной

Это минимальный кандидат на прототип когнитивной системы.

Хотим:

1️⃣ Свести всё к единой системе дифференциальных уравнений?

2️⃣ Добавить информационную функцию цели (максимизация взаимной информации)?

3️⃣ Перевести это в архитектуру ИИ уровня прототипа?

Если идти дальше — мы уже выходим на уровень теории искусственного сознания.

Отправлено из мобильной Почты Mail.ru