Лидеры индустрии ИИ — OpenAI, Google, Anthropic — последние годы наращивали вычислительную мощь для улучшения языковых моделей, увеличивая количество токенов и усложняя цепочки рассуждений. Однако этот подход лишь маскирует глубокие структурные ошибки, а число галлюцинаций у моделей растёт.
Новые языковые модели кажутся умнее, но на самом деле это лишь изощрённые иллюзии. Например, одна из последних моделей OpenAI демонстрирует до 50% выдуманных ответов на собственном бенчмарке SimpleQA.
Главная проблема — замороженность параметров моделей после обучения, из-за чего они не способны адаптироваться к изменяющейся реальности. Интеллект — это процесс непрерывного обновления и переосмысления, чего традиционные трансформеры не обеспечивают.
Решение — переход к новым архитектурам, основанным на байесовском подходе и метрике Фишера, которые учитывают кривизну информационного пространства и позволяют моделям учиться и обновляться в реальном времени.
Компании VERSES AI, causalLens, Symbolica AI и Layer 6 AI уже внедряют эти принципы, создавая ИИ, способный непрерывно адаптироваться, успешно применяясь в финансовом секторе, корпоративных решениях и научных исследованиях.
Microsoft обладает инфраструктурой для масштабного развертывания таких систем, но пока не реализует этот потенциал в полноте.
Таким образом, эпоха языковых моделей, основанных на статичных параметрах и плоской геометрии, завершается. Будущее за ИИ, который живёт в изогнутом информационном пространстве и способен к постоянному обучению.