Да, сейчас ноутбук доступен. И теперь понял, как использовать автоград: в вашем примере функция F(r) аппроксимируется многослойным перцептроном с числом нейронов 1, 128, 1), а потом через нее вычисляется полная энергия, и на радиусе используется решетка с числом узов N_r=20000 (возможно чрезмерно, по сравнению с 128, так как многослойный перцептрон апроксимирует кусочно-гладко, [впрочем, там не relu а нелинейный сигмоид типа tanh]). Спасибо за этот замечательный пример использования. Поиграюсь с ним на днях на своем расчетном сервере.
«Пара Лакса» скорее связанна с условием совместности системы уравнений и интегрируемостью, которое в свою очередь связанно с «солитонностью». (Рассмотрим подробней в следующих статьях). А что касается нужности солитонов физике... Они хоть и интересны с математической точки зрения, могут оказаться ограниченно интересными в контексте физики, так как они обладают слишком высокой устойчивостью и не проявляют сложных динамических свойств. Разбирая формулы решений солитонных уравнений, видно, что их форма и характеристики определяются параметрами, заданными на бесконечности в начальный момент времени, и они остаются неизменными даже после упругого взаимодействия. Это, конечно, интересное явление, но оно представляет собой упрощенную модель реальных физических систем. Для многих физических систем важны более сложные модели. Например, которые учитывают взаимодействие между различными компонентами поля и возможность переходов между различными физическими состояниями, то есть к примеру, когда поле задается слоями (компонентами поля) в каждом слое идет солитонное взаимодействие (упругое взаимодействие, например, взаимодействие электронов между собой). Но при определенном стечении обстоятельств во взаимодействие кратковременно вступают другие компоненты поля, и тогда при взаимодействии электрона и антиэлектрона получаются фотоны (которые опять ведут себя как обыкновенные солитоны до некоторых пор). Это как, пример. Наверное, можно придумать и более сложные модели. Но что важно, для полного использования солитонных идей необходимо глубокое понимание их математических основ, до которых в данных вводных статьях мы еще не дошли. Изучение математического аппарата, лежащего в основе солитонов, надеюсь, позволяет физикам разрабатывать более сложные модели и предсказывать их поведение в различных условиях.
Именно. В принципе самый очевидный способ расширения.
В спойлере «Специальная унитарная группа. Обозначения. Индексы.» указывается, что если в лагранжиане мы используем греческий индекс «мю» сверху, то используется метрика (+1, -1, -1, -1), а при комбинации верхних и нижних индексов получаются соответствующие свертки. И поэтому преобразования Лоренца уже как бы вшиты в модель Скирма начиная с первого терма модели НСМ. Физики обычно как раз и работают с такими обозначениями, чтоб в том числе сохранять лоренц-ковариантность (раз она наблюдается в экспериментах) и строят модифицированные версии. Отдельный вопрос, а не является ли это какими-то жесткими рамками, в которые физики сами себя загоняют, и тем самым ограничивают множество вариантов и не позволяют выйти за эти рамки. Известно, что Ньютоновская механика может рассматриваться как приближение лоренцовских моделей при малых скоростях. Мы конструировали модель Скирма добавлением в лагранжиан еще более высоких порядков для топологической и энергетической устойчивости. А не существует ли такой математической конструкции, из которой наблюдаемая лоренц-ковариантность и ньютоновская механика вытекает из нее лишь как первые приближения? Ведь одно из ключевых направлений современной физики - поиск более общих теорий, которые охватывали бы и Ньютоновскую механику, и теорию относительности.
Разгоняя простейший скирмион до околосветовых скоростей, он, конечно, будет сжиматься (для «наблюдателя») и подчиняться модели. Но если разгонять сложный скирмион, например, «кристалл Скирма» он сожмется в одном направлении, и интересно как качественно изменится взаимодействие связанных блоков (альфа-частиц) в других направлениях. Интересно было бы и провести эксперименты. Если мы запустим атомные часы на орбиту, то можем наблюдать эффект замедления часов в согласии СТО, но было бы интересно запустить на одном борту сразу пару атомных часов, и которые сделаны на разных атомах, эти часы будут проявлять эффект замедления, но было бы интересно существует ли статистически значимая разница в эффекте замедления между ними. Эксперименты такого рода могут дать дополнительные данные и понимание фундаментальных законов физики.
Да, если бы у нас была аналитическая функция f(r), которая зависит от параметров сетки r_i, тогда использование модуля torch.autograd имело бы смысл. Этот метод позволяет аналитически вычислять частные производные, или градиенты, по отношению к параметрам функции из любого аналитического выражения. Однако у нас возникает сложность: функция f(r) нам неизвестна в аналитическом виде. Мы не можем представить ее как математическое выражение, зависящее только от радиуса, и, следовательно, не можем выразить ее в виде выражения для PyTorch.
Мы ищем эту функцию численным методом, задавая значения f_i на сетке в качестве параметров и строим скалярную величину (полную энергию системы) в зависимости от этих значений f_i, используя в том числе вычисление приближенного значение производной. Поэтому autograd используется только внутри PyTorch для задачи минимизации энергии.
Вычисление производной численным методом, как обычная разность значений двух соседних точек (diff), конечно, не точно, и такой способ приведен лишь как простейшая демонстрация того, что задача нахождения функции решается за несколько минут. Для более точных результатов необходимо использовать несколько точек (См. коэффициенты формул численного дифференцирования. или Бронштейн, И. Н. и Семендяев, К. А. Справочник по математике для инженеров и учащихся втузов. М.: Наука, 1986, 7.1.2.8 «Приближенное дифференцирование»)
Например, в работе указанной в списке литературы (N. S. Manton, B. M. A. G. Piette, (2000)), для вычисления функции скримиона в виде ежового анзаца использовалась пятиточечная схема, которую можно представить в виде конволюции с шириной 5 и фиксированным коэффициентами. А так как в начале координат у нас доступны только значения в узлах с i > 0, то должна использоваться схема "коэффициенты вперед" (приближение справа).
Конечно, при работе с многомерными задачами, как в случае рассмотрения скирмионов, необходимо использовать различные методы и представления. Одномерный метод с регулярной сеткой, как вы правильно указали, применим только в самых простых случаях, когда можно описать скирмион как функцию одного параметра. "Рациональные отображения" также не уменьшают размерность, а упрощают лишь поиск симметричных решений.
Кроме перечисленного вами, для более сложных задач и многомерных пространств еще можно использовать нерегулярные сетки, представление в виде графов (с использованием сплайнов на графах) или адаптивные сетки. Адаптивные сетки особенно полезны, так как они позволяют через заданное количество шагов долгого процесса вычисления быстро автоматически перестраивать сетку так, чтобы плотность узлов была пропорциональна комбинации вторых производных. То есть на участках с высокой изменчивостью сетка становится более плотная, а для приближения линейных или плоских участков достаточно нескольких точек.
Спасибо за подборку. Во второй части будет история про модель Скирма (история его исследований, положение и роль в физике элементарных частиц), как одно из направлений соприкосновения с СГ. Всю тему за один раз не подыму и во вторую часть не вместится, но литература пригодится, а потом скорее всего будет отдельная и более подробный обзор. Обстановка да, немного нервирует, но тем более нужно подсобрать литературу.
Работали причем много и глубоко (сотни публикаций), работают и, надеюсь, будут продолжать. Но для понимания различных вариантов, думаю, желательно ознакомиться с общим бэкграундом о простейших моделях. Мы как бы сначала смотрим на один и тот же математический объект с нескольких сторон. Даже если модели описывают одинаковое одномерное уравнение, они отличаются по устройству, и, значит, идеи об их расширении могут быть принципиально разные и приводить к разнообразным вариантам. Некоторые пути расширения намереваюсь описать в следующих частях. Но есть еще один интересный вопрос: почему они не сработали? Мне кажется, что по некоторым причинам теория солитонов имеет некоторые скрытые ограничения в самой себе, по своему построению. Например, солитоны как решения излишне детерминированы (их взаимодействие упругое, спектр сохраняется, их ничего не разрушает, значит аннигиляция невозможна), возможно, например, должны быть какие-то "перемычки" между разными видами солитонов.
Про спиральные автосолитоны мои знания сильно ограничены. Что-то похоже на "электромагнитно индуцированную прозрачность"? А про квантовые частицы коснусь во второй части.
Если в модели будет трение, то они конечно же будут постепенно "умирать". Похожим образом как себя ведет обычный маятник с трением. А насчет мгновенной аннигиляции, одномерная модель СГ упрощенная и ограничена, в ней как бы нет выхода структур "в сторону" на ортогональное направление. Да и сами волны в модели СГ отличаются от электромагнитных волн реального мира., обладают дисперсией, то есть зависимостью скорости от частоты.
Спасибо. Замечательно, что Вам удалось побывать на его лекциях. К сожалению тем, кто занимался в шестидесятых-семидесятых теперь уже за восемьдесят. Людвиг Фаддеев, А. Б. Шабат наш мир недавно покинули. Ученики есть, но в научно-популярной сфере чувствуется некоторый информационный пробел об истории и положении теории солитонов. В различных книжных публикациях она, конечно, была описана (из них и черпаю), но этих книг сейчас практически нет, они стали редкостью даже в букинистике, их трудно найти в библиотеках. Да и кто сейчас читает старые книги. После бума мода на солитоны тоже прошла, а сейчас интерес общества сместился в основном в сторону информационных технологий. Собственно поэтому и возникла идея написать цикл статей на уровне введения и "пощупать", чтоб собрать основные понятия в научно популярной форме для ориентации и для расширения кругозора, попутно "подтянуть" основную библиографию (из которой, возможно предоставлю ознакомительные страницы, чтоб не повторять подробные выводы формул, или сформирую торрент, чтоб не пропало) Роль уравнения ГЛМ, которое в общем случае не интегрируемое, но для для случая применения в методе обратного рассеяния солитонных уравнений почему-то решается, будет упомянута в третьей части.
Спасибо за дополнение! Про Бьянки сначала вставлю во вторую главу, которая почти написана. В ней запланирован обзор с разных точек зрения на уравнение СГ. И один из ракурсов будет посвящен как раз историческому "бэкфлэшу" к геометрической интерпретации и деформации поверхностей. Но более подробно преобразование Бэклунда (ПБ) вместе с другими методами решений во вторую главу все-же не помещается и будет описано в третьей, так как тема многогранна, к тому же хотелось бы их разобрать в приложении к нескольким уравнениям. Вставил в статью о продолжении следующих частях, а то было не очень понятно написано.
Ясно. И да, для аппроксимации одномерной функции достаточно одного скрытого слоя.
Да, сейчас ноутбук доступен. И теперь понял, как использовать автоград: в вашем примере функция F(r) аппроксимируется многослойным перцептроном с числом нейронов 1, 128, 1), а потом через нее вычисляется полная энергия, и на радиусе используется решетка с числом узов N_r=20000 (возможно чрезмерно, по сравнению с 128, так как многослойный перцептрон апроксимирует кусочно-гладко, [впрочем, там не relu а нелинейный сигмоид типа tanh]). Спасибо за этот замечательный пример использования. Поиграюсь с ним на днях на своем расчетном сервере.
Спасибо, интересно посмотреть, но доступ на код закрыт. Мне нужно запросить доступ через гугл-аккаунт?
«Пара Лакса» скорее связанна с условием совместности системы уравнений и интегрируемостью, которое в свою очередь связанно с «солитонностью». (Рассмотрим подробней в следующих статьях). А что касается нужности солитонов физике... Они хоть и интересны с математической точки зрения, могут оказаться ограниченно интересными в контексте физики, так как они обладают слишком высокой устойчивостью и не проявляют сложных динамических свойств. Разбирая формулы решений солитонных уравнений, видно, что их форма и характеристики определяются параметрами, заданными на бесконечности в начальный момент времени, и они остаются неизменными даже после упругого взаимодействия. Это, конечно, интересное явление, но оно представляет собой упрощенную модель реальных физических систем. Для многих физических систем важны более сложные модели. Например, которые учитывают взаимодействие между различными компонентами поля и возможность переходов между различными физическими состояниями, то есть к примеру, когда поле задается слоями (компонентами поля) в каждом слое идет солитонное взаимодействие (упругое взаимодействие, например, взаимодействие электронов между собой). Но при определенном стечении обстоятельств во взаимодействие кратковременно вступают другие компоненты поля, и тогда при взаимодействии электрона и антиэлектрона получаются фотоны (которые опять ведут себя как обыкновенные солитоны до некоторых пор). Это как, пример. Наверное, можно придумать и более сложные модели. Но что важно, для полного использования солитонных идей необходимо глубокое понимание их математических основ, до которых в данных вводных статьях мы еще не дошли. Изучение математического аппарата, лежащего в основе солитонов, надеюсь, позволяет физикам разрабатывать более сложные модели и предсказывать их поведение в различных условиях.
Пожалуйста.
Именно. В принципе самый очевидный способ расширения.
В спойлере «Специальная унитарная группа. Обозначения. Индексы.» указывается, что если в лагранжиане мы используем греческий индекс «мю» сверху, то используется метрика (+1, -1, -1, -1), а при комбинации верхних и нижних индексов получаются соответствующие свертки. И поэтому преобразования Лоренца уже как бы вшиты в модель Скирма начиная с первого терма модели НСМ. Физики обычно как раз и работают с такими обозначениями, чтоб в том числе сохранять лоренц-ковариантность (раз она наблюдается в экспериментах) и строят модифицированные версии. Отдельный вопрос, а не является ли это какими-то жесткими рамками, в которые физики сами себя загоняют, и тем самым ограничивают множество вариантов и не позволяют выйти за эти рамки. Известно, что Ньютоновская механика может рассматриваться как приближение лоренцовских моделей при малых скоростях. Мы конструировали модель Скирма добавлением в лагранжиан еще более высоких порядков для топологической и энергетической устойчивости. А не существует ли такой математической конструкции, из которой наблюдаемая лоренц-ковариантность и ньютоновская механика вытекает из нее лишь как первые приближения? Ведь одно из ключевых направлений современной физики - поиск более общих теорий, которые охватывали бы и Ньютоновскую механику, и теорию относительности.
Разгоняя простейший скирмион до околосветовых скоростей, он, конечно, будет сжиматься (для «наблюдателя») и подчиняться модели. Но если разгонять сложный скирмион, например, «кристалл Скирма» он сожмется в одном направлении, и интересно как качественно изменится взаимодействие связанных блоков (альфа-частиц) в других направлениях. Интересно было бы и провести эксперименты. Если мы запустим атомные часы на орбиту, то можем наблюдать эффект замедления часов в согласии СТО, но было бы интересно запустить на одном борту сразу пару атомных часов, и которые сделаны на разных атомах, эти часы будут проявлять эффект замедления, но было бы интересно существует ли статистически значимая разница в эффекте замедления между ними. Эксперименты такого рода могут дать дополнительные данные и понимание фундаментальных законов физики.
Спасибо за замечания.
Да, если бы у нас была аналитическая функция f(r), которая зависит от параметров сетки r_i, тогда использование модуля torch.autograd имело бы смысл. Этот метод позволяет аналитически вычислять частные производные, или градиенты, по отношению к параметрам функции из любого аналитического выражения. Однако у нас возникает сложность: функция f(r) нам неизвестна в аналитическом виде. Мы не можем представить ее как математическое выражение, зависящее только от радиуса, и, следовательно, не можем выразить ее в виде выражения для PyTorch.
Мы ищем эту функцию численным методом, задавая значения f_i на сетке в качестве параметров и строим скалярную величину (полную энергию системы) в зависимости от этих значений f_i, используя в том числе вычисление приближенного значение производной. Поэтому autograd используется только внутри PyTorch для задачи минимизации энергии.
Вычисление производной численным методом, как обычная разность значений двух соседних точек (diff), конечно, не точно, и такой способ приведен лишь как простейшая демонстрация того, что задача нахождения функции решается за несколько минут. Для более точных результатов необходимо использовать несколько точек (См. коэффициенты формул численного дифференцирования. или Бронштейн, И. Н. и Семендяев, К. А. Справочник по математике для инженеров и учащихся втузов. М.: Наука, 1986, 7.1.2.8 «Приближенное дифференцирование»)
Например, в работе указанной в списке литературы (N. S. Manton, B. M. A. G. Piette, (2000)), для вычисления функции скримиона в виде ежового анзаца использовалась пятиточечная схема, которую можно представить в виде конволюции с шириной 5 и фиксированным коэффициентами. А так как в начале координат у нас доступны только значения в узлах с i > 0, то должна использоваться схема "коэффициенты вперед" (приближение справа).
Autograd для вычисления производных может быть использован там, где функцию можно представить как аналитическое выражение. Например, в примере Solving multidimensional PDEs in pytorch при решении уравнения Фоккера — Планка.
Конечно, при работе с многомерными задачами, как в случае рассмотрения скирмионов, необходимо использовать различные методы и представления. Одномерный метод с регулярной сеткой, как вы правильно указали, применим только в самых простых случаях, когда можно описать скирмион как функцию одного параметра. "Рациональные отображения" также не уменьшают размерность, а упрощают лишь поиск симметричных решений.
Кроме перечисленного вами, для более сложных задач и многомерных пространств еще можно использовать нерегулярные сетки, представление в виде графов (с использованием сплайнов на графах) или адаптивные сетки. Адаптивные сетки особенно полезны, так как они позволяют через заданное количество шагов долгого процесса вычисления быстро автоматически перестраивать сетку так, чтобы плотность узлов была пропорциональна комбинации вторых производных. То есть на участках с высокой изменчивостью сетка становится более плотная, а для приближения линейных или плоских участков достаточно нескольких точек.
Для решения на PyTorch более сложных задач, например динамических а не статических, можно использовать специализированные библиотеки, которые заточены на решение уравнений в частных производных, например, NeuroDiffEq: A Python package for solving differential equations with neural networks или Depth learning method to solve the PDE of two-dimensional space
Спасибо за подборку. Во второй части будет история про модель Скирма (история его исследований, положение и роль в физике элементарных частиц), как одно из направлений соприкосновения с СГ. Всю тему за один раз не подыму и во вторую часть не вместится, но литература пригодится, а потом скорее всего будет отдельная и более подробный обзор. Обстановка да, немного нервирует, но тем более нужно подсобрать литературу.
Про Пенлеве, да, точно коснусь, так как важная тема, но пока не определился в каком объеме.
Работали причем много и глубоко (сотни публикаций), работают и, надеюсь, будут продолжать. Но для понимания различных вариантов, думаю, желательно ознакомиться с общим бэкграундом о простейших моделях. Мы как бы сначала смотрим на один и тот же математический объект с нескольких сторон. Даже если модели описывают одинаковое одномерное уравнение, они отличаются по устройству, и, значит, идеи об их расширении могут быть принципиально разные и приводить к разнообразным вариантам. Некоторые пути расширения намереваюсь описать в следующих частях. Но есть еще один интересный вопрос: почему они не сработали? Мне кажется, что по некоторым причинам теория солитонов имеет некоторые скрытые ограничения в самой себе, по своему построению. Например, солитоны как решения излишне детерминированы (их взаимодействие упругое, спектр сохраняется, их ничего не разрушает, значит аннигиляция невозможна), возможно, например, должны быть какие-то "перемычки" между разными видами солитонов.
Про спиральные автосолитоны мои знания сильно ограничены. Что-то похоже на "электромагнитно индуцированную прозрачность"? А про квантовые частицы коснусь во второй части.
Если в модели будет трение, то они конечно же будут постепенно "умирать". Похожим образом как себя ведет обычный маятник с трением. А насчет мгновенной аннигиляции, одномерная модель СГ упрощенная и ограничена, в ней как бы нет выхода структур "в сторону" на ортогональное направление. Да и сами волны в модели СГ отличаются от электромагнитных волн реального мира., обладают дисперсией, то есть зависимостью скорости от частоты.
Спасибо. Замечательно, что Вам удалось побывать на его лекциях. К сожалению тем, кто занимался в шестидесятых-семидесятых теперь уже за восемьдесят. Людвиг Фаддеев, А. Б. Шабат наш мир недавно покинули. Ученики есть, но в научно-популярной сфере чувствуется некоторый информационный пробел об истории и положении теории солитонов.
В различных книжных публикациях она, конечно, была описана (из них и черпаю), но этих книг сейчас практически нет, они стали редкостью даже в букинистике, их трудно найти в библиотеках. Да и кто сейчас читает старые книги. После бума мода на солитоны тоже прошла, а сейчас интерес общества сместился в основном в сторону информационных технологий.
Собственно поэтому и возникла идея написать цикл статей на уровне введения и "пощупать", чтоб собрать основные понятия в научно популярной форме для ориентации и для расширения кругозора, попутно "подтянуть" основную библиографию (из которой, возможно предоставлю ознакомительные страницы, чтоб не повторять подробные выводы формул, или сформирую торрент, чтоб не пропало)
Роль уравнения ГЛМ, которое в общем случае не интегрируемое, но для для случая применения в методе обратного рассеяния солитонных уравнений почему-то решается, будет упомянута в третьей части.
Спасибо за дополнение!
Про Бьянки сначала вставлю во вторую главу, которая почти написана. В ней запланирован обзор с разных точек зрения на уравнение СГ. И один из ракурсов будет посвящен как раз историческому "бэкфлэшу" к геометрической интерпретации и деформации поверхностей.
Но более подробно преобразование Бэклунда (ПБ) вместе с другими методами решений во вторую главу все-же не помещается и будет описано в третьей, так как тема многогранна, к тому же хотелось бы их разобрать в приложении к нескольким уравнениям.
Вставил в статью о продолжении следующих частях, а то было не очень понятно написано.