Ну можно и так разложить наверное, да. Тот же мультипликатор количества параметров получается и общее количество параметров растёт колоссально.

В KAN это всё обобщается в более компактный математический аппарат, который был и изучен. Думаю также что при таком усложнении перцептрона будет сложно добиться стабильного обучения...

Не совсем понял вопрос.
В MLP функцию активации не обучают (обучают веса связей), в KAN она вообще заменена сумматором...

В лаборатории ИИ на ВЦ в Новосибирском Академгородке 30 лет назад была группа которая вела исследования в этом направлении. К сожалению их не удалось завершить - большая часть коллектива эмигрировала, суровые 90-е разрушили многое.

Тогда я заканчивал университет и немного общался с этими ребятами. Конечно в опубликованной работе MIT ушли дальше, а в то время было непросто провести все численные эксперименты и работа шла безусловно медленнее.
Забавно что только через 30 лет эта идея сформировалась во что-то конкретное.

Идея не нова, сейчас появляются разные инициативы по улучшению базовых принципов работы НС (например Джеффри Хилтон год назад предлагал новую архитектуру НС).
Основное преимущество KAN в том что за счёт замены активационной функции простым сумматором и усложнением весовой фенкции с простой линейной на сплайн-функцию достигается существенные улучшения по гибкости и точности.
Да, для одинакового размера сети, KAN сложнее в обучении чем MLP, но как показано в данной работе, KAN даёт существенно больший выигрыш при гораздо меньшем размере НС. То есть в итоге утверждается, что KAN лучше при тех же затратах на обучение.

Очень интересная работа кстати, почитайте их публикацию, там есть ссылка на их гитхаб, можно поэкспериментировать самому.

Вот у меня тоже как раз такое же впечатление сложилось.
Читается очень хорошо, видно что автор многое понимает и очень конструктивно и здраво рассуждает. Мне подумалось что концовка была написана, даже возможно переписана несколько раз, но в итоге удалена из опубликованного текста...

Если коротко, то это такой навороченый фильтр вплоть до 7-го уровня OSI

Скорее навороченый man in the middle, который знает о вас всё...

Чёрт побери, я тут не один такой :-)

Проходил мимо, решил сказать спасибо автору, частично по этой статье собрал себе похожую коробочку на Rpi2B v1.2 c usb wifi на rtl8192eu.

Для интересующихся, потолок по скорости (со свежим софтом) получается около 6-7 Mbit через wireguard, с OpenVPN по UDP скорость падает до 1,5-2 Mbit.

Решил оставить оба варианта, но OpenVPN деактивировал.

Ещё я добавил второй usb wifi адаптер и поднял на нём точку доступа, получилось прикольно - можно воткруть малинку к телефонному powerbank и расшарить интернет с телефона или подключиться к какому-нибудь публичному. И подключившись к малинке по wifi очутиться в домашней сети.

Мне скорость большая не так важна, даже 1 Mbit вполне достаточно, заодно малинку пристроил.

Посмотрите на kubeflow, сейчас довольно часто одного gpu недостаточно (по памяти/кол-ву ядер), к тому же такое дорогое оборудование можно будет делить с кем-то ещё без рукопашного docker.
К тому же там есть workflows и ещё много чего интересного.

Комментарии под этой статьёй бесценны

Он кстати и в общении приятный человек, мы с ним общались за кружечкой пива в Le Roy d'Espagne когда были на FOSDEM в Брюсселе в 2007 году...

Одно только ядро само по себе вещь важная, центральная, но без системы и стандартов вокруг оно просто бесполезно

Если утрировать, то современный линукс становится просто некой запускалкой контейнеров, то есть разработчикам проще всё протестировать в статичном контролируемом окружении контейнера чем пытаться угадать на лету что и как сделано в системе. Это один из главных драйвов контейнеризации (есть много других полезностей, но изначально контейнеры начались именно с этого).
Дистрибутивы возникли как ранняя попытка добиться предсказуемости в конфигурации и версиях того различного софта которым прикрыто ядро.
Именно отсутствие стандартизации и "свобода всё сломать" подпитывают бизнес-модель редхата и прочих. В области графики в том числе. Тут на хабре была статья о том безумном нагромождении прослоек поверх Х11, а с вейландом всё становится также всё более и более запутано с каждой новой версией.
Грустно, но современная графика очень часто сводится к запуску веб-броузера (к слову, посчитайте сколько у вас сейчас установлено веб-приложений под видом обычных) и это даже дошло до создания веб-терминалов а-ля хромос.
Вот куда уходят все гигабайты и гигагерцы.
То что делал Мигель все эти годы хорошо описано в статье, но мне кажется что он устал бороться и поэтому работает там где сейчас.

Ого, привет хаброархеологам! :-)
Кажется в 2024 микрософт окончательно ушёл в облако и всячески отговаривает от написания софта под винду, повсюду веб, облачные хранилища данных и облачные серверлесс приложения :-)

Думаю что автор получил удовольствие от процесса разработки и прокачал разные навыки.
Скорее всего после какого-то времени он задумается над улучшениями и сможет сделать себе улучшенную версию соответстующую его желаниям.

Кстати, вот я бы (это моё личное имхо) отказался от цифровой части клавиатуры, как-то не использовал её никогда, да и место она на столе занимает. В своё время купил себе tenkeyless клавиатуру и пользуюсь ей уже много лет.

Аналогичные мысли, автор молодец, всё разложил по полочкам как надо.
Но вот на работе такое редко бывает к сожалению или бывает, но недолго...

Хоть об этом уже и писалось много раз, но текст отличный.
Пойду табличку распечатаю на дверь :-)

Да, за счёт пенсионеров это проще всего

Понимаю вас, в это трудно поверить, даже скорее некомфортно принять что где-то в каком-то селе не платят в казну. Но вот по правде говоря, такое в глубинке повсюду. Оглянитесь, некоторые такое делают в стиле неуловимого джо, что это колесо (совсем небольшое кстати) просто меркнет.
Может у него даже есть эта бумажка на постройку колеса, я никогда не интересовался этим и не буду. Мне просто понравился сам концепт и то что человек такое взялся изобретать возможно не от хорошей жизни.