Comments 12
Вот была книга: "Нейроинтеллект: от нейрона до нейрокомпьютера". Ещё в 1989 году. Кстати, попала, например, в библиотеку конгресса, хотя, что называется, сделана в СССР.
Немного непонятно про 15 триллионов, если нейронов 15 миллиардов, то у каждого по 1000 аксонов? То есть, связей с другими.
Спасибо за информацию. Думаю, что у познания нет границ и это выгодно брать и перенимать от всех уголков мира, то что эффективно и несет ценность. Конгресс, похоже, тоже так посчитал.
По количеству от 1000 до 10000 аксонов с одного нейрона. Я ссылался на Дубынина, он говорил про 5000 и 15 трлн синапсов. Но как-то не получается при подсчете, если клеток 100 млрд, то даже при 1000 получится 100 триллионов.
Биологическая сеть - [сетка [сеток сеток]...]
Спасибо за статью, прочитал с интересом.
энергетически дешевле
Так и есть, наша биоИИ стремится к экономии ресурсов: когда реактивный стресс - угнетается пищеварительная система, когда рутина - включается быстрое мышление, когда конфликтоген - прокрастинация, и т.д. Более того, эти эволюционные инстинкты перенеслись в управление, и конечно образование.
Ввести основы нейронаук как отдельную дисциплину в школе/универе
И я с Вами полностью согласен, и рад, что в школе появилась такие полезные и повсеместные предметы как финансовая грамотность, например. Но не приведет ли это к:
Конкуренция датасетов
До этого были "Введение в марксизм" и прочие, учили их до зачета.
Менять культурную среду и следить за ней. Что ценно, что не является ценным
Часто ругают современное образование, что там чего-то нет, и чего-то слишком много, но похоже здесь рекурсия. Проводники изменений - "учителя" со своими датасетами и с overfittings сделали то, что мы имеем, но вот как качественно это изменить с учетом "нейронаук"?
Люди обучаются по крайне неэффективной схеме.
Люди обучаются невероятно эффективно. Современному ИИ до них ещё расти и расти. Сколько картинок собак и кошек нужно показать человеку, чтобы он научился отличать кошку и собаку? А сколько для той же задачи картинок нужно показать ИИ?
Также отдельно стоит отметить, что у биологических нейросетей есть лень.
Неправда. Вы путаете понятия. Есть совокупность нейросетей в мозгу аналогичная современным искусственным нейросетям - так называемая Система 1. У неё нет лени, она работает постоянно, автоматически и она не контролируется сознанием. Попробуйте сознательно не читать слово в конце этого предложения и не представлять себе его образ: БЕЛЫЙ МЕДВЕДЬ. Получилось? Вы смогли не понять это слово? Образ в мозгу не возник? Это работа нейросетей. Они не ленятся, они постоянно работают, более того, вы не можете выключить их сознательно.
А есть Система 2. Она отвечает за логические рассуждения. Она расходует очень много энергии и человек старается её лишний раз не включать. Это и есть проявление так называемой лени. И пока люди не смогли воспроизвести работу похожую на работу Системы 2 искусственно на компьютерах.
Люди обучаются крайне неэффективно по сравнению с тем какие у них возможности. Иначе бы человек за 12 выучивал бы английский, хотя бы до неплохого разговора.
В иных сферах и у отдельных людей вообще нет прогресса, только усилия и время уходит, но ничего не меняется.
Кроме игрового варианта формирования навыков, все сознательное формирование навыков это система 2. Вы сами сказали, что в ней и кроется проявление лени(она же потребность в экономии сил). Ну и вот, получается что индивид обучаясь(кроме игровой формы), регулярно сталкивается с такого рода дилеммой
Ежели ИИ представлять как систему 1, то тут снова все соответствует описанию. Если, у нее отсутствует лень. То и у ИИ тоже ее нет.
>В преподы надо брать лучших из людей. Особенно в преподы детсадов и младших классов
Громкое утверждение. Все таки мозг человека работают не как компьютерные нейросети и самый лучший датасет скорее вреден.
Водить машину учат меньше сотни часов + пара тысяч часов из детства, когда закладывается хоть какой-то глазомер и понимание, что от удара больно. Одноглазый дальтоник не затормозит, приняв Луну за светофор и не проигнорирует разворачивающийся грузовик.
Это было сочетание идей Жан Жака Руссо, плюс кривая Хекмана. Последняя показывает изменение нейропластичности с течением жизни. Скорость изменения весов меняется со временем потому именно старт жизни является наиболее ценным для обучения
Я бы с этим тоже поспорил. С нейропластичностью не все так однозначно. Например большие нейросети сейчас доучивают с помощью технологии LORA, которая подразумевает изменение не всех весов а не большого количества дополнительных. Во первых LORA экономически намного выгоднее, во вторых даже если не использовать LORA, то дообучение целой нейросети на прежней скорости стирает исходную память, по этому дообучают "chekpoint" на низкой скорости. LORA тоже может обучить нейросеть какому-ту не большому нюансу знания, но как правило, большего и не требуется, т.к. большая сеть после базового обучения уже многое сама знает.
Что касается людей, то тут тоже утверждение про низкую скорость обучения из-за низкой нейропластичности требует доказательств. Как мне кажется из бытового опыта, скорее у человека с годами растет круг обязанностей, уровень ответственности и на новую деятельность уже не хватает ресурсов. Но если человек новое знание считает перспективным, то обучается ему очень быстро. Например у меня есть приятели которые в 30 лет с нуля сделали быструю и головокружительную карьеру в программировании, один из них до этого вообще таксистом работал. Я бы сказал, что однозначно мешает обучению недостаток мотивации, а вот как недостаток нейропластичности мешает, я не замечал.
Другими словами, у меня создается впечатление, что понижение нейропластичности - это адаптация процесса обучения к возросшему объему знаний мозга/нейросети и есть аналог этого явления в машинном обучении.
Человеческий интеллект обучен естественным отбором, он справляется со своей задачей: человеков расплодилось более чем, они есть на всех континентах. С этой точки зрения он эффективный.
Если вам надо быстроту обучения или знание английского в качестве критерия - это другое дело. Критерии эффективности - вот в чём вопрос.
Это если мы рассматриваем популяцию и ее биологическую успешность. Помню такой подход, но тогда самые успешные существа это членистоногие в особенности тараканы.
Training data для человеческого интеллекта в антропоморфной среде не актуальна. Потому то обучение, что мы прошли за десятки миллионов лет, изобилует особенностями в виде когнитивных искажений. Они - когнитивные искажения, были крайне полезны и эффективны при одних данных на входе(тигр за кустом) и сомнительно эффективны в условиях города.
Вы скорее говорите про сочетание генетических алгоритмов и нейросетей, часть программ в этом случае прописаны. Моя идея была сфокусироваться на чистой нейросети, допустить, что нейросеть человека также чиста в начальный момент как и нейросеть ИИ. Рассмотреть процесс обучения и с той, и с другой стороны, а эволюционным искажениям выдать совсем небольшую порцию внимания.
если вы посвятите чуть больше времени изучению анатомии и физиологии, то ваши взгляды относительно заявленной темы претерпят существенные изменения))
Биологическая нейросеть и эффективность обучения. Сравнение БИ с ИИ