Comments 37
А в чем суть? В первой части говорится что компьютеры не будут думать как люди. Это может быть актуально для харда. Но принципы самого ПО вряд ли будут другими. Ведь их создает человек. Мозг человека удивительный. Но возможности разума весьма ограничены. Очень редко что-то изобретается прямо с нуля. Практически все, что создано человеком — это производные от существующего.
Вторая часть про «распознавание предметов, распознавание паттернов» уже попросту неактуальна.
Вторая часть про «распознавание предметов, распознавание паттернов» уже попросту неактуальна.
Но возможности разума весьма ограничены. Очень редко что-то изобретается прямо с нуля. Практически все, что создано человеком — это производные от существующего.Но пример с самолетами интересный в этом плане =)
Во времена, когда Фейнман давал эти интервью, такими «пропеллерами» и «колесами» казались так называемые алгоритмические подходы к программированию ИИ. Но позже оказалось, что самолеты на этих пропеллерах летают совсем низенько — на уровне поисковых запросов в сложных базах данных. Выше пока никак.
И на самом деле это дейстительно интересный вопрос: могут ли быть думающие машины на каких-то экозитических схемах, «с реактивными двигателями», или в принципе возможент только «бег на лапах»? Вдруг мир устроен так, что других схем просто нет? Как не оказалось теплорода, мирового эфира и вечных двигателей.
И на самом деле это дейстительно интересный вопрос: могут ли быть думающие машины на каких-то экозитических схемах, «с реактивными двигателями», или в принципе возможент только «бег на лапах»? Вдруг мир устроен так, что других схем просто нет? Как не оказалось теплорода, мирового эфира и вечных двигателей.
Вторая часть тоже полностью актуальна: полноценного анализа паттернов как не было, так и нет. Всё, что удалось — найти способы подбора коэф-тов очень большой системы нелинейных уравнений — чтобы она выдавала заданный набор ответов на заданном наборе эталонных данных. При том, что добавив к анализируемым данным совсем немного шума, мы можем заставить любую такую систему выдать любой ответ.
P.S. Современная компьютерная «нейронная сеть» — это и есть очень большая система нелинейных уравнений. И ничего более.
P.S. Современная компьютерная «нейронная сеть» — это и есть очень большая система нелинейных уравнений. И ничего более.
UFO just landed and posted this here
никаких принципиальных ограничений для этого нетНу так и где они тогда? Что останавливает людей?
построить самообучающуюся с нуля систему, наподобие мозга новорожденного — вопрос лишь времени, никаких принципиальных ограничений для этого нетДаже систему уровня нервной системы насекомого (у муравьёв всего 250000 нейронов — в 344000 раз меньше, чем у человека) построить не могут — а ведь это решило бы проблему автомобильного автопилота. Создание системы уровня новорожденного человека в XXI веке — это ненаучная фантастика.
И после определённого уровня сложности системы, в ней может также сформироваться то, что мы называем самосознанием личности.Бездоказательно.
А оттуда и до подобия эмоций недалеко, когда эта «личность» познает, например, инстинкт самосохранения.Бездоказательно.
P.S. Любая цифровая вычислительная система (в том числе и любая современная «нейронная сеть») — независимо от сложности — упрётся в алгоритмическую разрешимость. Человек спокойно переступает через этот барьер, для вычислительной системы он принципиально непреодолим.
P.P.S. Хоар много лет назад доказал, что любые комбинации параллельных вычислительных процессов можно представить эквивалентным единственным строго последовательным процессом. Так что наращиванием сложности дискретных систем мы никаких новых свойств, как то: самосознание или эмоции, никак не получим.
UFO just landed and posted this here
Построят.Блажен, кто верует. Только вот наука столь смелые прогнозы не подтверждает.
Вспомните, где были нейросети каких-то 10 лет назад (а 20 лет назад их в современном понимании, можно сказать, и не было)Были там же, где и сейчас находятся. Просто сейчас очередной всплеск моды на «нейросети». Да, добавилось несколько новых схем связей, дающих чуть лучшие результаты, рост производительности компьютеров позволил увеличить кол-во нейронов… И на этом всё: никаких принципиально новых возможностей не появилось и не появится — пока компьютерный «нейрон» остаётся примитивным нелинейным уравнением.
То же компьютерное зрение, о котором пишет Фейнман, говоря об архисложности задачи, сейчас решает затронутые в статье задачи с легкостьюНичего оно не решает — т.к. анализа изображения даже близко нет. Есть только подобранный набор формул, дающий приемлемый процент правильных ответов на эталонных данных. Но стоит добавить немного шума и «нейронная сеть» на изображение кота дает ответ «пёс». И с распознаванием лиц ничуть не лучше: даже самая совершенная система элементарно обманывается добавлением на изображение деталей, которые человеку никак не помешают опознать лицо.
Какое же доказательство вы хотите?Нормальное научное доказательство. А пока такого доказательства даже близко нет и никто из ученых не знает как его получить, любые рассуждения — всего лишь бессмысленное сотрясение воздуха.
Создав достаточной сложности нейросетьКомпьютерная «нейросеть» несопоставимо примитивнее биологической нервной сети с тем же кол-вом нейронов. И расстояние между кремниевым и биологическим нейронами — как до Луны пешком. Чтобы воспроизвести на компьютере нервную систему муравья, необходимо смоделировать функционирование каждого нейрона этой сети — в реальной нейросети, а не как изолированной клетки. Но всё, что может современная наука — подключиться к нескольким десяткам нейронов (для изучения их работы в реальном времени в реальной нервной системе). О том же, как функционирует вся нервная система муравья, наука даже близко представления не имеет. И не имеет способов получить такое представление.
Запуск всеускоряющегося прогресса в развитии искусственного интеллекта — вопрос, может быть, одного-двух десятилетийМечты, мечты… Только вот к реальности подобные «прогнозы» никакого отношения не имеют.
«Человек», или его мозг в данном контексте — не есть что-то принципиально новое, выходящее за рамки законов физики, а всего лишь очень многослойная нейронная сеть.Ещё раз: биологический нейрон несравнимо сложнее (как по конструкции, так и по функционалу) компьютерного «нейрона». Потому моделирование биологической нервной системы существующими сейчас компьютерными «нейросетями» в принципе невозможно.
Чтобы смоделировать мозг, надо, для начала, изучить алгоритмы работы всех типов нейронов, составляющих этот мозг. Но сейчас такое изучение находится на совершенно пещерном уровне: даже если взять только нервную систему глаза (несравнимо более простую, чем мозг, и обеспечивающую предварительную обработку получаемых сетчаткой видеоданных), нет никаких сформулированных алгоритмов функционирования нейронов всех типов, составляющих эту нервную систему — т.к. никто из учёных такими исследованиями не занимался.
С учетом того, что новые смартфоны нынче выходят мощнее, чем иные суперкомпьютеры 25-летней давности, в будущем за нужными мощностями дело точно «не заржавеет».Проблема не в мощности, а в отсутствии знаний. И невозможности на современном уровне развития получить эти знания.
Повторю: только увеличивая вычислительную мощность, сильный ИИ не создать. А научных теорий, на базе которых можно попытаться построить сильный ИИ, пока что и близко не наблюдается.
Но сейчас такое изучение находится на совершенно пещерном уровне: даже если взять только нервную систему глаза (несравнимо более простую, чем мозг, и обеспечивающую предварительную обработку получаемых сетчаткой видеоданных), нет никаких сформулированных алгоритмов функционирования нейронов всех типов, составляющих эту нервную систему — т.к. никто из учёных такими исследованиями не занимался.
Можете пояснить мысль? Вроде это довольно хорошо изученная область. Как работают всякие рецепторные поля сечатки с детекцией активного центра, активного края итп итд...
Самосознание не требуется для разумного поведения.
Для моделирования разумного поведения требуется определение разумности поведения, в первую очередь.
Познание инстинкта самосохранения не требуется для работы этого инстинкта.
/zanuda mode off
… а если получится смоделировать это самое разумное поведение и эмоции, и доказать, что это «полет через махание крыльев, а не на турбине», но это вполне может привести к девальвированию эмоций… ну а если очень повезет, то к всплеску осознанности среди населения :)
Для моделирования разумного поведения требуется определение разумности поведения, в первую очередь.
Познание инстинкта самосохранения не требуется для работы этого инстинкта.
/zanuda mode off
… а если получится смоделировать это самое разумное поведение и эмоции, и доказать, что это «полет через махание крыльев, а не на турбине», но это вполне может привести к девальвированию эмоций… ну а если очень повезет, то к всплеску осознанности среди населения :)
UFO just landed and posted this here
Для моделирования разумного поведения требуется определение разумности поведения, в первую очередь.
Есть мнение, что не нужно.
Какое интересное мнение… а как тогда точно сказать, что человек разумен, а муравей нет? Что все люди поголовно разумны?
«вопрос на тройку: что сдаем?» (с)
UFO just landed and posted this here
Я говорю о неясности понятия «разумность человека», которое необходимо для моделирования разумного поведения, о чем у Вас есть такое мнение, что это необязательная вещь.
Почему бы вас не ответить на вопрос?
Почему бы вас не ответить на вопрос?
UFO just landed and posted this here
Тем что уже 2 недели назад мне звонил банковский голосовой чат-бот и мне потребовалось 20 сек, чтобы понять, что это не человек. И понял я это потому, что интонации в записанной речи были не слишком естественные. Через 5 лет вообще будет не отличить.
Но это даже не муравей по разумности.
Но это даже не муравей по разумности.
UFO just landed and posted this here
Вообще-то муравьи — единственные известные насекомые, способные пройти зеркальный тест. Так что с «никаких признаков разумности нет и не может быть» вы явно погорячились.
Напомните, пожалуйста, где в определении теста Тьюринга указано минимальное время эксперимента?
Про муравья — я как раз об этом и говорю.
Про муравья — я как раз об этом и говорю.
Тест Тьюринга не подходит тем, что он не является критерием разумности: это было доказано в 1980 году концепцией «Китайской комнаты».
P.S. По поводу теста Тьюринга есть отличный советский научпоп «Кто за стеной?»
P.S. По поводу теста Тьюринга есть отличный советский научпоп «Кто за стеной?»
UFO just landed and posted this here
Эксперимент «китайская комната» — ровестник ФейнманаСоветую всё же с хронологией ознакомится: Китайская комната. Сформулирован мысленный эксперимент был именно в 1980 году. Критика «Китайской комнаты» достаточно спорна и находится, в основном, в философской плоскости, тогда как научного опровержения КК не существует. Так что на текущий момент КК — корректная система, опровергающая тест Тьюринга.
Имея возможность скопировать связи и веса (или воссоздать их), можно создать человеческий разум и в кремнииПовторю ещё раз: при современном уровне развития науки и технологии даже нервную систему насекомого скопировать невозможно, а у человека нервная система на пять порядков сложнее. И то, что вы упоминаете «веса», показывает полное непонимание того, насколько алгоритмы работы нервных клеток отличаются от примитивных математических функций, реализуемых существующими сейчас кремниевыми «нейронами».
UFO just landed and posted this here
Никакой «магии»: существующие сейчас кремниевые «нейроны» слишком примитивны, чтобы с их помощью можно было смоделировать биологические нейроны.
Кремниевый «нейрон» — это всего лишь простая нелинейная функция, получающая набор вещественных параметров от других функций и передающая свой результат — единственное вещественное значение — другим функциям. Процесс «обучения» — подбор коэф-тов этой функции (тех самых «весов») с тем, чтобы на эталонном наборе данных получить приемлемый процент правильных ответов. «Нейрон» статичен: его параметры меняются только извне и только между раундами обработки эталонных данных в процессе «обучения», сам же процесс обработки данных на работу «нейрона» никак не влияет. Структура связей между нейронами тоже статична: она задаётся ещё до начала «обучения» и дальше никак не меняется.
N.B. Допускаю, что в современных системах появились «нейроны» с хранением состояния. Но этого всё равно совершенно недостаточно для моделирования биологического нейрона.
Биологический нейрон получает и передаёт пакеты импульсов, параметры которых невозможно описать одним числом (меняется амплитуда, частота, кол-во импульсов в пакете и т.д.) — объем передаваемой между нейронами информации намного выше, чем в кремниевых «нейросетях». Но современная наука не даёт ответ на вопрос, насколько именно выше.
Нейрон — динамическая система, которая меняет своё поведение в процессе обработки данных: например, если от какого-то синапса приходит слишком много пакетов, нейрон ослабляет реакцию на этот синапс. Но меняется поведение нейронов не только от получаемых сигналов, но и от множества других факторов, начиная с уровня гормонов, который, в свою очередь, во многом регулируется самой нервной системой.
Фактически, каждый нейрон — это отдельная самообучающаяся вычислительная система, получающая не только сигналы от других нейронов, но и управляемая большим кол-вом дополнительных контуров.
Изменения поведения нейронов могут быть как краткосрочным, так и фиксироваться на длительные периоды времени. Нервная система состоит из нейронов разного типа, имеющих существенно разное поведение. Связи между нейронами также меняются в процессе функционирования нервной системы. И т.д…
Изучение всего этого находится на откровенно зачаточном уровне. Чтобы смоделировать мозг в кремнии, сначала надо создать реалистичную математическую модель нейронов каждого типа (чего и близко нет — есть только описания работы отдельных нейронов), математическую модель изменения структуры нейронных связей (если отдельные нейроны всё же изучают, то здесь вообще никаких исследований, нацеленных на моделирование) и т.д.
Кремниевый «нейрон» — это всего лишь простая нелинейная функция, получающая набор вещественных параметров от других функций и передающая свой результат — единственное вещественное значение — другим функциям. Процесс «обучения» — подбор коэф-тов этой функции (тех самых «весов») с тем, чтобы на эталонном наборе данных получить приемлемый процент правильных ответов. «Нейрон» статичен: его параметры меняются только извне и только между раундами обработки эталонных данных в процессе «обучения», сам же процесс обработки данных на работу «нейрона» никак не влияет. Структура связей между нейронами тоже статична: она задаётся ещё до начала «обучения» и дальше никак не меняется.
N.B. Допускаю, что в современных системах появились «нейроны» с хранением состояния. Но этого всё равно совершенно недостаточно для моделирования биологического нейрона.
Биологический нейрон получает и передаёт пакеты импульсов, параметры которых невозможно описать одним числом (меняется амплитуда, частота, кол-во импульсов в пакете и т.д.) — объем передаваемой между нейронами информации намного выше, чем в кремниевых «нейросетях». Но современная наука не даёт ответ на вопрос, насколько именно выше.
Нейрон — динамическая система, которая меняет своё поведение в процессе обработки данных: например, если от какого-то синапса приходит слишком много пакетов, нейрон ослабляет реакцию на этот синапс. Но меняется поведение нейронов не только от получаемых сигналов, но и от множества других факторов, начиная с уровня гормонов, который, в свою очередь, во многом регулируется самой нервной системой.
Фактически, каждый нейрон — это отдельная самообучающаяся вычислительная система, получающая не только сигналы от других нейронов, но и управляемая большим кол-вом дополнительных контуров.
Изменения поведения нейронов могут быть как краткосрочным, так и фиксироваться на длительные периоды времени. Нервная система состоит из нейронов разного типа, имеющих существенно разное поведение. Связи между нейронами также меняются в процессе функционирования нервной системы. И т.д…
Изучение всего этого находится на откровенно зачаточном уровне. Чтобы смоделировать мозг в кремнии, сначала надо создать реалистичную математическую модель нейронов каждого типа (чего и близко нет — есть только описания работы отдельных нейронов), математическую модель изменения структуры нейронных связей (если отдельные нейроны всё же изучают, то здесь вообще никаких исследований, нацеленных на моделирование) и т.д.
И после определённого уровня сложности системы, в ней может также сформироваться то, что мы называем самосознанием личности. А оттуда и до подобия эмоций недалеко, когда эта «личность» познает, например, инстинкт самосохранения.
Мне кажется, пока не стоит смешивать в кучу
- Способность к выполнению той или иной сложной задачи
- Сознание
- Эмоции
- Самосохранение
- ...
Нет никаких подтверждений/опровержений, что подобные свойства "интеллектуальной" системы будут "сцеплены" или нет. Если говорить о сознании, различают сознание-доступ (когнитивные, функциональные свойста) vs феноменальное сознание (субъективное восприятие). Есть ли связь и требуется ли одно для другого (проистекает одно из другого) — тоже неясно.
А про технические трудности выше уже расписали.
полноценного анализа паттернов как не было, так и нетВсе зависит от критериев оценки. Например:
добавив к анализируемым данным совсем немного шума, мы можем заставить любую такую систему выдать любой ответВы говорите о шуме, незаметном для человека, но заметном для алгоритмов. А давайте закрасим черным прямоугольником глаза на фото. Насколько точно теперь человек сможет идентифицировать личность? А ведь некоторым алгоритмам это ни как не помешает.
Все зависит от критериев оценки.Паттерны — это когда на изображении автоматически выделяются структурные элементы (именно так работает нервная система человеческого глаза). И современные нейросети это не используют. От слова «никак». Какие уж тут критерии оценки, когда объекта оценки не существует? Cо времён моего детства, когда в 1978 году в книге «Кибернетика без математики» (с мамонтом на обложке) читал о трудностях распознавания элементов изображения, ничего не поменялось.
N.B. Разумеется, есть системы, которые умеют выделять определённые элементы на изображениях: например, захват лица в современных камерах. Но это узко специализированные алгоритмы, «заточенные» под единственную задачу. Я же говорю об универсальной системе, которой является человеческий глаз. Да, эта система не совершенна: оптические иллюзии — это глюки нервной системы глаза. Но даже простая векторизация растровых изображений в графических редакторах — уже большая головная боль. А нервная система глаза реализует несравнимо более сложную обработку.
А давайте закрасим черным прямоугольником глаза на фото. Насколько точно теперь человек сможет идентифицировать личностьДа, закрашивание глаз затруднит опознание конкретной личности, но человек всё равно понимает, что перед ним именно человек, а не шимпанзе. И человек никогда не перепутает лицо Ким Чен Ына с лицом Адриано Челентано — сколь глаза не замазывай. Но добавив минимум шума, мы можем заставить нейросеть принять человека за морскую свинку, выдать любого человека за любого другого человека…
N.B. В медийных играх «Клуба 60 секунд» встречаются серии вопросов, когда лица на фотографиях замазывают — куда сильнее чем только глаза. И команды вполне себе опознают загаданные персоны. Это то, что ни одна современная нейросеть в принципе сделать не сможет, т.к. для получения ответа требуется осознание контекста.
Вы интересно и логично пишите. Но все в направлении «моделирования мозга в кремнии». Когда Ричард Фейнман говорил о паттернах, ИМХО, он говорил о типе задачи, а не конкретной ее реализации. Ведь он сам перед этим говорил, что «машины не будут думать, как люди». Если быть последовательным, говоря о распознавании паттернов, речь идет о решении задач, которые решаются при их помощи. А не о самом распознавании паттернов. Иначе, пришлось бы действительно делать самолет, который машет крыльями. Я так это вижу.
Еще бы ответ Чарльза Бэббиджа на этот вопрос поместили бы здесь. Но в любом случае даже умнице Фейнману надо было быть более осторожным с предсказанием будущего, тем более в областях где он совершенно не специалист. А его слабые аналогии смешны уже сейчас даже с минимальной высоты наших минимальных достижений в этой области.
smrl
smrl
И на самом деле это дейстительно интересный вопрос: могут ли быть думающие машины на каких-то экозитических схемах, «с реактивными двигателями»Пока общимИИ занимаются в основном всякие проходимцы которые в основном раздувают щеки и воруют чужие деньги под проект. И узнать такого проходимца можно по вопросу — что такое интеллект человеческого типа. На него проходимец не даст вменяемого ответа. Спрашивать надо не про ИИ, а просто для начала про общий интеллект, который мы видим у людей. Какие вопросы он решает? Почему он возник? Какие у него преимущества перед интеллектом животных? Являются ли задачи решаемые человеческим интеллектом принципиально новыми в природе и раньше в природе не решались? Я например считаю, что у человека есть и интеллект животного типа (его части иногда называют подсознанием) и есть принципиально новый интеллект, который есть только у человека. Устройство этого нового интеллекта и есть тот самый «реактивный двигатель».
Из того, что человек действительно придумал (или открыл?) можно назвать лишь математику
а философия?
А философия — это такое же жонглирование абстракциями, как и математика. Но если в математике жонглирование идёт по правилам, то в философии каждый творит, что хочет.
я к тому, что человек «действительно придумал (или открыл)» философию, а уже потом математику…
Спорно. Математика появилась из реальных потребностей и уже у шумеров была достаточно развитой (360 градусов в круге — это от них пошло). А философия — это уже намного позже в Древней Греции — когда появилось достаточно много людей, которым нечем было заняться.
P.S. Понятно, что первой появилась религия. Но это всё же не философия.
P.S. Понятно, что первой появилась религия. Но это всё же не философия.
Sign up to leave a comment.
Взгляд из прошлого. Перевод отрывка лекции легендарного Ричарда Фейнмана