Comments 36
Там, где серьёзная наука (и техника) катастрофически проваливает попытки договориться о терминологии, нам может помочь старая добрая научная фантастика.
Станислав Лем так даёт определение Искусственного Интеллекта в своей нетленке "Голем XIV":
Различие между прежними и новыми машинами в принципе сводилось к различию между насекомым и человеком. Насекомое приходит на свет «запрограммированным до конца» – посредством инстинктов, которым оно подчиняется без рассуждений. Человек же должен обучаться правильному поведению, а это обучение имеет эмансипирующий эффект: руководствуясь собственной волей и знаниями, человек может поменять программу своего поведения.
Независимо от степени "человечности" синтетической личности, она должна прежде всего быть "личностью", сформировавшейся под действием опыта, полученных знаний и внешних стимулов.
Вообще, ооооочень рекомендую "Голема XIV" к прочтению. Немножко отрезвляет от наведённого новомодными нейросетями-блокчейнами-прочей-туфтой тумана.
Интересно.
руководствуясь собственной волей и знаниями, ... может поменять программу своего поведения.
Тождественны ли понятия "интеллект" и "свобода воли"? Или, по крайней мере, нераздельны?
Я бы поставил на ответ "нет" - иначе не существовало бы понятия рабства (или произошло бы разделение вида Homo Sapiens на два).
С другой стороны, что понимать под понятием "свобода воли"?
Как оборудованное интеллектом не очень живое существо, я могу не только оценить безвыходность своей ситуации, но и попытаться её трактовать как некий замысел свыше (религия).
Или изыскать выгоду (разновидности коллаборационизма).
Или заранее просчитать свой путь, чтобы не допустить безвыходной ситуации (подумать наперёд, анализировать факторы, которые ещё не материализовались).
Или просто отдаться животному инстинкту...
Зверь дрессируется. Разум рассуждает.
Философия - наука, ставящая хорошие вопросы, но никогда не дающая на них хорошие ответы.
Начну с конца:
Человеческий интеллект — это то, что управляет поведением человека,
Человеком управляют инстинкты, чувства, психика. Являются ли приведенные "управленцы" интеллектуальными? Если да, то тогда ИИ не будет никогда!
Если же говорить по теме статьи, то все определения крутятся вокруг слова "искусственный", и дают различные определение только этому слову, а надо сначала прийти к определению слова "интеллект", хотя это определение дано в русскоязычной Википедии, но оно ссылается на определение слова "психика", которое вроде как дано, но имеет несколько определений, в зависимости от рассматриваемого вектора. Что, по сути, не даёт однозначного толкования слову "психика", а значит и слову "интеллект".
PS. Сам ИИ очень похож на кота Шредингера - он и существует и не существует одновременно и зависит от применяемого определения.
Хорошо подмечено.
У ИИ в его нынешнем "виде" не может быть полного подобия человеческому интеллекту, поскольку отсутствует эволюция от рационального зверя к творчески расковавшейся личности (со всеми её противоречиями и неизлечимыми атавизмами). Истинного человекоподобного ИИ действительно не будет ещё долго...
По моему мнению в недалеком будущем появятся системы которые будут в поведении похожи на человека. Алгоритмизация инстинктов, психики, чувств несложна, взять хотя бы ту же игру Sims.
Ключевую фишку, которую нельзя будет сделать - это истинное творчество. Оно заключается в нахождении решения задач алгоритм решения которых неизвестен. Когда ИИ или человек сталкивается с неизвестной задачей у них всегда есть вариант полного перебора возможных действий для решения задачи. Но только у человека есть возможность получить решение "как-то" еще, способом который нельзя описать словами. Примеров истинного творчества полно: социальное поведение, изобретение математики, изобретения компьютера и т.д. Я не знаю как бы выглядел алгоритмы, которые бы использовали пустые базы знаний, а затем пришли бы к указанным примерам..
Примеров истинного творчества полно: социальное поведение, изобретение математики, изобретения компьютера и т.д.
Я недостаточно образован, чтобы аргументированно (и связно) опровергнуть это суждение :(
Но Интуиция подсказывает, что эти примеры... несколько некорректны.
Из дочеловеческой аксиомы "не больно лучше, чем больно" N шагов спустя выросла вполне человеческая аксиома "два лучше, чем один". Несколько погодя трансформировавшаяся в "два больше, чем один, но меньше, чем три".
N шагов таких рассуждений спустя, мы научились строить машины, которые бы эти логические построения автоматизировали (и, желательно, пропускали все рутинные шаги как можно быстрее при этом) - компьютеры.
Человек вообще любит строить такие машины - даже если они существуют исключительно на бумаге и производят исключительно бумагу... даже для творчества, заметьте!
Интеллект, как раз то , что может управлять / подчинять себе инстинкты, чувства, психику
а машинный интеллект, лишенный этих отвлекающих метрик, должен мочь больше, но будет ли он человечным, вот вопрос
Чувства/эмоции - эволюционное приобретение. Во многом они являются интегральной функцией сводящей все многомерные данные о среде (внутренней и внушений) к общему показателю, на базе которого затем можно принимать решения.
Эмоции помогают приоретизировать внимание. Например, боль - как интегральный показать того, что носитель может умереть заставляет бросить все и заниматься только ее устранением.
Неистово плюсую. Все изложено отлично. Сколько меня на Хабре минусили за то, что указывал, что ИИ ещё нет, а нейросети ещё далеко не ИИ, ибо просто дрессура, а не когнитивные функции ...
Это даже не дрессура, вот в чём дело.
Это тупая зубрёжка, причём результат зубрёжки всё ещё не полностью предсказуем.
Потому, что нейросети всё ещё не оперируют полноценными цельными образами, которые способен постичь (и сгенерировать) человек. А полноценную имитацию такого "нейросетью" не сделать - мощности не хватит.
Идея интерпретации, как создания абстрактной модели на базе сырых сенсорных данных известна науке и даже есть в некоторых определениях ИИ рассмотренных выше. Другое дело, что пока неизвестно как ее реализовать.
Размышления о том, что человек мегамощный вычислитель, бесконечно сложный и т.д. несколько не соответствуют действительности. В предыдущей работе я писал о том, что за жизнь (100 лет) мы потребляем от 4 до 400 Пб данных. Цифра хоть большая, но посильная современной технике. Инфопоток от зрения всего 2.5 Мб/с что по современным меркам вообще смешно. Но тем не менее, смоделировать человека (создать ИИ) мы пока не можем.
Попытки в лоб смоделировать все имеющиеся нейроны и синапсы мозга обречены на провал, поскольку подобный подход не дал практических результатов при моделировании нервных систем примитивных существ.
Создать сильный ИИ мы можем, просто ещё немного не успели. Очередной шаг в этом направлении можно посмотреть в сегодняшней статье на Хабре https://habr.com/ru/news/t/659603/
Таких шагов ещё нужно несколько десятков, возможно в десять лет уложимся.
Видел эту статью, заинтригован очень, особенно частью про объяснение юмора (которая в новость не попала). Между прочим, один из ответов этой модели можно было бы охарактеризовать как неприкрытый сарказм - когда этот экземпляр хайтека сможет не выбрать его из предзаготовленных, а сам так ответить, тогда можно будет с уверенностью сказать, что мы на правильном пути...
Но эта технология УЖЕ может произвести революцию в связанных с языкознанием областях, раз смогла выйти на такой уровень абстракции (сами люди то не всегда могут вникнуть в понятие юмора!)
Но и для рождения разума следующего поколения пригодится...
Это конечно все здорово. Но есть одна проблема, как этой нейронке поменять задачу, например, чтобы вместо юмора она управляла беспилотником для вспахивания поля, или чтобы боролась с хакерскими атаками в сети? Ответ никак. Почему? Да потому что-то систему обучиЛИ, а для того, чтобы сталь сильным ИИ надо чтобы она обучаЛАСЬ.
Нельзя отрицать, что заявленные результаты ее работы довольно неплохие. Отличный пример технологии слабого ИИ.
Вы, вероятно, не очень внимательно читали статью и источник. Особенность этой нейросети именно в том, что она может поменять задачу.
А поводу лингвистики обучили/обучалась - хотел бы я посмотреть на человека, который обучился управлять беспилотником для вспашки без посторонней помощи (а то ведь выйдет, что "обучили"). А если не справился, тогда вы ему прямо скажете - интеллекта нет.
Потому, что мы чистим этот банан не с того конца.
Нам не нужно полностью копировать человеческие восприятие, соображалку, etc - в т. ч. потому, что натягивать неорганические технологии на органические паттерны есть крайне дорогое удовольствие. Компьютер мощнее - но мозг (и душа, if any) человека "спроектированы" ИМЕННО под эту задачу...
Достаточно при проектировании заведомо нечеловеческого разума, оборудованного (естественно!) заведомо нечеловеческими органами чувств, озаботиться переводчиком на человеческий. Что для нас феномен под названием "зелёный луч" - то для AI просто частный случай преломления излучения атмосферой...
У Дж. Мартина был такой интересный рассказ: "Стеклянный Цветок". Он неплохо дополняет идею "Голема XIV" Лема потому, что касается этой проблемы с другого конца.
У Лема раскрывается проблема контакта с "неорганическим разумом следующего поколения" собственного производства - а у Мартина превращение человеческого разума в этот самый "неорганический разум следующего поколения" при замене органов чувств.
P. S. Обычно я бы "Стеклянный Цветок" не рекомендовал к прочтению ввиду его избыточной нигилистичности (в т. ч. избыточной образности кое-каких нехороших моментов). Но тут у меня под рукой просто нет других вариантов.
P. P. S. Перед "Стеклянным Цветком" было бы неплохо осилить "Умирающий Свет" - без него некоторые внутрисерийные культурные отсылки могут быть непонятны. Но это, во-первых, целый роман, а во-вторых, у него своя проблематика... не под эту тему беседы, совсем не под эту.
Автору ещё советую посмотреть на позапрошлогоднего нобелевского лауреата Роджера Пенроуза и его книгу "The Emperor's new mind"
Автору плюс безусловно...Но субьективно мое мнение все таки нейросеть и ИИ это разные понятие в принципе
<...>позволяет решать узкоспециализированные задачи, которые раньше мог решать только человек<...> ( и т.д. и т.п. по тексту)
Проблема с таким определением про «задачи, которые раньше мог решать только человек» заключается в том, что как только что-то начинает решать эти задачи, эти задачи сразу выпадают из категории «мог решать только человек». Т.е. подобного ИИ невозможно достичь никогда по определению, даже если это будет искусственный интеллектуальный «бог».
А если давать послабление (вроде «задачи, которые раньше мог решать только человек, до появления этого… » ), то под определение начинает попадать много чего явно неинтеллектуального, вроде мехов и молота, работающих от водяного колеса. И добавление требований вроде того, что это должен быть «агент» — сильно не поможет: просто перенесёт из античности в 19й век (ткацкий станок на перфокартах — вполне себе агент).
Так что выбор не такой уж и большой: либо «давать интеллект» компьютерам, ткацким станкам, пчёлам и собакам (разного уровня, разумеется), либо вводить менее общее определение. Которое подразумевает не любые действия вообще, а конкретно «интеллектуальное» взаимодействие с человеком.
Я бы дал такое определение «сильного ИИ»: искусственный субъект, способный общаться вербально и невербально в человеческом обществе, быть участником этого общества.
Ну а «слабый ИИ» — считать просто не удачным, но приживимся термином( вроде «эфира», куда регулярно выходят радио и телепередачи) и который означает просто сложный эвристический алгоритм, чаще всего (но не обязательно) построенный на нейросетях.
Оценка ИИ по возможности вербального общения - это тест Тьюринга. А что если одной из "моделей" для определения будет человек в эмоционально нестабильном состоянии или ребенок или иностранец, не разделяющий культурного стандарта и вообще безграмотный? Как его отличить от плохого ИИ?
Попытка дать определение ИИ очень похоже на попутку предсказать результат боевого применения всепроницающего копья против всеблокирующего щита.
Однако выход есть. Вместо термина ИИ использовать "рационального агента" и дополнительно описать его свойства без отсылок к человеческим возможностям.
Оценка ИИ по возможности вербального общения — это тест Тьюринга. А что если одной из «моделей» для определения будет человек в эмоционально нестабильном состоянии <...>
Вы не вдумчиво прочли моё определение. Я не о тесте Тьюринга говорю, где ИИ один на один ведёт пустые беседы с одним человеком. А об участии ИИ в обществе — т.е. полноценном и плодотворном общении с сообществом людей (т.е. более менее организованной группой, что-то делающей сообща). «Коллектив», так сказать.
А абстрактный «рациональный агент» ни с кем не общающийся никак не отличим от заранее запрограммированного на определённые пусть и сложные действия «слабого ИИ». Так же как человек закручивающий 8 часов одну и ту же гайку в машинах на конвеере никак не отличим (по этим действиям) от робота делающего то же самое.
В конце концов вопрос можно поставить и по другому: как «сильный ИИ» сможет доказать нам, что он — «сильный ИИ»?
Вербальное общение не является необходимым, если ИИ занимается защитой сети от хакерских атак или предсказаниями котировок валют.
В тесте Тьюринга участвуют несколько моделей среди которых есть ИИ. Испытуемый общается с каждой моделью и должен определить ИИ она или нет.
Сила ИИ может проявляться в следующем:
Возможности решать несколько разных Задач
Возможности функционирования в различных Средах и в условиях активного противодействия со стороны Среды.
Постоянном самосовершенствовании
Вот характерный пример, когда неправильное определение детерминанта и единичного функционала технической реальности вновь и вновь заводит в тупик. Наша точка зрения здесь: http://gnatukvi.ru/mono_pdf/text.pdf
Для начала бы я разделил алгоритмы поведения на две группы.
Цели, и задачи которые могут быть как жестко встроенные (продолжение рода, самосохранение), так и генерируемые в процессе функционирования.
Способы решения этих задач. (безусловный рефлекс, шаблон-навык, прогнозирование)
Здесь интересным является метод прогнозирования. В общем случае для этого требуется построение виртуальной модели прогнозируемого явления. В этой виртуальной модели и производится поиск и проверка вариантов решений.
Обладающими интеллектом следует называть системы использующие для решения задач метод построения виртуальной модели. Уровень же интеллекта можно определять как максимально возможный объем создаваемых виртуальных моделей.
Интеллект в переводе на русский это разум. Искусственный значит созданный человеком. Разум это умение решать не стандартные задачи не стандартными способами. Это настоящая задача исследователя ИИ. Наличие воли не обязательно.
Тест Тьюринга это частный случай применения ИИ.
Но в бытовом смысле ИИ это статистические методы(нейросети)
Раньше бумагамаранием занимались писатель, сейчас программисты куда катится мир.
Но в бытовом смысле ИИ это статистические методы(нейросети)
Нейронки - это лишь один из способов. Есть еще генетические алгоритмы, нечеткая логика, теория игр и др., что позволяет добиться в меру "осознанного" поведения агентов.
Если интересуетесь темой рекомендую книжку Демушкина (см. выше) он там как раз обзор делает на всю проблематику и технологии связанные с ИИ.
так как человек - продукт эволюции, то и ЕгоИ (его интеллект) - продукт эволюции. Т.е. производная от рефлексов и инстинктов. Т.е. вполне себе детерминированная штука. Просто сложная. Аналогия - интел8080 и интел21века. Суть одна - а разница Ааагромная и хрен пойми как он (я про последний) работает. Т.е. ЕгоИ - практически однозначно построен на рефлексам, реакциях, инстинктах и т.д. Т.Д. - это в том числе Инстинкты приобретенные в процессе Социальной среды (все вот это - любовь, дружба, мораль, уголовный кодекс етс). И ровно поэтому Человека приходится Учить - из коробки он не будет работать. И ровно поэтому его можно научить (выдрессировать) чему угодно, из колыбели. Хотя базис в ней будет. Судя кстати вставлю Эмоции, перед собственно ЕгоИ, как промежуточную стадию между инстинктами и ЕгоИ. Отсюда мораль - процесс еще идет ))
Что такое искусственный интеллект