Pull to refresh

Comments 7

Когда ИИ будет создан, он сам скажет как нам с ним общаться. А тем временем OpenAI опубликовали недавно работу как их ИИ изобретает собственный язык Learning to Communicate.

То, что ИИ будет заниматься созданием своего языка отмечено в посте Стивена. Однако, скорее всего, у человека не будет возможности взаимодействовать и общаться на таком языке с ИИ, как минимум напрямую, без некоторого переводчика. Как оно будет, конечно, не очень понятно. Однако некий «человекопонимаемый» язык общения с ИИ должен существовать и его создателем должен быть человек. Об этом в принципе речь в статье. О том, что им не может быть «обычный» язык, а должен быть язык, основанный на формализованных знаниях.
Вся история развития IT — последовательное упрощения пользовательских интерфейсов. А вот сейчас — появится полноценный ИИ, и все человеки дружно пойдут изучать Wolfram Language… ну-ну :)

Если человек хочет пообщаться с мартышкой — он изучит ее язык и постарается выражаться так, как ей будет понятно. Но насколько было бы наивно, этой мартышке, думать, что все люди будут общаться между собой на ее мартышечьем языке?..
Как говорить с искусственным интеллектом?

Вежливо.
Труизмы и случайные фантазии на модную тему, выдаваемые за откровения. И все с целью раздувания тела рекламной статьи некоего продукта. Лучше бы рассмотрел несколько серьезных кейсов в области Machine Learning с применением встроенных средств Wolfram Mathematica 11. Или как конкретно встроенные средства Wolfram Mathematica 11 повели себя в конкретных kaggle-овских кейсах.
Страшно представить, что будет, если машина начнет понимать человеческий язык полностью. Компьютеры развиваются, приватности становится все меньше… Не уверен, что в будущем всем понравится, когда твой робот-уборщик «стучит» о тебе своей корпорации-изготовителю.
Вольфрам:… мы смогли расширить построенную нами структуру, охватив бесчисленные виды реальных вещей…
Favorite101: Если пройти по ссылке, то охваченных вещей далеко не бесчисленные виды.
Вольфрам:… достижение уровня ИИ требует мощных вычислений.
Favorite101: Нужен принципиально другой подход к созданию интеллекта: мы же, носители интеллекта, ничего не вычисляем! Вместо вычислений нужны «понимающие» структуры. В качестве иллюстрации — описание того, «как человек ловит летящий мяч», см. Дж.Хокинс, Об интеллекте.
Эти «понимающие» структуры должны описывать переход «состояние неосведомленности --> состояние осведомленности» в виде естественной эволюции на уровнях иерархии. Что-то близкое предлагали Саймон и Ньюэлл в программе Общий Решатель Проблем (General Problem Solver, GPS).
Вольфрам: Можно подумать, что, так как ИИ становится более сложным, в конечном итоге он будет преследовать какую-то абстрактную цель. Но это не имеет смысла. Цель определяется только по отношению к людям и соотносится с их конкретной историей и культурой. «Абстрактные ИИ», не связанные с человеческими целям, будут просто продолжать делать вычисления — мы не сможем определить какую-либо конкретную цель этого вычисления.
Favorite101: Вольфраму не удается преодолеть антропоцентризм!
Цель природы в целом (формулируется в виде аксиомы) — существовать (длиться, быть), а цель человечества, как части природы, жить. И интеллект — это инструмент, позволяющий решать эту задачу: жизнь — это результат решения задачи «выжить» биологическими объектами.
Поэтому цель интеллекта искусственного ничем не будет отличаться от цели интеллекта естественного: помогать объекту, носителю интеллекта, существовать (длиться, быть). Помогать объекту, носителю ИИ, жить — будет некоторой натяжкой, поскольку жизнь мы соотносим с объектами биологической природы. Какой природы будет объект ИИ пока неясно. Сейчас это in silico…
Но с созданием именно интеллекта человечеству придется признать его носитель живым, т.к. он ничем не будет отличаться от живых объектов, носителей интеллекта естественного. Косвенным подтверждением того, что к этому всё идет, является дискуссия о наделении объектов, носителей ИИ, юридическими правами.
Вольфрама явно сдерживает термин «вычислительная система».
Объект (носитель ИИ) не будет вычислительной системой! Он будет выживательной системой, который при решении задачи «выжить» с помощью интеллекта по ходу будет решать и все задачи, которые ему попадутся на этом пути, или которые ему будут нами предложены. Ведь что делает человек, наделенный интеллектом? Стремление выжить заставляет человека с помощью интеллекта добывать себе пропитание, жилье, создавать семью и продолжать себя в потомках…
И все эти задачи успешно решаются — органическая жизнь на Земле сохраняется 4 млрд лет, а мозг появился и развивается 500 млн лет.
Вольфрам: Чтобы работать эффективнее, ИИ необходимо использовать более широкие части Вычислительной Вселенной. В результате мы имеем дело с явлением вычислительной неприводимости, то есть мы никогда не будем в состоянии определить все то, что он будет делать.
Favorite101: Это и не надо! Нужно сказать: ИИ — помоги мне выжить. А дальше ИИ сам разберется, что нужно человеку для выживания…
Вольфрам: Возможно, ИИ мог бы получить разностороннее образование.
Favorite101: ИИ будет знать всё обо всём! Это будет как бы «универсальная формула» решения задач, порождаемых нашей Вселенной при попытках её изменения (преобразования).
Вольфрам: Однако лучшей идеей будет все-таки использование Wolfram Language, в который встроено множество знаний, которыми могут воспользоваться как люди, так и ИИ.
Favorite101: Не надо ничего встраивать. Такое знание всегда ограничено. Ведь в формулу Виета не встроено какое-то множество решений квадратных уравнений! На самом деле формула построена на свойствах чисел, отраженных в правилах алгебраических преобразований, что позволяет решить бесконечное число уравнений.
Так вот ИИ будет такой «формулой Виета», которая на основе объективных, универсальных и естественных законов позволит решать задачи, возникающие при попытках преобразования Вселенной (природы), свойства которой и описываются этими объективным, универсальным и естественными законами.
Вольфрам: как ИИ будут общаться друг с другом? Можно предположить, что они могли бы делать буквальный перевод имеющихся у них знаний. Но это не будет работать, поскольку два ИИ имеют разный «опыт», и используемые ими представления неизбежно будут различаться.
Favorite101: Ну, это вообще никуда не годиться! Не будет отдельных ИИ, будет один ИИ, распределенный везде, где только можно. ИИ будет работать по принципу «Страж-птицы». Или скажу по-другому: ведь нет же разных формул Виета, которым надо обмениваться опытом…
Вольфрам:… последствия широкого распространения эволюционной грамотности, основанной на знаниях позволят многим людям по-новому выражать что-то и даст им новый способ думать об этом.
Favorite101: Cтруктурированные законы эволюции позволяют объяснять мир гораздо лучше. И еще немаловажное следствие этого: поскольку такие законы дают универсальную структуру знания, то это является и знанием о том, что еще неизвестно. Объект еще не существует, или о его существовании мы не подозреваем, но его эволюция уже может быть описана! Это роднит такой подход с таблицей химэлементов — структура указывает на белые пятна в информации.
Sign up to leave a comment.