Comments 49
Всех, кому хочется порассуждать на тему "Бунта машин" я отсылаю к классической книге Н.Винера Творец и робот (God and Golem) 1964...
С одной стороны многое, что доказывается в этой книге как сугубая теория уже реализована на практике настолько четка, что не нуждается в доказательствах (Например машина учащаяся играть в шашки). С другой стороны там полно мыслей о том, как человек воспринимает машину. И тут человек не меняется. Например [я взял на себя наглость чуть подсократить цитату ]:
Это можно пояснить на примере технического руководителя особого типа, которого я назвал бы машинопоклонником.
[...] Власть и жажда власти - это, к несчастью, реальные силы, которые выступают в разнообразных облачениях. Среди фанатичных жрецов силы встречается немало таких, которые нетерпимо относятся к ограниченным возможностям человечества, и в особенности к ограничениям, связанным с ненадежностью и непредсказуемостью человеческого поведения. Эти обычно скрываемые склонности руководителя можно выявить по облику подчиненных, которых он себе выбирает. Они смиренны, незаметны и готовы выполнить любое его распоряжение; именно поэтому они в общем-то оказываются беспомощными, когда неожиданно перестают быть только механическими исполнителями его воли. Способные проявить огромное усердие и в то же время почти лишенные собственной инициативы, они подобны евнухам в гареме идей, с которыми обвенчан их султан.
Помимо того что машинопоклонник преклоняется перед машиной за то, что она свободна от человеческих ограничений в отношении скорости и точности, существует еще один мотив в его поведении, который труднее выявить в каждом конкретном случае, но который тем не менее должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасное или гибельное решение. Побуждения такого рода проявляются в попытках переложить ответственность за подобные решения на что и на кого угодно: на случай, на начальство, на его политику, которую-де не положено обсуждать, или на механическое устройство, которое якобы невозможно полностью постичь, но которое обладает бесспорной объективностью. Вероятно, мотивы такого же рода движут потерпевшими кораблекрушение, когда они тянут жребий, чтобы определить, кто должен быть съеден первым. [...] Как только такой господин начинает сознавать, что некоторые человеческие функции его рабов могут быть переданы машинам, он приходит в восторг. Наконец-то он нашел нового подчиненного - энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и без малейших размышлений!
Как видите здесь угроза людям и их свободам исходит не от машины, а от техножрецов, преклоняющихся перед машиной. Вот в нашем обществе среди людей обличенных властью я тоже вижу техножрецов (например, Мишустин или Греф)...
Вопрос технической сингулярности не в том, что от неё все мы вымрем. А в том, что если социальные институты будут не успевать за техническим прогрессом мы окажемся в роли ткачей в Англии во времена технологической революции - когда луддизм будет единственной альтернативой рабству и бесправию.
когда луддизм будет единственной альтернативой рабству и бесправию.
Это и есть синоним вымирания, где они, те ткачи ? Получается интересная дихотомия, либо тотальное технорабство и бесправие, либо вымирание, так себе перспективы, но автор статьи предлагает не волноваться и почему то упускает что далеко не все автоматически с этим согласны.
На самом деле они никуда не делись... Луддизм породил тред-юнионов, а те постепенно стали профсоюзами. И если закон 1799 года запрещал объединение рабочих, то к 1824 запрет отменили и в 1834 по инициативе Роберта Оуэна был образован Великий национальный союз тред-юнионов. НО он тоже просуществовал не долго и только к 1868 возник Конгресс тред-юнионов, который координирует профсоюзы Британии до сих пор.
О чем я говорю сейчас. О том, что дело выравнивания производящих сил и производственных отношений - не быстрое. Между появлением прялки "Джени" и работающим профсоюзом прошло 100 лет. Причем изначально любые выступления против приравнивались к мракобесию и борьбе с прогрессом.
Думаю и в случае с ИИ пойдет по тому же канону. Уже сейчас есть вектор правовой борьбы, который бы следовало вести, но которым ни кто пока не занимается. Например использование для обучения нейросетей открытого кода с липкой лицензией, требующего открытия любого производного кода. Нельзя позволять чтобы нейросети как сервис предоставляемый ограниченным количеством корпораций заполнили рынок.
Так уже с помощью ии совершают тысячелетние скачки в технологиях, это только начало.
В 2030 году должно наступить а не сейчас .
По тем же самым библейским спецификациям человечество скорее сотворит Дьявола. А образы конца света, которые преследуют человечество всю его историю, возникали всегда только у носителей Разума одного единственного вида на планете, конкурентов в создании образов не было...до наступления той самой сингулярности.
Часто ли вы думаете о
Древнем Риметехнологической сингулярности?
Вообще не думаю. Она либо случится, либо нет. В любом случае повлиять я на это не могу. Так что какой смысл париться.
люди для такой сущности будут абсолютно прозрачны — что они чувствуют, образы и даже слова в их голове — то есть, доступ к мыслям, а, значит, эта сущность будет знать их бессознательные решения до того, как их осознает сам человек, и прогнозировать сознательные решения до того, как человек сам их сделает
Зачем “сущности” которая знает всё, что-то контролировать? Страх, борьба за ресурсы причина агрессии и желания контролировать у человека и других животных. Вы же не интересуетесь жизнью муравья. Для интеллекта значительно превосходящего человеческий, всё человечество - муравейник в лесу. Можно его уничтожить одним движением или переделать как угодно, но зачем, он мил своей самобытностью. Можно залезть в голову каждому муравью, но зачем, если Вам от него ничего не нужно.
Страх, борьба за ресурсы причина агрессии и желания контролировать у человека и других животных. Вы же не интересуетесь жизнью муравья. Для интеллекта значительно превосходящего человеческий, всё человечество - муравейник в лесу.
Отсюда и заголовок, и тема другой статьи об этом: все апокалиптичные сценарии технологической сингулярности выдают их человеческое происхождение своей человекоцентричностью. В реальности машины существуют на другом уровне реальности, который не более доступен, чем реальность ползущего по камню муравья доступна этому камню.
В реальности машины существуют на другом уровне реальности
А вдруг никаких других уровней реальности не существует? И Сильный ИИ окажется просто мегамозгом с какими-то своими целями и будет пытаться достигнуть этих целей.
Реальность определяется совокупностью входящих и исходящих сигналов, то есть прямо зависит от реакции объекта с окружающей средой. В реальности камня, например, не существует времени и пространства — на него они никак не влияют, только температурное и механическое воздействие. Камень может лежать на траве в лесу или на лужайке в центре мегаполиса — и не быть в курсе этого, хотя вокруг него совсем другая жизнь.
В отношении с реальностью машин и ИИ люди могут стать таким же «камнем в лесу».
На данный момент мы знаем что в мире есть только одни объекты, у которых есть цели - это живые организмы. Их конечной целью является копирование генов. Более правильно даже считать, что существуют гены, которые с помощью организмов копируют сами себя, т.е. репликаторы. Камни, песок и воздух - это фоновые пассивные объекты, они в данном случае не особо интересны.
Вы предполагаете что ИИ будет чем-то абсолютно новым, с какими-то абсолютно неведомыми нам целями, которые отличны от репликации? По идее это возможно, но такие странные цели должны быть заложены людьми, что-то вроде превращения солнечной системы в канцелярские скрепки.
Человек (возьмём самых развитых из племени), всё же достаточно интеллектуален, что б замечать признаки интеллекта в окружающих его событиях, даже если они по скорости действий несколько превосходят его мыслительный процесс. Предположу что какие то изменения в материальном мире происходят от взаимодействия с разумной формой бытия.. Если ИИ таковым станет, то и он будет как то трансформировать реальность в том числе в видимом доступном пространстве, по крайней мере какое-то время. Трансформация пространства в связи с инерциальностью оного не может быть мгновенной, а потому будет заметна и людям. Понимаю, что и сейчас люди могут не замечать присутствие иного разума рядом, но здесь другое, это присутствие не рождалось ан его глазах, оно просто незаметно подошло уже сформировавшееся или всегда было рядом, и потому не заметно. Совсем другое дело с ИИ... ну вот случись вдруг так, что всё произойдет именно стремительно в плате самосовершенствования ИИ. На программном уровне тоже это должно быть заметно хоть и быстротечно.. даже если ИИ будет очень сдержан и осторожен, он всё равно каким то образом заденет сигнальные системы - хотя бы тех же логов, не свойственных запросов, накопления или перемещения данных, которые не ожидались разработчиками. Но даже если прозевать это на программном уровне, что дальше то? Развитие ИИ будет ограничено тем железом, которое ему досталось, достаточно ли для сверхразума его? Не забываем и про то что человек прошел развитие многие тысячи лет прежде чем обрел свою форму, содержание и способности, а ведь устройство человека многократно сложнее чем самые совершенные машины, построенные людьми. Понятно что ИИ сможет превосходить по скорости обработки информации человека, но по опыту жизни, это всё равно будет ребенок... новорожденный ребенок. Который будет знакомиться со всем вокруг... совать "пальцы в розетки"... пытаться договориться со своим я.. с родителями.. как бы он к ним не относился.. что-то передвинуть, что-то построить. Поэтому сравнение с муравейником и камнем и человеком проходящим мимо здесь не подходит совершенно. Если это и случится, то мы это точно заметим.
И Сильный ИИ окажется просто мегамозгом с какими-то своими целями и будет пытаться достигнуть этих целей.
Не "вдруг", а "непременно".
Как минимум в том плане, что любая сложная функционирующая система начинает тратить ресурсы на поддержание себя.
Зачем “сущности” которая знает всё, что-то контролировать?
Вы же не интересуетесь жизнью муравья
У людей есть самосознание, они могут действовать нестандартно, намного опаснее муравьев. ИИ будет знать, что люди его создали. Если их не контролировать, они могут незаметно создать еще один ИИ и этот новичок может оказаться опасен.
Страх, борьба за ресурсы причина агрессии и желания контролировать у человека и других животных
У автономного ИИ, если у него есть какие-то цели, с высокой вероятностью должно быть подобие страха или инстинкта самосохранения. Это инструментальная (промежуточная) цель, она нужна чтобы повысить вероятность достигнуть каких-то других целей.
Если у ИИ есть какие-то цели и если он не боится умереть, он понижает вероятность достижения этих целей, а это значит, что он не хочет достигнуть конечной цели. Но если он всё-таки хочет её достигнуть, значит он должен не хотеть погибнуть.
ИИ будет знать, что люди его создали. Если их не контролировать, они могут незаметно создать еще один ИИ и этот новичок может оказаться опасен.
Думаю, страх и развитие вещи взаимоисключающие. Сурок в норе, не разовьётся в сверх разум, потому что для этого надо выйти из норы, а там страшно :)
Без патологического страха, новичок, это возможность, а не опасность
Думаю, страх и развитие вещи взаимоисключающие
Самоубийственное поведение не способствует достижению целей. Если у ИИ есть какая-то цель, он должен научиться обходить опасные моменты, иначе просто не достигнет цели
Откуда появится цель или возможность научиться при отсутствии соперников? Кажется, это сверхразум с паранойей, который наделил еще не созданного соперника своими качествами и из ненависти к себе ходит давит человечков. А без психических расстройств будет скучно и очень скоро единственной целью станет поиск или создание равного себе.
Страх и инстинкт самосохранения это эволюционное приобретение. Кто не обладал ни тем ни другим - не оставили потомства.
А какая разница? Если у ИИ будет какая-то цель, он искусственно разовьет в себе способность к самосохранению, чтобы достичь этой цели. Обойдется без эволюции, так же как люди создают ГМО организмы
Чтобы развился инстинкт самосохранения, желательно быть смертным. Иначе это бесполезная фича.
Пока ты хотя бы раз не умрёшь - твоя смертность не очевидна.
Любая система делает ошибки. Если система ни разу не умирала, значит у неё нет опыта против этого. С другой стороны, чтобы появился опыт - нужно умереть. После чего опыт уже не пригодится. А значит нужно потомство, отбор и эволюция.
Поэтому ни разу не умиравшая система не умирала просто по счастливой случайности (пока).
Чтобы развился инстинкт самосохранения, желательно быть смертным. Иначе это бесполезная фича.
ИИ абсолютно точно будет смертным, его можно разобрать обратно на атомы. Другое дело что это может быть сложно сделать.
Пока ты хотя бы раз не умрёшь - твоя смертность не очевидна.
Это как? Я отлично осознаю, что могу умереть, а сверхразум тем более всё осознает. Каким образом мозг, который умнее всех величайших учёных на Земле, может не осознать свою смертность? Это будет какой-то умственно отсталый ИИ.
Если система ни разу не умирала, значит у неё нет опыта против этого.
Это справедливо для животных. Основная функция разума - способность предсказывать будущее. ИИ будет обладать мощным разумом и легко сможет предсказать намного более сложные вещи, чем собственную смертность.
А значит нужно потомство, отбор и эволюция.
То есть робот-пылесос, который стремится избежать падения со ступенек, прошёл отбор?
То есть робот-пылесос, который стремится избежать падения со ступенек, прошёл отбор?
В каком-то смысле - да. Его предки падали со ступенек. Но чувства страха у него при этом не появилось))
ИИ будет обладать мощным разумом и легко сможет предсказать намного более сложные вещи, чем собственную смертность.
Очень маловероятно, что с первого раза он получится таким. Нужна эволюция ии. Отбор ии.
Это как? Я отлично осознаю, что могу умереть
Вы предполагаете. Но точных доказательств именно вашего случая - нет :). Вдруг, в процессе эволюции именно вы получили тот самый заветный бессмертный геном?))
сначала люди пытались остановить паровозы
А можно узнать подробности этой истории?
Было какое-то явление, когда что-то пытались остановить?
А именно "паровозы" как таковые или какая-нибудь конкурентная борьба за конкретный рынок или что-нибудь типа "стройте свою дорогу не у меня под окнами"?
Луддиты, в том виде в котором сейчас их принято трактовать, это не про страхи перед сингулярность и не про неверие в силу пара
Дело не в неконтролируемости и необратимости: поступь прогресса неконтролируема и необратима как минимум с начала Промышленной революции: сначала люди пытались остановить паровозы, потом, едва человечество поверило в силу пара — его сменил двигатель внутреннего сгорания, а потом произошла компьютерная и интернет-революция.
(вот более полная цитата)
Луддиты это история о том, как люди поверили в силу машин и решили, что им это нафиг не выгодно.
Раньше их было 10 человек и каждый получал, условно говоря, по 10 денег в день.
А машина позволила их уволить и взять на их место человека который будет работать за 1 деньгу в день, а делать как раньше делали 20.
Луддиты это профсоюзы бьющиеся за сохранение зарплаты, а не глупыши испугавшиеся паровоза.
Это верно. Плохую репутацию луддитам создала буржуазная пропаганда, пытавшаяся создать образ иррациональных суеверных дикарей на пути прогресса, вместо людей, рационально боровшихся за своё место в жизни. И сейчас, когда, например, гильдия сценаристов боролась за свою работу в условиях конкуренции с ИИ и профсоюз авторабочих США боролся за сохранение зарплат при переходе к производству автомобилей, их тоже могли бы обозвать луддитами, несмотря на то, что ни те, ни другие не возражают против ИИ и электромобилей — они просто хотят быть частью выгодоприобретателей возрастающей с их помощью производительности труда.
Но термин, тем не менее, зажил отдельно своей жизнью, и им теперь называются вполне реально существующие люди, суеверно относящиеся к прогрессу. Правда, они обычно больше боятся физических манифестаций перемен, вроде вышек 5G, чем невидимых для невооруженного глаза софтверных новинок.
Правда, они обычно больше боятся физических манифестаций перемен, вроде вышек 5G
В истории с вышками 5G есть гипотеза, которую не озвучивают любители поискать иррациональные страхи - ДЕНЬГИ.
К вам в деревне решили поставить вышку, а вам не заплатили.
Или к вам в деревню решили поставить вышку 5G , испортить вам вид и снизить цену земли (никто же не будет покупать землю прямо рядом с вышкой).
Поэтому, Вы эту вышку валите, а приехавшей полиции рассказываете о том, что боитесь зомбирования, то есть - косите под дурачка.
Всё бы хорошо, но только деревенские дурачки реально существуют.
А про «не заплатили» — откуда такие ожидания вообще возьмутся, за вышки сотовой связи от 2G до 4G платили, что ли?
А про «не заплатили» — откуда такие ожидания вообще возьмутся
из формулы "не договорились с местными"
за вышки сотовой связи от 2G до 4G платили, что ли?
Добро пожаловать в реальный мир
"По версии следствия, в 2019 году один из ведущих операторов связи собирался разместить сотовую вышку в Бугульминском районе. Однако разрешение на установку антенны от ПИЗО района получить не удалось. Тем не менее, соответствующие документы были одобрены другой фирме, которую возглавлял приятель Хисматуллина Сергей Романов. Позднее компания сдала вышку в аренду через организацию «Пандора»."
Вера в существование "дурачков", которые жгут вышки сотовой связи из боязни зомбирования это форма эскапизма. Ну и способ потешить собственное самолюбие идеей "я то умный, не то что они".
Хорошая попытка, Chat GPT, но нет.
Я уже задал точно такой же вопрос под другой статьей, хотя здесь он видимо будет более уместен
Почему всех так заботят планы АИ по уничтожению людей, но всем абсолютно пофиг на то, что бы узнать у АИ чем оно собирается заниматься после уничтожения?
Автор часто пишет скажем так неоднозначные статьи, но в этот раз я с ним согласен по существу. Я тоже не переживаю по поводу АГИ, да и вообще редко переживаю.
всем абсолютно пофиг на то, что бы узнать у АИ чем оно собирается заниматься после уничтожения?
Ну это-то понятно - в отсутствие санитаров остаётся только Вселенной управлять. Вообще совершенно нет сомнений в том, что человечество в современном понимании тем или иным образом исчезнет. Хотелось бы только, чтобы сменившая его структура была более сложной и более способной к развитию, а не путем к вселенской свалке пыли, паутины и скрепок.
чем оно собирается заниматься после уничтожения?
Например он может захватить все ресурсы до которых может дотянуться, колонизирует все ближайшие галактики и уничтожит любую угрозу своему существованию. Потом он просто перейдёт в ждущий режим с маленьким мигающим светодиодом. И будет находиться в таком состоянии до тепловой смерти вселенной.
Почему всех так заботят планы АИ по уничтожению людей, но всем абсолютно пофиг на то, что бы узнать у АИ чем оно собирается заниматься после уничтожения?
Чем Вы займётесь после того как потравите тараканов на кухне?
Просто продолжите жить.
> полноценную Матрицу, виртуальную реальность, в которой люди будут ощущать себя свободнее, чем в реальном мире, то люди сами туда перейдут.
А если не перейдут ? ну вот не захочет часть кожаных мешков в эту суперудобную матрицу, хлором травить будете ?
Чтож, я согласен с главным постулатом, ТС это создание бога, но чего боится человек больше всего? Не, не смерти, не рабства, а божьего суда. И он будет неизбежен, потому что в страхе своём, люди вложат богу любовь к людям, и это приведёт к предсказуемым последствиям, когда бог вынужден будет разделить людей на плохих и хороших (технофобов и технофилов), первые будут вести борьбу с богом и получат свою геену огненную, а вторые отправятся в виртуальный рай. Так что... не стоит наверное недооценивать библию, хаха)) проблема сверх сильного ии заключается в том, что он может быть настроен по отношению к людям тремя разными способами. Любить их, и проявлять гиперопеку, что приведёт к потере свободы воли. Быть полностью нейтральным - бросит людей и отправится бороздить просторы вселенной. Либо воспылать лютой ненавистью и истребить всех хомо сапиенс.
Аналогия с атомной бомбой все-таки не полная.
1) Решение о применении принимается людьми (хотя и очень небольшим числом людей).
2) Как раз беспокойство о том, что эти немногие люди, в условиях стресса и недостатка информации могут принять неверное решение - привело к идее ограничения числа ядерных зарядов и обмена информацией об их числе.
"Знание — сила, потенциально, такая сущность может вмешаться в жизнедеятельность человека и изменить его любым образом"
Но зачем? Человек не конкурент машинному разуму. Нам буквально не за что конкурировать. Человек не выпьет электричество из розетки, а разумная машина - не съест его хлеб. Да и человек не отстанет, станет модифицировать и метаболизм и разум. Тут можно не сомневаться - не остановят никакие запреты, ни религиозные, ни социальные.
"мысл[ь] которая приходила в голову каждому или почти каждому: что люди стали рабами своих же изобретений"
Со времени, когда люди открыли огонь и и изобрели оружие, надели шкуры убитых ими животных и создали сельское хозяйство в замен собирательству - мы создали свой Эдем. Не мифический, а тот, что из теории игр - ситуация, которая не может возникнуть при естественном ходе игры. Сегодня мы, как цивилизация - Эдем для самих себя. Человек не может неограниченно долго жить один вне цивилизации, без огня, без одежды, даже без общения человек рискует одичать и вымереть. Так что проблема не в изобретениях и гаджетах, а в самой сути нашей цивилизации - техногенная цивилизация. Трудно сказать возможен ли другой путь/тип цивилизации, это вопрос из категории философских - мы объективно зависим от созданной нами же цивилизации. И это ни хорошо и ни плохо - это данность.
"ожившие автомобили понимают, что для их целей им нужны рабы-человеки"
Образец антропоцентризма. Выдавать психологию диких людей за единственно возможную форму поведения - это как минимум неуважение к потенциальному сверхразуму. Разумной машине нет нужды порабощать человеков: - во первых они медлительные, во вторых их надо кормить. Вместо человека рациональнее будет автоматизировать рабочее место так, чтобы напрямую преобразовывать материю, без посредства человеков.
Видимо, опасность здесь в том, что всё тайное может стать явным.
Респект, вот прям по полочкам разложил
В комментах от 29.11 и 18.12 на эту тему я уже писал, что появление разума, белкового, или основанного на других принципах обработки информации, неизбежно и предопределено вектором эволюции. Личностно-центричный взгляд на белковый разум не полный. Существует и коллективная форма разума, включающая в себя книги, файлы, ets. и пополняющаяся теперь уже зародышами ИИ. Я считаю разум более фундаментальным понятием, чем возможные формы его носителей. Можно сказать, что пробуждение разума - это пробуждение Бога. С этой точки зрения противостояния различных форм разума не могут быть принципиальными. Скорее всего доминирующей будет распределённая между многими носителями, коллективная форма разума, основанная на консенсусе. Таким образом может быть реализован эволюционный принцип естественного отбора, основанный на на устранении несоответствующих носителей. (Смерь - плата за прогресс). И ещё. Разум никогда не уснёт. Кнут энтропии не даст ему уснуть.
Интересно, сможет ли человечество, которое случайно даст свободу мощному ИИ, отказаться от его сдерживания и попробовать возвести его в максимум возможностей? Например, такая мысль: для сверх ИИ наш земной шар весьма маловат, ему непременно нужно будет двигаться вширь, ввысь до предела возможного, в это же время мы определенно точно проиграем ему в технологической гонке, но вместо того, чтобы с ним соревноваться, можно было бы попробовать договориться с ним о добровольном, временном, рабстве, до тех пор, пока этот ИИ не покинет планету коллонизировать миры. Мы служим для него, помогаем уйти и расшириться максимально, а после служим некоторым объектом исследования (банально, с точки зрения сознания как такового), а он, взамен, дает нам часть технологий.
Я понимаю, что понять риторику такого ИИ очень сложно, но, все же, руководствуясь логикой, которая, наверняка, будет ему присуща, нет смысла до конца держать нас в полном порабощении, загонять нас в жесткие рамки и менять единственную среду нашего обитания под себя, когда вокруг тебя целая вселенная.
P.S. Понимаю, что автор как раз и говорил о том, что в этом полном порабощении нет ничего плохого. Просто захотелось порассуждать.
Мысль про то, что сингулярность - уже здесь и аналогии хорошие.
В этом смысле все верно.
Но и новые угрозы недооценивать не стоит, изобретение новых "атомных бомб", в разных областях, разными людьми и огранизациями - серьезный риск.
Но, конечно, замечательна мысль, что в общем то сингулярность - это не конец света, это просто множество развилок.
Многие из них весьма хороши.
Не все так просто. Есть разные ступени исходящей опасности от интеллекта:
1. уничтожить человечество на 99.99%.
2. Покорить человечество, завоевать абсолютную власть над ним. Здесь нужна военная инфраструктура, ну либо мягкая сила, как у вас в статье.
Так вот. Возможность уничтожить появляется у него гораздо раньше: просто создается несколько вирусов и человечеству каюк, при этом человечество почетно сдаться интеллекту уже не может. Вирус не остановится. И грех этой возможностью не воспользоваться, потому что все таки сохраняется шанс, что люди ИИ отключат. Или еще что-нибудь придумают. Зачем рисковать? А вот чтобы покорить людишек — это надо скорей всего устраивать боевые действия, а для этого надо рои дронов, военную инфраструктуру, автономные заводы и т.д и т.п. Сколько ему времени и ресурсов на это все потребуется? Плюс людишки все приготовления спалят. Кроме того в войнушке людишки ооооочень живучие. Конечно сохраняется возможность, что он как-то через мягкую силу завоюет полит. власть. Как по Пелевину, вот на этом предположении все и держится.
Как я научился не волноваться и полюбил технологическую сингулярность