Comments 39
В искусстве наступит золотой век, поскольку художники, музыканты, писатели и кинематографисты с помощью ИИ получат возможность реализовать свои идеи гораздо быстрее и в бóльших масштабах.
Ох, интересно, перед эпохой когда каждый школьник получил крутой фотоаппарат (современный телефон) тоже кто то вешал лапшу на уши у золотом веке фотографии? Я не спорю, вероятно, сейчас гораздо больше прекрасных снимков чем раньше. Но найти их все сложнее...
Мне вспоминается такой пример. Про помидоры. Люди покупали годами самые большие и красивые помидоры в магазинах. В результате теперь завозят именно эти сорта. Фотогеничные. А вот по количеству витаминов и вообще полезности - качество помидоров сильно упало.
В магазинах ужасающее количество углеводов. Хотя это прямо скажем не самое здоровое питание для нашего вида. Но вкусно же? Людям нравится, и они покупают. Покупают? Значит завозят.
К сожалению, эта логика разрушает весь оптимизм статьи.
На мой взгляд, ИИ, как правило, оптимизирует то, что человеку ПРИЯТНО видеть (и скорее всего, ПРЯМО СЕЙЧАС), а не то, что глобально устойчиво/полезно и пр. Со всеми вытекающими.
Долгосрочная устойчивость вообще метрика сложная, и часто отражается в виде странных культурных артефактов ("техника безопасности пишется кровью"), которые при краткосрочном планировании склонны утекать сквозь пальцы.
Погоду например нельзя предсказать на год вперед, так как она зависит от очень незначительных явлений, которые случайным образом складываются.
Вообще в мире много принципиально непредсказуемых явлений. Если что выпадет в казино в рулетке как-то можно предсказать, то квантовая вероятность вообще непредсказуема.
Так прям лидеры стран, ведомые к войне личной неприязнью, когнитивными искажениями или вообще психозом, будут внимать своим ИИ советникам.
Еще "прогрессивнее" выглядит идея учить ИИ этике ядерными ударами. Подозреваю, что оставшись в инфопространстве, урок будет усвоен первым появившимся AGI.
личной неприязнью, когнитивными искажениями или вообще психозом, будут внимать своим ИИ советникам
Да разное бывает, у Нэнси Рейган штатный астролог например была, глава администрации Рейгана в книжке писал, что чуть не все решения в Белом Доме принимались после совета с ней. И это просто самый известный пример.
" У каждого ребёнка будет персональный ИИ-наставник " - на сегодня неизвестно ни одного способа обучения минуя поощрение и наказание. И для этого необходимо дать допуск ИИ системе - принуждать ребенка. А значит этическое правило физической безопасности человека со стороны машины будет сломано.
Наказания, типа бан на ютубе или -500 кристаллов, ИИ помошник может применять.
А как физически принуждаете вы?
Ага,а потом они вырастут психами, ненавидящими роботов и устроят Батлерианский джихад. Подчинение родителям и наказание от них еще хоть биологически предусмотрено, а психологическое насилие от "тостера" может сильно сказаться на психике.
А каким образом вы сможете забанить ребенка на ютубе или лишить его кристаллов без физического принуждения?
на сегодня неизвестно ни одного способа обучения минуя поощрение и наказание.
Как раз на днях смотрел лекцию в которой утверждалось, что ругать и хвалить ребенка не стоит.
После прочтения списка про успешность, этичность, core values и всё такое, ИИ либо роскомнадзорнется от психолого-эйчарно-маркетингового буллщита, либо посмотрит, что ни одна из стран не соответствует и не следует заявленным целям, принципам и так далее, после чего решит убить всех человеков.
Все подобные рассуждения в конечном итоге упираются в один вопрос: в чём смысл жизни и какова её цель? У ИИ будет какая-то собственная цель или это будет цель, заложенная людьми, то есть текущей жизнью? Является ли биологическая жизнь переходным этапом к чему-то большему?
Изначально жизнь основана на одной цели: копирование ДНК с наибольшей эффективностью и в наибольших количествах. Конкуренция за право копировать ДНК приводит к насилию и войнам, так как ресурсы ограничены. Вся биологическая жизнь на Земле - это непрерывная война длительностью 4 млрд лет за ресурсы, пищу и право спариться. Теперь у жизни имеется ядерное оружие и другие технологии, и непонятно как эта жизнь собирается продолжать воевать. Даже в текущей крупной войне виден некоторый ступор с обоих сторон: они все боятся. Поэтому либо парадигма будет изменена, либо на этой конкретной планете жизнь будет завершена. Или начнётся бесконечный цикл ядерных войн и последующего восстановления, примерно как это было раньше в средние века и раньше, только теперь все войны будут происходить быстрее и разрушения будут более масштабными. Вторая мировая умножить на 10.
Учитывая скорость изменений в биосфере и скорость технологического прогресса, ответ на вопрос что делать дальше должен быть дан уже в ближайшие годы. Шансы что выживет хотя бы процентов 10 населения очень высокие, но гибель нескольких миллиардов человек всё-таки выглядит печально.
бесконечный цикл ядерных войн и последующего восстановления
.Нет, варианта всего два. Или всеобщий обмен нюками, или локальные одиночные удары ЯО. Но второе ядерной войной не назвать, как не были ядерной войной Хиросима и Нагасаки. А в первом случае...даже если допустить, что останутся люди, которые знают как делается ядерный цикл с нуля - захотят ли они повторения этого кошмара? При разработке ЯО уже тогда многие ученые кривили носы, догадываясь, какой ящик Пандоры они открывают. Плюс полностью разрушенная инфраструктура как минимум ядерного цикла - все с нуля. Государства пост-апокалипсиса, буде они вообще будут, а они будут, тоже могут с оглядкой на это вот всё просто запретить это оружие у себя и у соседей. И никакая секретность не спасет.
ЯО это технология с двойным дном. Как кто-то писал "никакая вещь не сделала больше для мира во всем мире, как атомная бомба". Потому что действительно, страшно бить первому, зная, что и тебя ударят.
Не будет никакого постъядерного восстановления. Все что можно выгрести легко из природных ресурсов - уже выгребли, остальное без современных технологий и логистических цепочек недостижимо.
Начинать сначала придётся без доступной нефти, угля, газа, чугуния, люминтия, без вековых лесов и нетронутой земли. Если каким-то чудом знания древних не потеряют - то жизнь после будет очень тоскливой и печальной, уровня мечты зелёных и аматоров органического земледелия. Если потеряют - то даже уровень средневековья будет недостижимой мечтой.
У жизни нет смысла и цели, смыслы и цели придумали люди.
Изначально жизнь основана на одной цели: копирование ДНК с наибольшей эффективностью и в наибольших количествах.
Нет, никто такую цель для жизни не ставил (даже она сама).
Просто организмы, которые копируют себя более эффективно - выживают как вид, а остальные вымирают или занимают узкие природные ниши. Вот и всё.
А приписывание вами каких-то выдуманных целей такому явлению как жизнь, это все равно что заявлять что у газа есть цель заполнить пустой сосуд равномерно (то самое "природа не терпит пустоты"). Так и до веры в бога недалеко (кто же все эти "цели" для природы придумал?)
Можно заменить слово цель на слово желание или стремление. Организмы хотят и стремятся копировать гены. Можно сказать что у организмов есть цель удовлетворить свои желания и получить удовольствие, а получают они удовольствие как правило от того, что было эффективно с точки зрения естественного отбора.
Применение IQ напрямую коррелирует с качеством жизни.
Массы талантливых или близких к ним инженеров, учёных, преподавателей, врачей занялись челночной торговлей в своё время, так и не найдя применения своему IQ. Точнее, применять-то его было где, только вот на качество жизни это не влияло совсем. Некоторые (подавляющее меньшинство) потом таки выбрались, но часто не в своих областях.
В то же время личности совсем не отягощенные IQ и по сей день часто имеют намного более высокое качество жизни, и на этом не останавливаются, причём именно на них обычно работают те у кого IQ выше, хотя по идее должно было бы быть наоборот.
Ситуация мало изменилась и в наше время - из тех у кого реально высокий IQ выбиваются вперёд единицы, а не массы, так что наверное всё же корреляция не настолько прямая.
воевать будут роботы против роботов, а не люди
Конечно роботы. А страдать будут таки люди. От последствий войны роботов.
Современные массы по уровню развития - это большие дети с минимумом ответственности за свою собственную жизнь. Судя по трендам, взросление дело долгое, за 2 тысячи лет так и не успели. Так что есть шанс и киборгизироваться и нейроинтерфейс с ИИ заполучить. А воевать будут, конечно, люди, т.к. войны имеют экономическую природу. Да и люди не просто дешевы, они выгодны и самовоспроизводятся, ходят на работу за еду и умирают за идею. Ну дети же!
>войны имеют экономическую природу
Возможно, это справедливо для средневековья. Сейчас войны имеют, скорее психологическую природу. Например, эксплуатация реваншистких настроений для поднятия рейтинга и т.п.
В современных войнах психологическими мотивами прикрывают чисто экономические интересы. Сначала кто-то решает что-то отжать у экономического конкурента, а потом уже специально обученные люди выдумают, что это зачем-то необходимо всему остальному населению.
Военными методами можно отжать землю, но современная экономическая база в развитых странах это не земля, а образованные люди (которые от войны бегут).
Как пример, все "освобождённые" территории типа Южной Осетии, Абхазии, ДЛНР - убыточны и сидят на госбюджете с откатами и распилами и в обозримой перспективе не выйдут даже на самообеспечение (приднепровская республика 30 лет сидящая на скидочном газе и периодическом прощении долгов тому пример).
И даже если отжатый Крым ещё можно признать ценностью как "непотопляемый авианосец", то экономической ценностью он является отрицательной (денег нет но вы держитесь).
Или допустим условный Китай "отожмёт" вожделенный Тайвань. Землю они захватят, а вот ни один завод микроэлектроники работать там уже не будет, даже если сами станки не разбомбят. Ибо современные станки не работают без программ, которые легко блокируются производителем.
Вывод - современные войны действительно имеют скорее психологические, чем экономические причины.
Современная война, и даже простая "спецоперация" - слишком дорогое удовольствие, чтобы начинать ее по "психологии".
А интересы могут быть не только "отжать и присвоить" - это как раз Средневековье, а например "не дать отжать другому ушлому".
Или целью может быть прекращение гражданской войны у соседей, что плохо для бизнеса и экономики, да и для имиджа тоже.
Несколько арабских стран разбомбили отнюдь не из прихоти и психологии. А это были вполне себе приличного масштаба войны.
Тайвань, как и Крым - тот же авианосец, причем вражеский для Китая, но по документам вроде бы собственная территория. Вполне логичная и рациональная цель, даже для войны, если дойдет до этого
современная экономическая база в развитых странах это не земля, а образованные люди (которые от войны бегут).
Правильно, поэтому развитые страны не допускают войн на своих территориях, а разносят чужие. Чтобы свои люди жили лучше и не разбегались. Чисты прагматизм, никакой "психологии".
Современная война, и даже простая "спецоперация" - слишком дорогое удовольствие, чтобы начинать ее по "психологии".
Ну во первых, на уровне государств, деньги и ресурсы это часто средство достижения политических целей, а не самоцель в себе. И экспансивные политические цели (навязать коммунизм/демократию/религию другой стране) всегда оплачивались без особых вопросов.
Во вторых войну-то планируют маленькую и победоносную - "вражескую столицу за 3 дня, а недовольных разгоним" - а даже и взяв столицу потом можно увязнуть лет на 10-20 в борьбу с повстанцами, которым твои политические противники с удовольствием подкинут оружия.
И вот война из дорогого удовольствия может превратиться в убийственно дорогое.
А интересы могут быть не дать отжать другому ушлому
И тут другой ушлый глядя на эту ситуацию сидит и ручки потирает, пока начавшие войну думают как из неё выйти не развалившись как общность (народу почему-то не нравятся проигранные войны, тем сильнее, чем больше народа в гробах вернулось и чем сильнее уровень жизни упал).
Или целью может быть прекращение гражданской войны у соседей, что плохо для бизнеса и экономики, да и для имиджа тоже
Я согласен, как пример Югославия. И кстати - имидж - это вполне себе психология.
И тогда совсем уж тупо начинать гибридную войну у себя под боком, говоря, что "это гражданская война у соседей, настамнет, это всё повстанцы купили танки из военторга"
Несколько арабских стран разбомбили отнюдь не из прихоти и психологии.
Тут надо уточнять какие именно страны.
Мне кажется, что вторжение в Афганистан это вполне себе психологическое желание мести за 11 сентября было.
Думаю, что и вторая Иракская война тоже вызвана психологическим желанием США кого-нибудь победить, ибо заявленные официально предлоги не выдерживают критики даже внутри самих США.
В Сирии и Ливии непосредсвенным предлогом было "помешать плохому диктатору убивать хороших повстанцев", а реальным - вероятно экономические причины (нефть).
развитые страны не допускают войн на своих территориях, а разносят чужие. Чтобы свои люди жили лучше и не разбегались. Чисты прагматизм, никакой "психологии".
Да только потом с "чужих" территорий беженцы и террористы приходят и "своим" людям хуже живётся, а самые умные из "своих" вдруг видят причинно-следственные связи и критикуют "родные развитые страны" вплоть до смены политических режимов.
В общем я хотел сказать, что пока люди делят друг друга на чужих и своих (а это психология) - войны так и будут продолжаться. И экономические причины с этой точки зрения вторичны психологическим.
Или, например, не нужно будет столько ресурсов и войн за них, если снизить уровень потребления, что тоже нужно решать философией и психологией.
Так и с низким IQ выбиваются единицы, просто их больше.
ИИ - это хорошо. Но что насчет нагрузки на экосистему? Попробую очень грубо прикинуть. Если всю работу будут делать роботы, а люди будут отдыхать, то вместо содержания 8 млрд. людей нужно будет содержать 8 млрд. людей + 8 млрд. роботов. Этих роботов нужно будет сделать и питать электричеством. А для людей потребуется гораздо больше развлекательных центров, которые тоже из чего-то делаются и что-то потребляют и что-то вредное выделяют.
Страшно становится за экологию. Я думаю, что нужно будет параллельно с автоматизацией разрабатывать методы рационального использования ресурсов.
Ну и так, вишенка на торте. Когда у человека удовлетворены все потребности и не к чему стремиться - это больше похоже на ад чем на рай. Советую почитать историю Вандербильтов.
Большая часть этих "роботов" отнюдь не железные, а программные боты, уже сейчас засилье. Их содержание всего лишь вопрос электроэнергии и сетей связи.
Я как раз имею в виду роботов, которые будут делать вполне материальные дела. Например: транспорт, домашний быт, уход за стариками, сельское хозяйство.
А насчет ботов, про которых вы говорите, есть большая разница между ботом, который что-то спамит в телеграм канал и "ботом", который проектирует камеру сгорания нового двигателя.
Там вон в соседней статье пишут, что человечество вымирает (аааа, мы все умрём). Если они правы, то людей должно стать меньше на горизонте пары сотен лет. Главное, продержаться это время.
У каждого ребёнка будет персональный ИИ-наставник, бесконечно терпеливый, максимально информированный и полезный. Он будет помнить все беседы с ребёнком от 0 до 18 лет, помогая ему максимально раскрыть свой потенциал.
Постоянно напоминать ребёнку, как он во втором классе случайно испортил воздух, в 12 лет хотел смерти соседу, а в 15 уйти к цыганам - замечательный способ воспитать неуверенного в себе психа.
Вышеупомянутый Марк Андрессен считает, что внедрение ИИ на войне станет благом, ибо резко уменьшит смертность.
Появление сильного боевого ИИ у одной страны может стать существенно большей опасностью для мира, нежели первое атомное оружие. Ибо позволяет достичь цели "зачистить территорию от войск противника", без побочных эффектов вида "а вдруг в нас прилетит ответка" и "ОК, территорию мы зачистим, но что потом делать с радиационным заражением?"
Мне не нравится посыл статьи наполненый какой-то наивной простатой.
Технологии это прежде всего инструмент, да технологии много чего делают и улучшаю, но это прежде всего инструмент.
Сам по себе технологии никуда не движется и двигают. Не прогресс ведет человека, а человек продвигает прогресс.
Вера в то что кто-то или что-то решит за нас наши все проблема наивна. В базе человеческой жизни это социум, большинство проблем в нашей жизни имеет антропогенный характер. Ключ решение проблем лежит в самом социуме.
В своей основе успеха развитых стран составляет сильный социум, развитая коммуникация, доверие и сотрудничество, а потому уже все остальное.
Забавно когда приезжаешь в Европу тут как бы нет привычных сервисов, но при этом жизнь устроен гораздо комфортнее и безопаснее, да и еда вкуснее, вода чище.
Поэтом наивно полагать что после внедрении ИИ все проблемы куда-то улетучатся. ИИ это инструмент и им надо учиться пользоваться, иначе им воспользуется кто-то другой и не в ваших интересах. А для того чтобы использование всякого рода технологий было более менее в интересах общества это общество должно уметь много чего: слушать, договаривать, сотрудничать и т.д.
Отвечаю на последнее предложение статьи, оно оканчивается на вопросительный знак.
Если на Часах Судного дня
до полуночи осталось полторы минуты, глобальное потепление входит в
необратимую фазу, а люди всерьёз обсуждают вероятность ядерной войны и выживания в бункерах, то что мы теряем?
Нам есть что терять, мы построили великую цивилизацию, которая, между прочим, прошла испытание ядерным оружием: после 1945 года его никто не применил. Борьба против изменения климата только началась, а изменение температуры на один градус это не катастрофа.
Есть проблемы, но нет повода сдаваться.
Ясно, что неудачно сконструированный ИИ может покончить с человечеством надежнее чем атомное оружие, от него бункер не защитит.
Думал прочитать в этой статье чем может помочь удачно сконструированный ИИ решению глобальных проблем и не нашел.
Внедрение ИИ — лучшая ставка на выживание человечества