Pull to refresh

Comments 422

... она ударит по обществу первой, еще задолго до появления президента-нейросети ...

... Скорее всего, всё просто начнет постепенно приходить в упадок. ...

Да, тревожно то, что в общество, сознательно или несознательно, проталкивается мнение, что ИИ способен решить все социальные проблемы.

При детальном рассмотрении, эта мнение навязывает, в новой реинкарнации, идеи авторитаризма и автократии и связанных с ними плановой экономики и единомыслия. При этом не важно, кто будет осуществлять автократию, человек или ИИ.

Авторитаризм и автократия, в самом общем виде, это перекладывание бремени логического доказательства на иного назначенного субъекта, с безоговорочным принятием сделанным этим субъектом логических выводов.

А, автократия, как показывает объективная практика, это всегда путь к застою и упадку. Человечество это проходило множество раз. Наша страна совсем недавно закончила подобный эксперимент, с самыми плачевными результатами.

 Наша страна совсем недавно закончила подобный эксперимент, с самыми плачевными результатами.

да вроде пока еще не закончила)

Ещё есть куда падать?

проталкивается мнение, что ИИ способен решить все социальные проблемы

Это лежит на поверхности. Здесь и проталкивать не нужно.

Общество отчаялось решить эти проблемы самостоятельно, религиозные люди надеются на мессию, а тут замаячила надежда на мессию в виде ИИ.

Группка предателей во главе с любителем пиццы завершила эксперимент.

Когда я был сильно моложе, очень мне нравилась идея о компьютерном правительстве, которое возьмёт на себя всю работу с бумажками, этакий электронный документооборот на максималках. Ты нажимаешь кнопочки, ИИ определяет, что ты хочешь, сам прописывает инфу в разные базы, собирает данные, решает твою проблему, выдаёт тебе документ/заключение и т.д. Но, спустя годы, я столкнулся с зачатками государственного документооборота, где теряют данные из баз, где почему-то не доходят электронные письма, где каким-то образом мне приходят письма из чужих госаккаунтов. И понимаю - если будет электронное правительство - это будет ад. Тебя потеряли в базе - и всё. Пропал идентификатор, ссылки рухнули, а людей, которые могут вникнуть в проблему и что-то починить - либо нет, либо они завалены работой и очередь на пару лет.

как человек страдающий уже несколько месяцев от бюрократов, Хочу поинтересоваться от чего же так происходит что наши мыла с документами куда-то пропадают с почтовых ящиков госучреждений? это намеренное вредительство компьютерными вирусами или это какие-то баги аппаратных уровней связанные с несовершенством оперативной памяти например?

Обычный человеческий фактор. Там не туда внесли, тут не туда отправили, здесь забыли проверить… Одной ошибки достаточно, чтобы ваши мыла с документами ушли куда-то не туда или пропали, или оказались приписаны другому человеку.
Это объяснение и гораздо проще, чем регулярные IT-факапы с потерей данных.

Сразу подумалось о фильме-антиутопии "Бразилия" Терри Гиллиама.

Мне кажется, или информатизация как раз и призвана исключить из работы (гос)машины самые ненадёжные её элементы, кожаные мешки? Потерять бумажную справку куда легче, чем электронное письмо, я считаю. Ну, если не давать мешкам слишком много воли.

скорей создают поле деятельности, чтобы люди могли создать видимость работы.

И понимаю - если будет электронное правительство - это будет ад. Тебя потеряли в базе - и всё. Пропал идентификатор, ссылки рухнули, а людей, которые могут вникнуть в проблему и что-то починить - либо нет, либо они завалены работой и очередь на пару лет.

Почему ад ? То, что пропал идентификатор и рухнули ссылки - так это именно люди и профакапили, а не Искусственный Интеллект.

Просто один аспект — финансовый, как реальный пример, заблокировали зарплатную карту с зачисленной зп, деньги будут через неделю, крутись как хочешь


и это только финансовый вопрос, а теперь добавь сюда все, от проживания в квартире (коммуналка да и сам факт зайти в нее) и езды на автомобилях и общественном транспорте до еды и лечения.


Нельзя реализовывать тоталитарного бога из машины руками тех, кому на людей более чем пох*й, будет бог-похуист, а назад фарш вернуть уже будет нельзя, бог по определению всесилен.

заблокировали зарплатную карту с зачисленной зп, деньги будут через неделю, крутись как хочешь

А сейчас такого не происходит? Или если происходит, то проблема решается мгновенно?

Тебе говорят про ад, который породит ошибка в реализации 'бога из машины', и в качестве уменьшенного примера — текущие проблемы, возникающие как раз из-за ошибок в реализации текущих автоматизированных систем.

Так а эти проблемы возникают из-за автоматизации или из-за недостаточной автоматизации и человеческого фактора? То есть по вашему что, люди ошибок не делают? Или всегда их сразу исправляют?

Все ошибки из-за человека.
Ошибки далеко не всегда исправляют, чаще игнорируют или правят последствия чем их причину.


Современный 'человек' создаст ад для всего человечества с большей вероятностью чем рай. Искуственный интеллект будет использоваться не для создания рая, а для создания оков, чтобы нельзя было вылезти из этого ада.


ИИ само собой не виноват, это просто инструмент, просто эффективнее чем другие.


Отличный пример этого сейчас строит китай с помощью своего Социального рейтинга.


p.s. в космологии есть понятие 'Великий фильтр' как причина смерти/заморозки цивилизации и разума в целом на планете, которым пытаются объяснить отсутствие видимых проявлений иного разума. Я считаю сейчас ИИ с высокими шансами может стать одним из его 'апостолов'.

Даже если так, то что теперь? Запретить все новые технологии? Ну потому что их все в теории кто-то там может использовать для "создания оков".

Нет, красивого решения нет, и оно кроется не в айти области.


Вопреки популярному мнению, в мире нет никакой 'свободы и демократии', власть контролируется очень небольшой кучкой людей и они принимают решения и реализуют свою власть очень быстро. И судя по тому, чем именно заняты эти люди, точнее по тому что происходит в мире и какие вещи делают важными, цели и методы там далеки от привнесения счастья всем в мире, сохранение мира, жизни и прочее, боюсь горизонт планирования у них не выходит за границы человеческой жизни… Если самое грамотное на виду это попытка устранить расизм и гомофобию, а банальная эпидемия привела к сильному экономическому кризису и военному обострению… Видео какие приоритеты и способности у этой власти.


Цивилизация сейчас на пороге ещё больше опасности чем когда она была после изобретения ядерной бомбы

Не авторитаризм и автократия, а просто общество потребления в своем предельном виде, когда есть ИИ и роботы, которые обеспечивают человечество всем необходимым, а само человечество либо сидит в виртуальной реальности большую часть жизни, либо под веществами в пролной праздности в настоящей реальности. Пусть бы даже обществом руководили и люди, а не ИИ. И никто давно уже не знает, что откуда берется и как делать этих роботов и ИИ.

так ведь одно другое не исключает. И, в целом, IMHO, это самый реалистичный прогноз

Авторитаризм и автократия, в самом общем виде, это перекладывание бремени логического доказательства на иного назначенного субъекта, с безоговорочным принятием сделанным этим субъектом логических выводов

Перекладывание бремени — это демократия
В авторитаризме диктатор сам забирает это бремя, никого не спрашивая

Так пишете про плановую экономику, будто это что-то плохое

Чего такого страшного в том, что объем производства благ буде рациональным образом регулироваться в соответствии с реальными запросами большинства общества, а не в соответствии с хаотичными интересами горстки монополистов? Ведь так это уже звучит не так totalitar'но, как плановая экономика?

В общем, что я хочу сказать. Человечество, похоже, действительно столкнулось с одним из самых серьезных вызовов за свою многотысячелетнюю историю. Справится ли оно с ним? Вопрос вопросов. Надо спросить у чат-бота.

Это только одна из мелких граней того кризиса, в который мы ухнули 30 лет назад, «купив билет на Титаник» в 91.

Реально же он формулируется как «кризис воспроизводства индустриальной цивилизации». То есть, кризис создания новых работников на смену ушедшим в Край Вечной Охоты. Он выражается в кризисе деторождаемости, школьного образования, университетского образования и образования на работе. И chatGPT + Google — это просто мелкие детали. Также как TikTok, Instagram, ютубчик и прочие вещи, убивающие концентрацию у людей.

О том, что этот кризис произойдёт, думал ещё Хаксли в своём «Дивном Новом Мире». Он и предложил, что индустриальное общество должно воспроизводится индустриальным путём.

Это только одна из мелких граней того кризиса, в который мы ухнули 30 лет назад, «купив билет на Титаник» в 91.

На самом деле еще задолго до 91-го. Просто в 91-м это уже стало не замаскировать.

Где-то в 60е. Причём народ чувствовал пятой точкой, но не смог отрефлексировать. В этом смысле, может и хорошо, что СССР рухнул — если бы он переродился в империалистический центр, стало бы много хуже, чем сейчас.

 В этом смысле, может и хорошо, что СССР рухнул...

Проблема в том, что он продолжает рушиться, сейчас может наступить апогей. Титаник уже чувствут холод айсберга, но капитан подал пар в гудок и скомандовал "Полный вперёд".

То что происходит сейчас — это завершение распада СССР. То, что в Югославии произошло быстро и кроваво, у нас не произошло (и за это надо бы сказать спасибо проклинаемым демократам 90-х). Но к сожалению оказалось, что наша "югославская" бойня всего лишь была отложена во времени.

Ну кроваво у нас тоже было, но не так сильно. Обошлись всего лишь небольшой войной в Чечне

Вы видимо плохо знаете историю, или считаете кровопролитость по-своему. Во-первых, в Чечне в 90х было аж две войны.

Насчёт кровавости. В Югославии в 1999 было убито 5-7 тыс человек, включая 1тыс мирного населения.

А в ходе двух чеченских кампаний погибло 30-140 тыс человек мирного населения, и по 20-30 тыс воюющих с обеих сторон (данные Википедии). Извините, но нельзя сказать, что в Югославии конфликт был кровавее , чем в Чечне...

Кроме этого, на пост-советском был конфликт в нагорном Карабахе, который продолжается до сих пор. Эхо распада СССР приняла не только Россия.

@Tyusha: То, что в Югославии произошло быстро и кроваво, у нас не произошло

Увы, это не так.

Кхе. Война в Югославии это далеко не только 1999 год. Это уже финал и кульминация истории, когда понабежали ястребы мира и закончили войну. А она до этого кучу лет шла, кусок за куском отваливался с грохотом и кровью. Хоть конечно в Чечне отжигали намного более жестоко обе стороны. Те же Фотки Грозного и Белграда всегда можно сравнить после бомбардировок.

"Общее число жертв конфликтов на Балканах с начала 1990-х годов превышает 130 тысяч человек, а материальный ущерб исчисляется десятками миллиардов долларов[36]."

Соглашусь, взял неверные данные по Югославии. Но точно некорректно говорить, что у нас была менее кровопролитная война.

Общее число жертв конфликтов на Балканах с начала 1990-х годов превышает 130 тысяч человек

Стоит не забывать нормализовать жерты на размеры населения стран — население Югославия было раз в 35 меньше, чем в СССР, отсюда то, что для СССР было мелким конфликтом, для Югославии — могло быть огромными жертвами.

Нам сложно представить, что распад СССР такой, каким мы его знаем — этот на самом деле очень и очень мягкий вариант. Вероятность же того, что дело вполне могло принять другой оборот (учитывая ядерное орудие у четырёх советских республик) была очень высока.

Всем не терпелось начать делить советскую собственность, которую большевики припасли на десятилетия вперед. И за что, собственно, было воевать республикам?

Да там столетиями воевали, если не больше. Некоторые конфликты на юге и Кавказе тянутся на века

Нам сложно представить, что распад СССР такой, каким мы его знаем — этот на самом деле очень и очень мягкий вариант.

Нет же, просто самая жесть началась не сразу, самый мягкий вариант на самом деле оказался самой большой войной в Европе после WWII, с перспективой стать третьей мировой специальной операцией.

Кроме этого, на пост-советском был конфликт в нагорном Карабахе

Еще Приднестровье, Абхазия и немного Северной Осетии.

Ещё узбеки и таджики отжигали в ферганской долине.

Это с виду только кажется, что тихо и мирно прошло, просто бедно было. Думаю, если учесть "отложенную смертность", то общее количество уже давно переплюнуло приводимый аналог. Так что "спасибо" я бы осторожно применял.

Это глупо — пытаться обьяснить все событиями, которые произошли больше 30 лет назад. В том же 75 году — уже никаких последствий от второй мировой не осталось, начался застой, нефтяной бум и все было весьма шоколадно, в сравнении с предыдущими десятилетиями.


Распад завершился больше 20 лет назад. В 21 веке все экономики бывших республик окончательно разошлись, остатки советской роскоши были окончательно сожраны и переварены


То что началось в 14 году — заслуга не распада сср, а одного единственного сбрендившего диктатора, который пересидел на троне и примерно в 10 году — начал сходить с ума от безграничной власти. 12 год, начало цензуры и уничтожения оппозиции — тем более никак с распадом сср не связаны

начал сходить с ума от безграничной власти.

vconst, Вы транслируете пропагандистские нарративы.

Не поддерживаю то, что сейчас на троне, но дело не в нем. Оно и так до последнего оттягивало силовое решение вопроса, пока остановить разворачивание конфликта стало невозможно. Ему это нафиг не нужно, весь этот национальный подъем, интересы русских и прочее, что душилось раньше и душиться сейчас под прикрытием лозунгов. Наш верховный - он про деньги.

Текущие события описаны в книгах по геополитике задолго до, они были неизбежны.

Некоторые "полевые командиры" с российской стороны родом с Украины, чувствуя из неизбежность, готовились к военным лействиям загодя, ещё до 2014 года. Например, об этом говорил в интервью "Клуни", который по профессии был программистом.

Это глупо — пытаться обьяснить все событиями, которые произошли больше 30 лет назад. 

А кто тут пытается объяснить ими всё?

Оно и так до последнего оттягивало силовое решение вопроса, пока остановить разворачивание конфликта стало невозможно.

Извините, но это бред. Без вмешательства России никакого конфликта бы даже близко не было.

Извините, но это бред. 

Хороший заход на срач, но это без меня. Мы и так тут правила Хабра нарушаем

Нет, "хороший заход" это попытка вброса на тему что там какие-то вооружённые конфликты были неизбежны. Что на самом деле абсолютный бред. Всё там при желании, или даже банально без вмешательства со стороны, решалось мирным путём.

Да нет неизбежных конфликтов. Еще Клаузевиц писал, что во всех конфликтах неизбежно виноваты обороняющиеся. Могли бы сдаться и получать удовольствие.

Ага, вот и старенькое отльгинское "на нас напали Украиной"
//вычеркивает этот аккаунт из людей

капитан подал пар в гудок и скомандовал "Полный вперёд"

Вы хотели сказать "маневр уклонения", а не "полный вперед". Если бы капитан Титаника не пытался "объехать" айсберг, а протаранил бы его, ему бы с некоторой вероятностью это удалось и корабль продолжил бы плавание. В худшем случае бы пробил только часть перегородок и остался бы на плаву. В реальности он, кажется, затонул из-за того, что при маневре уклонения удалось пропороть бок и почти все перегородки, отвечавшие за плавучесть.

Вы хотели сказать "маневр уклонения"..,.

Я сказал ровно то, что хотел. Мало ли, капитан, может, стать в мучеником захотел и в рай попасть. Его давно, лет двадцать трудно понять, уже не пытаюсь.

В реальности он, кажется, затонул из-за того, что при маневре уклонения удалось пропороть бок и почти все перегородки, отвечавшие за плавучесть.

Одна из гипотез называет причины быстрого затопления Титаника материал заклепок

Та часть корпуса, которая попала под удар, не обладала расчетными характеристиками прочности, некачественные заклепки лопались. Это привело к быстрому затоплению. Такова одна из причин большого количества жертв, ставшая известной в последние годы.

Заклёпки нашего Титаника украли, оптимизировали, заменив на суперклей из супермаркета, ему не обязательно с айсбергом встречаться, чтобы затонуть.

Как удобно, что СССР когда-то существовал. Он обеспечил потомков индульгенциями лет на сто. Теперь любые их действия и бездействия можно валить на СССР, снимая с себя всякую ответственность. Плохо разве?

Теперь любые их действия и бездействия можно валить на СССР, снимая с себя всякую ответственность.

Я не валю, если это камень в мой огород.

Думаю и ещё через 30 лет у нас с высоких трибун будут говорить, как во всём виноваты проклятые коммунисты.

Если, конечно, это "у нас" ещё будет существовать :(

Отрефлексировать смог, но по-одиночке. А вот объединиться не смог.

http://chuhloma.narod.ru/volki.html

Семидесятые годы были временем странным, когда Советская власть, казалось, занималась преднамеренным разрушением. В стране шла страшная драка... Сейчас нам рассказывают про борцов с тоталитaризмом. Не знаю. Борцы победили и сложили свой эпос о Великой Победе. Как сказал бы современный Тацит, пришли "годы редкого и ничем не омраченного счастья"

А драка была не там.

Что это было? Пытаюсь вспомнить.

Oбъекты охоты -- руководители разного уровня. К простым смертным это не применялось. Надо думать, шел отбор, как сейчас выразились бы, "элиты". Выбивались люди сильные, дельные и честные. Это кажется невероятным, но все так тогда думали, и, видимо, это было так. Казалось, что идет битва Добра и Зла в чистом виде.

Процедура. Человеку начинали предъявлять одно за другим бредовые объявления, чистить на собраниях, письма, анонимки и т.д.

На первый взгляд, исход поединка "тоталитарного государства" с личностью был предрешен. Все было более странным. С человеком, точно защищавшимся и соответствовавшим занимаемой должности сделать было ничего нельзя. Вот так.

По-моему, всегда удавалось натравить на человека трудовой коллектив (отдельные люди могли уклоняться, каким они подвергались мерам -- не помню). Эти начальники были требовательными, ну и получали. Сомневаюсь, что участники облав испытывали в дальнейшем хоть какие-либо угрызения совести.

Oбъекты охоты — руководители разного уровня. К простым смертным это не применялось. Надо думать, шел отбор, как сейчас выразились бы, "элиты". Выбивались люди сильные, дельные и честные. Это кажется невероятным, но все так тогда думали, и, видимо, это было так. Казалось, что идет битва Добра и Зла в чистом виде.

Не было там никакой "битвы Добра и Зла". Шла обычная грызня за власть. И с обеих сторон люди были примерно одинаковые. Одним повезло, другим нет.

И с обеих сторон люди были примерно одинаковые. Одним повезло, другим нет.

Кстати не объязательно, честные и принципиальные при дележе власти в политике часто проигрывают тем, кто честью и принципами не заморачивается. Просто потому что вторые могут предавать, идти по головам, врать и подставлять других, а первые — нет.

Кстати не объязательно, честные и принципиальные при дележе власти в политике часто проигрывают тем, кто честью и принципами не заморачивается.

О каких "честных и принципиальных" мы говорим в случае с политикой? Да ещё чтобы в высших эшелонах власти?

В теории, в высшие эшелоны власти может пробится хороший военный, организатор, ученый, бизнесмен и т.п. Но, разумется, его достаточно быстро там "съедят" более беспринципные политики.

В теории и коммунизм возможен. А в реальности в политике сидят политики :)

Почему? Был генерал Лебедь, например. Не политик, но вполне был в политике. Какой-нибудь, Рокосовский или Королев — в СССР в определенные времена были, вероятно, весьма весомыми фигурами. В отличие, от коммунизма не-политики в политике встречаются довольно часто.

Был генерал Лебедь, например. Не политик, но вполне был в политике

С чего вы решили что он не политик?

Какой-нибудь, Рокосовский или Королев — в СССР в определенные времена были, вероятно, весьма весомыми фигурами.

Это Рокосовский то не политик? :)

Начинается спор о терминах, это не интересно. Сначала определите, что кого вы называете политиком, так чтобы это не вызывало разночтений, а потом уже будет смысл разговаривать.


На мой взгляд, политик это тот, кто изначально сознательно шел через политическую карьеру (то есть начинал с какого-нибудь мелкого религионального горкома в двадцать лет), а не попал в политику волей случая. У военных (особенно во время реальной войны) несколько другая карьерная лестница и другие принципы роста в ней. Иначе, можно в политиков записать и бизнесменов и ученых и любых управленцев.

Политик это человек, который "профессионально занимается политикой". Как он в эту самую политику пришёл не особо важно.

Кроме того нет какой-то особой "другой карьерной лестницы". То есть в науке, армии, милиции или ещё где угодно в какой-то момент начинается та самая "политика". То есть люди занимаются не тем ради чего существует структура(наука, оборона, ловля преступников и так далее), а скорее организационно-административными вещами. И вместо их "стандартной" работы скорее заняты продвижением вверх по той самой карьерной лестнице.

Также как TikTok, Instagram, ютубчик и прочие вещи, убивающие концентрацию у людей.

Вы уверены? А не так дело обстоит, что люди, не желающие "концентрироваться" (что бы это ни значило) берут ютубчик и делают именно то, что они хотят. Их никто, и уж точно не ютубчик, не заставляет.

Это только одна из мелких граней того кризиса, в который мы ухнули

Боюсь, что не скажу ничего оригинального: вся история человечества состоит из кризисов, в которые оно "ухает" - эти кризисы и есть основной движок развития. Ясен пень, никому не хочется жить в эпоху радикальных перемен. Это жуткий психологический дискомфорт. Но осмелюсь напомнить один из постулатов психотерапии тревожности: не можешь изменить мир - измени своё отношение к нему.

Для взрослых сформировавшихся личностей - как вы сказали. Для детей - как в комментарии, которому вы возражаете.

Нет, и для детей то же самое. Они именно делают то, что хотят.

Но, понимаете, детей, до совершеннолетия, воспитывают, то есть заставляют делать не только то, чего хотят дети, но и многое другое. А взрослых воспитывают они же сами. То есть, вы, как взрослый человек, ограничиваете себя сами, ребёнок же неспособен себя ограничить => его ограничивают взрослые.

Человек, который раб своих желаний — это не человек, а млекопитающее. :-)

-------------------------
Но суть этого кризиса в том, что он многогранен. То есть, в КНДР можно «убрать условный Тикток», а в современной кап. стране — нет. По фундаментальным причинам.

Точно также, в капиталистической стране невозможно неиметь безработных, невозможно планировать на 20 лет и т.д.

Этих граней кризиса очень много, изложенное в статье и пресловутый Тикток — лишь одна из.

А суть — «индустриальное общество не воспроизводится».

Индустриальное общество не воспроизводится, потому что никто не хочет лишней работы. А растить детей - это прям очень не простая работа

Мне кажется странным, что в современном мире, где аж на уровне государств есть высокий спрос на людей с определенным уровнем образования, отсутствуют корпорации, которые бы выращивали таких людей в промышленных масштабах.

Казалось бы, описанное в рассказе Майка Гелприна "Специалист", давно должно было быть нормой, но нет: государства массово сваливают ответственность за выращивание будущих поколений на непрофессионалов (водителей, продавцов, слесарей, - в общем, обычных людей), да еще и за их счет. Прям как с IT-шниками: всем нужны миддлы и сениоры, но вот джунов никто брать не хочет, надеясь, что кто-то другой обучит их за свой счет.

Кстати, вот аннотация рассказа:

В этом мире недалекого будущего любой гражданин, имеющий приличный доход, может воспользоваться услугами компании «Наследственность», которая выращивает и продает специально выращенных секретарш, водителей, садовников и другой прекрасно вышколенный обслуживающий персонал из клеток лучших образцов рода человеческого.

отсутствуют корпорации, которые бы выращивали таких людей в промышленных масштабах.

Текущий мир слишком хаотичен, а выращивание человека с 0я — это 20 лет инвестиций. Когда же горизонт планирования — максимум 2 года, эти 20 лет являются вечностью. То есть, никогда не наступят и инвестиции не окупятся.

Это и есть системный кризис: экономические связи выстроены так, что вот не получается.

Это как автомобиль, в котором полуоси лежат в салоне: вроде бы все детали в машине в наличии, а не едет.

Но осмелюсь напомнить один из постулатов психотерапии тревожности: не можешь изменить мир - измени своё отношение к нему.

Спасибо, мои установки ровно противоположны.

Вы уверены?

Да, я уверен. И вы, кстати, совсем мне не противоречите — люди пользуются ими по собственному желанию. Точно также наркоман по собственному желанию вкалывает себе ещё одну дозу.

И в этом как раз и заключается проблема.

эти кризисы и есть основной движок развития

Я ни в коем случае не печалюсь по-поводу этого кризиса, просто отмечаю.

едим мы тоже по желанию, вся наша жизнь, в конце концов, - это удовлетворение собственных желаний. Отличие наркомана и обычного человека в том, что наркоман имеет какие-либо психические ( и потом еще и физиологические) проблемы, с которыми не в состоянии самостоятельно справиться, вот и остается только колоться. аналогично существует интернет-зависимость, также как и зависимость от книг.

А мир мы порой действительно не можем изменить, существуют объективные факторы, которые от нас не зависят, например, генетическое заболевание, война и т.д. Нет, никто не говорит, что нужно это считать за норму и сложить руки, но и сделать с этим что-то сразу, если вообще что-то получится сделать, нельзя. так что остается только изменить свое отношение, не обязательно на строго положительное, но так, чтобы не разрушало психику.

Очень трудно сопротивляться законам физики. Один из которых гласит - "тело стремится к покою".

Для того, чтобы ему сопротивляться постоянно нужны силы внешние и/или внутренние.

Командирам "Титаника" не нужно много людей, готовых сопротивляться, ими намного сложнее управлять. И делается для этого довольно много. Ходим строем, смотрим телевизор...

Тикток убивает концентрацию? Не знал. Есть какие-то исследования?

Это постой логический вывод. Если доминирует контент, где переключение смыслов осуществляется каждые 10 секунд, логично предположить, что переключение на понимание смыслов требующего десятки минут будет избегаться в силу большего напряжения.

Проблема таких "простых логических выводов" и бытовых, не следующих методике, наблюдений в том, что они далеко не всегда приводят в верным выводам. Например, таким же образом некоторые люди приходят к заключению, что игра в компьютерные игры типа шутеров вызывают агрессию, или, что сахар делает детей гиперактивными, или закаливание позволяет реже болеть ОРВИ, но более основательные исследования этого не подтверждают. Собственно вся современная научная методология появилась именно потому, что "простые логические выводы" слишком часто приводили к неверным результатам.

Конечно, но исследования по поведению очень сложны, пока до них дойдет, пока на них дадут бабла... принимать решение и строить гипотезы нужно уже.

Тут физиология - что тренеруется то и развивается. Можно возразить, что это касается и игр, но тренеруется там не жестокость. Жестокость там скорее реализуется и переживается. Отсюда жестокие игры скорее будут снижать агрессию, поскольку удовлетворяют потребность в ней через воображение. Многим психоаналитикам это было понятно до больших исследований.

Какая-то знатная демагогия у Вас выходит.

Периодическое переживание жестокости, периодическая реализация жестокости - это и есть определение тренировки.

Простой логический вывод (следую Вашему примеру): толерантность к жестокости будет расти, значит будет расти и уровень жестокости. Но такого не происходит.

Значит Ваша логическая цепочка про «что тренируется, то и развивается» неверна. По множеству причин.

Вывод: нельзя строить простые логические выводы.

Тренировка вне контекста не существует. Контекст игр - воображение. Толерантность к жестоким играм я думаю как раз и растет, но это не выходит за контекст. Поэтому по исследованиям, что я видел жестокость в реальности или не менялась или снижалась. (от части того что реальность тоже состоит из воображения, а потребность в жестокости удовлетворена, есть мнение что жестокие игры в принципе делают более пассивным человека ко многим вещам )

Тренировка тиктоком с бытовыми задачами обучения имеет куда более общий контекст - анализ информации. Для упрощения тоже назовем контекст работы с тиктоком воображением. Поэтому, на задачу вождения автомобиля и удержания концентрации на безопасности тик ток не должен влиять.а вот на обучение - должен.

закаливание позволяет реже болеть ОРВИ, но более основательные исследования этого не подтверждают.

Можно ссылку на "более основательные исследования" по этому поводу? Я с ходу нашел одно и другое, как раз опровергающие цитату. А исследований подтверждающих с ходу не обнаружил.

Не научное исследование, но не плохая статья про снижение способности к обучению у студентов часто зависающих в соц.сетях. Понятие "цифровой деменции" уже реально существует.

Солнце крутится вокруг Земли - простой логический вывод. Но неверный.

Неверный для какой задачи? Для задачи объяснить когда вставать и ложится вечером это годится. Для замера примерного времени суток тоже.

Если принято за точку отсчета Землю — то Солнце крутится вокруг нее.

Только не в этом случае. Вращающаяся Земля -- неинерциальная система отсчета. Даже сидя в запертой комнате, не видя Солнца, можно определить, что Земля вращается.

Верно. Но ничего не мешает взять точку отсчета как центр Земли, или отдельного человека, или вообще представить всю Землю материальной точкой. Все зависит от целей, как выше сказал Александр

Но ничего не мешает взять точку отсчета как центр Земли,

Не поможет - это НеИСО не только потому, что Земля вращается вокруг своей оси :)

Проблема в том, что и утверждение "Земля вращается вокруг Солнца" тоже неверно, оно вращается вокруг центра масс планетной системы, который иногда находится за пределами Солнца, спасибо Юпитеру.

Хотя есть и тонкости более высокого порядка, в которых и Солнце будет НеИСО...

Эм…
Чем не поможет то?


Дя целей — определить длину суток, более чем достаточно. Я же не говорю, что надо строить террацентрическую модель звездопланетной системы

Чем не поможет то?

В не-ИСО законы Ньютона в обычной их формулировке не работают, поэтому на основании наблюдаемого движения Солнца вы не можете утверждать, что оно вращается вокруг Земли. Т.е. это "не поможет" посчитать неинерциальность СО, связанной с Землёй, пренебрежимой в рамках задачи "что вокруг чего вращается - Солнце вокруг Земли или наоборот".

Дя целей — определить длину суток, более чем достаточно.

Для этого не нужна физика, и не нужен ответ на вопрос "что относительно чего вращается", и даже форма Земли не нужна. Для этого достаточно зафиксировать и обобщить наблюдения за несколько лет.

А наличие корреляции в данных не означает наличие причинной связи между явлениями, этими данными описанными.

Да разве кто-то говорит, что собирается движение межпланетного корабля рассчитывать по этой системе? ))

А это не важно ;) Пока наблюдатель описывает траектории движения небесных тел, сидя хоть где угодно - к результатам наблюдений претензий нет. Главное, чтобы не утверждал, что вокруг чего вращается - т.к. вращение означает ускорение, а ускорение ведёт к силам и законам (физическим) Ньютона как минимум, а с обычной формулировкой этих законов к мнению наблюдателя из НеИСО относятся критически, нет оснований не доверять только мнение наблюдателя из ИСО. А то наблюдатель из НеИСО начнёт еще втирать про несуществующие силы инерции, например, не разобравшись, откуда они у него взялись...

Все дело в масштабе, задачах и требуемой точности


Гелиоцентрическая модель тоже на инерционная, ибо само Солнце тоже движется вместе со всей системой. И так до бесконечности

Гелиоцентрическая модель тоже на инерционная, ибо само Солнце тоже движется вместе со всей системой.

А я об этом предупреждал, кстати. Но есть нюанс - в контексте взаимодействия Солнце-Планеты движением Солнца вокруг центра галактики и т.д. пренебречь можно как правило.

А вот чем пренебречь реально нельзя, так тем, что планеты, включая Землю, вращаются не вокруг Солнца, а вокруг центра масс системы. Который обычно расположен в Солнце, но иногда оказывается за его пределами (Юпитер слишком массивен, знаете ли).

Предупреждать об этом не надо, это очевидно. Потому и странно, что вы сами себе начали противоречить

Предупреждать об этом не надо, это очевидно. Потому и странно, что вы сами себе начали противоречить

А продолжение о том, что ускорением Солнца можно пренебречь, вы проигнорировали?

В некоторых случаях и ускорениями Земли пренебрегают, и тогда её можно считать ИСО. А в некоторых случаях - нельзя пренебречь, и не только для системы Земля-Солнце, а даже просто "Земля-тело". Например, во всех случаях, где учитывают силу Кориолиса - т.к. введя в расчёт силу инерции уже расписались, что расчёт делается в НеИСО, и там законы Ньютона (в обычной формулировке) не выполняются.

Ну вот и договориилсь — где силы кориолиса не важны, можно ими пренебречь. Кораблю в море нет разницы, солнце в центре или земля. На него луна больше влияет

Есть, но если вы имеете знакомых, детей или можете понаблюдать за собой, вы легко можете проверить экспериментально.

Это также легко, как проверить, что теплоёмкость воды выше теплоёмкости стали. Хотя, конечно, где-то есть исследования на эту тему.

Современная культура как таковая убивает концентрацию. Это касается фильмов, телепередач клипов. Зрителю не оставляют возможности сосредоточиться хоть на чем-нибудь в течение хотя бы минуты.

Можете попробовать считать после очередного смена плана до следующей смены ракурса, вряд ли досчитаете до пяти, если это будет современный видеокониент.

Это все ведёт к тому, что человек теряет навык сосредотачиваться, на него орут-грохочат в кинотеатре или современной музыке, не дают возможности обдумывать полученную информацию, а книжки читают все меньше. Даже статьи на Хабре становятся все поверхеостней в своей массе и боюсь, это отражает нашу потребность в дешёвеньком легкоусвояемом интеллектуальном фастфуде.

"нашу потребность в дешёвеньком легкоусвояемом интеллектуальном фастфуде." может не нашу потребность, а потребность создателя - не тратить 5 лет на идеально выверенную статью, не переснимать 33 дубля по всем канонам, а склеить, что получилось, в какую-нибудь эпилептическую картинку и так сойдет... Пока ты всё будешь делать идеально, тебя 15 халтурщиков с MVP обгонят и перегонят...

Можете попробовать считать после очередного смена плана до следующей смены ракурса, вряд ли досчитаете до пяти, если это будет современный видеокониент.
Стандартом на телевидении считается 3 секунды, максимум 5 — это уже «затянутый план». Причем давно, лет 20, может больше.

Помню, когда толлко появилось MTV, как бесила эта быстрая смена планов, казалось противоестественным.

А  теперь быстрее крутите пленку, Монтэг! Быстрее! Клик! Пик! Флик! Сюда, туда, живее, быстрее, так, этак, вверх, вниз! Кто, что, где, как, почему? Эх! Ух! Бах, трах, хлоп, шлеп! Дзинь! Бом! Бум! Сокращайте, ужимайте! Пересказ пе­ ресказа! Экстракт из пересказа пересказов! Политика? Одна колонка, две фразы, заголовок! И через минуту все уже испа­рилось из памяти. Крутите человеческий разум в бешеном вихре, быстрее, быстрее!  — руками издателей, предприни­мателей, радиовещателей, так, чтобы центробежная сила вышвырнула вон все лишние, ненужные бесполезные мысли!..

"451 градус по Фаренгейту", Рей Брэдбери.

Книги пока не все чохом запрещают, но кто знает, до чего повесточка доведёт... Cancel Culture, бессмысленная и беспощадная.

Умение читать книги сильно переоценено. Тогда просто выбора не было. И вообще, любое утверждение, что раньше было лучше, без доказательной базы - скорее всего неверно. Чем конкретно это хуже чем смотреть youtube? Есть исследования на эту тему?

 Чем конкретно это хуже чем смотреть youtube?

Чтобы читать книги, нужно напрягать память, помнить главных героев, прошлые события, представлять обстановку, короче, шевелить мозгами.

Смотрение трубы - процесс пассивный, требует минимум усилий. Да и что смотрят больше всего? Тупую развлекуху, достаточно тренды посмотреть.

Есть исследования на эту тему?

Не искал, исследую себя.

У меня сильно повредилась способность к концентрации (эндогенная депрессия) и книги читать уже не могу, да и фильмы и сериалы то же не заходят, а вот зависать на YouTube мозгов не требуется, чем и занимаюсь.

Если проверять в эксперименте по-взрослому, это надо , чтобы люди из экспериментальной выборки год хотя бы трубу перестали смотреть и книги начали читать и после замеряем в тестах изменение оцениваемых параметров. Нетривиальное дело найти таких добровольцев.

надо, чтобы люди из экспериментальной выборки год хотя бы трубу перестали смотреть и книги начали читать ... Нетривиальное дело найти таких

Ну, считайте, одного нашли - в "трубу" захожу раз в несколько лет, когда надо посмотреть, как какой-то нетривиальный прибор разобрать, и то, только из-за того, что найти вменяемую статическую схему разборки (как раньше были в сервисных руководствах) не представляется возможным. Правда, для чистоты эксперимента меня сперва придётся "нормализовать" - заставить смотреть ютубчики с тиктоками какое-то время, но я готов пойти на такую жертву.

Если никто не проводил исследований, это не значит что можно аргументировать к своей позиции отсутствием исследований.

Кому будет нужно образование, когда у вас есть гугл, ютуб и chatgpt, чтобы научить вас всему, что вам нужно знать?

Но мне нужно знать всё!

Кому будет нужно образование, когда у вас есть гугл, ютуб и chatgpt

Заю я таких викпедийных гуглоэрудитов ))
Спорить с ними — это бесплатный цирк, потому что наблюдать, как они наобум копипастят из поисковой выдачи что попало, не читая дальше заголовка и не понимая вообще ничего — уморительное зрелище


Один такой неистово доказывал, что если у орбиты повышается апогей — то непременно должен понижаться перигей. И никак иначе. Несколько лет прошло, а он все заводится на эту тему и на любые аргументы — "а я все равно оказался прав, как и думал" )))

чтобы научить вас всему, что вам нужно знать?

Нужно или следует ? Первое слово всегда подразумевает как минимум одно уточнение - кому нужно. И те, кто контент будут распространять - вот они и решат кому и что нужно, а вовсе не тот, кто контент потребляет.

Разумными были те, кто его обучил, потратив огромное время и ресурсы на разметку

Не совсем так. ChatGPT обучалась большей частью на неразмеченных данных. Т.е. просто на каких попало текстах, которые удалось собрать. Из этого вытекает важный момент: ChatGPT обучалась, в первую очередь давать не правдивый, а "человекоподобный" ответ. Т.е. за вранье её никак не наказывали. Поэтому сейчас она это с удовольствием делает, и рассматривать её как источник знаний пока не стоит.
Научить ChatGPT отличать истину от лжи, и говорить только правду — это следующий этап. Вероятно, намного более сложный, потому что здесь уже потребуется серьезная разметка данных.
Что касается генерации новых идей — какие-то зачатки рассуждений и абстрактного мышления у ChatGPT уже есть, судя, например, по умению решать


системы уравнений

А это же недавно добавили, в маркетинговых целях, так скажем. Сначала она ничего решать не могла, давала рандомные ответы из похожих текстов, все смеялись типа лажа. Я так думаю там не нейросеть (gpt) для математики, а просто решалка как в матлабе, просто обернутая чат-ботами на входе и выходе.

Так тут проблема не решить, а составить эту систему по текстовому описанию задачи. Ну и комментировать так решалка в матлабе умеет? Я не очень представляю, как тут поможет чат-бот, и как его обучить на такое, на каких данных.

Обучать можно на ГДЗ по математике, я думаю)) там и тексты задач, и системы уравнений из них, и разбор решений с комментариями.
Я просто представитель конкурирующей технологии, наблюдял в соцсетях как это было. Сначала они релизнули, и все начали постить эти задачки и типа "смотрите, у нее 2+2=5, а вы собрались ей свой бизнес доверить", пошел негативный фон. Потом был даунтайм на сутки, где то 10 января, и после него она начала решать.
Да. все верно:
0 Определить что пользователь опять троллит мат.задачами
1 Составить систему уравнений по текстовому описанию задачи (сложно сказать как, gpt-чатбот не сможет, первое что приходит на ум это стандартный NLP+графы)
2 Решить систему в матлабе
3 По решению составить текстовое описание (это должно быть попроще)

Так тут проблема не решить, а составить эту систему по текстовому описанию задачи.

Ее специально обучали как это делать. Я спрашивал, она сама призналась что вначале преобразует текст к некому формальному описанию :)

И как это умаляет способности ChatGPT, какая разница — нейросеть это делает или математический движок? Более того, я считаю, что симбиоз этих двух систем — это правильный путь. Т.е. нейросеть генерит входные данные, а математический движок решает систему. Затем выход подается на вход нейросети, она что-то решает, а затем опять использует математический движок при необходимости и так далее.

Да, никак не умаляет, просто это не GPT уже, а срочная "заплатка" из другой технологии.

Снова-таки, какая разница? Машинное обучение - просто один из способов программирования.

В подобном скепсисе я улавливаю подспудное сравнение с человеческим интеллектом. Но я совершенно не могу понять зачем "нужно искусственно фабриковать человека, когда любая баба может его родить когда угодно?".

В моем понимании идеальный ИИ - тот, который умеет отвечать правильно и быстро на любой корректно поставленный вопрос. Как - совершенно не важно. Все остальные функции человеческого мозга как то: эмоции, инстинкты и продиктованное ими поведение - совершенно независимы от интеллекта как такового и требуют отдельных усилий для развития, которые непонятно зачем прилагать к ИИ.

"Совершенно независимы от интеллекта" это очень смелое заявление, которое как минимум требует доказательства.

То есть пока нам известен только человеческий интеллект и он не существует в отрыве от эмоций или инстинктов. Конечно можно допустить что возможно и существование "независимого от эмоций" интеллекта сравнимого с человеческим. Но на данный момент это только допущение.

Да, нужно доказывать, но в психиатрии есть много примеров высокоинтеллектуальных пациентов лишенных как жажды жизни, так и многих эмоций,

И даже в этом случае остаётся вопрос насколько эти люди "функциональны". Ну то есть грубо говоря какой нам толк от "сильного ИИ с психическим расстройством", который будет отказываться вообще что-то делать?

Ну кстати на этот вопрос зачем "нужно искусственно фабриковать человека, когда любая баба может его родить когда угодно?" у меня давно сформировался ответ. Чтобы получить нормального работника из человека, его надо родить и потом обучать много лет с непредскауемым результатом. А программы они plug-able так скажем, легко, быстро, и бесплатно тиражируются, предсказуемое качество и т.д.

А эмоции это loss-function ))

совершенно не могу понять зачем "нужно искусственно фабриковать человека, когда любая баба может его родить когда угодно?".

Рождаемость в развитых странах падает, а сфера услуг плохо роботизируется пока что. Так что не любая, и не когда угодно.

Вы буквально повторили недавний пост Стивена Вольфрама (того, что WolframAlpha)

Забавно, но я его даже не читал.

Идея носится в воздухе...

И как это умаляет способности ChatGPT, какая разница — нейросеть это делает или математический движок?

Разница есть, правильно применять калькулятор - уже хорошо, но если еще и уметь считать в уме - определённо лучше.

Более того, я считаю, что симбиоз этих двух систем — это правильный путь.

Согласен, при условии, что "симбиоз" будет чем-то большим, чем обёртка над матлабом, разница в способности обосновать, объяснить, доказать.

Разница есть, правильно применять калькулятор — уже хорошо, но если еще и уметь считать в уме — определённо лучше.

Счет в уме — это и есть использование "калькулятора", только очень неэффективного и медленного. При расчетах нужна точность, а не что-то примерное.

При расчётах пожалуй, только прежде вам нужно увидеть саму возможность применить расчеты.

Самой возможностью и занимается нейросеть.

  • Вы смотрите на список покупок, и прикидываете, сколько потратите

  • Вы прикидываете, сколько времени будете добираться общественным транспортом а) до аэропорта б) до новой работы в) до удалённого магазина

  • Вам надо разделить счет в ресторане

В таких случаях базовая математическая интуиция значит больше чем калькулятор.

При чем тут интуиция? Это всего лишь приблизительные вычисления в уме

Интуиция начинается с приблизительных вычислений в уме. И кроме вычислений надо знать, когда их применять, уметь формулировать запрос и интерпретировать ответ.

Интуиция — это априорное знание. Не очень научная штука и точно не относится к математике

Ну ок, принимается :)
Это такой — спорный термин

  1. Нейросеть знает все цены товаров, дает их на вход "калькулятору", который вычисляет сумму. В отличие от человека, получается точный результат — здесь нет надобности в приблизительных расчетах.
  2. Если это происходит впревые, то нейросеть просто забивает в навигатор обе точки и пробует разные варианты в разное время. Со временем и опытом нейросеть может этот маршрут оптимизировать на основе внешних факторов, а может и нет.
  3. Здесь тоже не нужны никакие приблизительные расчеты — все рассчитывается точно. Если людям не понравятся точные цифры, то можно округлить.

Так что в этих случаях нет потребности в математической интуиции — все прекрасно решается комбинацией нейросети и математичекого движка. Собственно в этих случаях даже приблизительные расчеты не нужны, т.к. данных достаточно, а вычисления быстрые.

  1. Не знает. Мы еще не дошли до магазина. И еще не определились, будем брать сыр с плесенью или нет.

  2. Навигитор по НОТ-у работает хуже автомобильного, его надо проверять, особенно, если едешь в аэропорт. (Оговорюсь, что он хорош, сам считаю его очень полезным но тем не менее). Что агент будет делать если навигатор отвалился? Заметит ли, если ответ странный?

Согласен, при условии, что "симбиоз" будет чем-то большим, чем обёртка над матлабом, разница в способности обосновать, объяснить, доказать.

Да всё ваше программирование долбанная надстройка для коммуникации с вычислительными мощностями! Вся наука с её формулами и "законами" это надстройка от прямого понимания и взаимодействия с миром.
Цифры надстройка! Буквы и слова надстройка!
А язык так вообще профанация и фикция.

И что же мы от этого тупее или умнее австралопитеков?
Ужас насколько дуболомный подход к развитию! Гугл у них угнетает людей...мда
Вот тебе мнение одного умного по имени Сократ:
"древнегреческий философ утверждал, что письмо и чтение станут помехой для развития человека: возможность обратиться к материальному источнику лишит нас памяти."

Ну и что, как близко он к правде оказался?

*Даже зарегаться пришлось мне обывателю.

Ну так оно так и должно быть. Система типа чат-бота определяет, что надо применить математику.
А даже больше вам скажу, вы ТОЧНО ТАК ЖЕ большую часть времени части мозга ответсвенные за математику выключаете. Ибо невыгодно всегда считать, энергетически.
Да даже логику люди отключают, до запроса на логичность.

Типа Пете в школе дали домашнее задание. Тот поскрипел своей нейросетью, определил что это задача по математике, и передал на решение папе. Ай молодец Петя, какой умный неройсет, пятёрка.

Вполне умный Петя, если допускается передача.
Я вам даже больше скажу, умнее большинства, ибо делегирование не всем доступно.
Там и так куча других сеток над и под моделью работают. Как минимум еще автоцензор

Есть хороший фильм про это: "Назад в школу". Про то, что будет, если всё делегировать)

Ибо невыгодно всегда считать, энергетически.

Проблема не только в невыгодности, скорей его даже бесполезно применять во многих задачах, т.к. очень много вариантов.

Ну если система умеет понять какой инструмент нужно взять для решения задачи - это уже не мало

Я не знаю где вы здесь увидели умение решать. Это всё та же языковая модель, но с калькулятором в своем случае.

А ещё мне она говорила что может переадресовывать математические задачи в Wolfram Alpha.

Как я и говорю знакомым, это технология вида "чёрный ящик" и как раз из-за ИНС. А учитывая то огромнейшее количество входных параметров, то разобраться уже всей планетой не получится, по всей видимости, даже если каждый станет технарём.

GPT-3 врет еще лучше и не стесняется - GPT-3 vs chatGpT, так что вранье характеристика просто модели. Да и вообще, можно попросить - говори только то, что знаешь и не рассуждай вокруг темы.

Научить ChatGPT отличать истину от лжи, и говорить только правду — это следующий этап.

Кто будет решать, что есть правда и что есть истина?

Поэтому я и сказал, что это будет сложный этап. Как вариант, научить нейросеть базовой логике и критическому мышлению, а дальше она сама решит.

Я не могу даже вообразить, как можно решить уравнение не имея какой-то "модели" мира, описанной условиями задачи в произвольной форме. Под "моделью" я имею в виду что-то вроде физической или логической модели.

И оно не только уравнения решает, можно попросить изменить что-то, модифицировать каким-то образом данные, да что угодно..

Даже если это "просто" языковая модель, меня не оставляет ощущение что из этого "просто" родилось что-то большее. Это же черный ящик, что за структура возникла внутри весов нейронной сети может никто не понимать..

GPT и сама архитектура трансформеров "выросли" из систем машинного перевода.
Там, для качественного перевода, стоит схожая задача — по описанию на исходном языке, создать внутри себя некий контекст, из которого уже сгенерировать текст на конечном языке. Т.е. внутренняя модель явно создается.
Вообще впечатляет, конечно. Так и до сознания недалеко.

Пугает только что никто не знает толком что такое это "сознание" и вообще интеллект. И при этом уже получаются такие впечатляющие результаты, магия не иначе...

Сначала этот текст должен был стать комментарием к посту GPT-3. Есть проблема побольше, чем потеря рабочих мест, где автор..

… где автор, разбирающийся в нейросетях на уровне "проскроллил пару статей на пикабу" — отрабатывает задание маркетоложца, который "слышал звон", что надо пиариться на вц и хабре. Ноль обратной связи, как и в душещипательной истории о том, как "цензура хребет сломала"

Автор гуманитарий для нас, который почему-то говорит о мозге и лезет в область, где некомпетентен, ни разбираясь ни в управлении (хотя на сайте у себя написал что всю жизнь занимается бизнесом), ни в ИТ, ни в языковых моделях, ни ИНС, которая вообще из категории "чёрный ящик", и чем больше параметров, там всё сложнее. Вариант понять, учитывая те сотни миллионов параметров, что есть уже сейчас у GPT-3, вряд ли получится даже если все станут технарями на Земле.

У автора той статьи почему-то управление авто и страной равны по сложности. Наверное, привык слышать от таксистов советы как они сделал бы и вот, поверил. Ну а если серьёзно, управление машиной - это сделать так, чтобы не пересекаться к другими телами в пространстве, в чём помогут датчики. Управление страной, включая всё в них и всех в ней, мягко говоря, сложнее задача. Даже вопрос кому повысить ставку, кому нет, что сказать, что не сказать, уже сложнее. Там параметров будет не меньше чем у самого GPT-3, если растянуть всё на размер страны.

К слову, писать книгу о мозге, и не прикладывать список использованной литературы (поправьте, если я ошибся), как минимум плохо, а де-факто говорит о том, что автор в теме не разбирается, а выдаёт свои мысли за действительное.

Да все просто


Какой-то манагер, пока неизвестно в каком издательстве, придумал — что на ВЦ и Хабре хорошо пиарить всякие шлаковые некниги. Что тот — которому "цензура хребет сломала", что этот.


По одной схеме — пара статей там и сям, без всякой обратной связи.

UFO just landed and posted this here

Отличный аргумент, слышал его много лет назад) А вы никогда не задумывались, зачем детей в школах учат писать от руки и считать без калькулятора? Ведь, казалось бы. Может быть они дальше уже никогда не будут этого делать, но они должны понимать принцип, чтобы сложение двух чисел не казалось им магией. Дети с этим не согласны, конечно.

Я работал с фин. квантами — это относительно высоколобые статистики. По какой-то непонятной причине они очень легко считают в уме. :-) :-) :-) Видимо, это совпадение. :-)

Помню, давненько, приходит к нам, умудренным третьекурсникам мехмата, знакомый первокур с эконома. Ну и, между пивом, жалуется на то что ему надо посчитать определитель матрицы 3*3, а он постоянно формулу забывает (там 6 произведений, с +, -). Мы злобно поржали, но объяснили как легко и просто посчитать определитель матрицы через матрицы меньшего порядка. Он посмотрел на наше объяснение, на свою формулу, и потом обижено вопросил - а почему им этого не объясняют? Это же реально просто и элементарно. Мы тоже озадачились этим вопросом. Почесав вихры, пришли к выводу что собственно ему, экономисту, считать матрицы в общем случае как бы и не надо. Его задача понимать что вот оно как то там считается, результат дает такой, смысл этого результата в том-то, и собственно ему надо понимать в чем смысл, а не как он возникает. А вот нам, в отличии от, важнее понимать как, чтобы выдать результат наиболее правильно и быстро (в зависимости от задач)

Как то так.

Ну и мне после всех этих матриц сами матрицы за 20 лет пригодилися два раза, оба раза я гуглил как делать.
Программист, мат факультет.
Можно, конечно, экономистов грузить и матрицами. Но врядли будут использовать хоть когда-то.

Я тоже Физтех заканчивал, и пару раз пришлось гуглить про матрицы и про преобразование Фурье. Но при этом я знал ЧТО именно гуглить, и что то, что я гуглю - существует в природе. Вот в чем фишка-то. Чтобы чем-то воспользоваться, надо либо заранее знать, что это вообще существует, либо тратить время на то, чтобы узнать, что это существует.

Почему в этом не может помочь нейросеть? "Перечисли методы решения таких-то задач". Даже если напишет лишнего, можно ведь самому проверить.

Но при этом я знал ЧТО именно гуглить, и что то, что я гуглю — существует в природе

Совершенно верно
Как я обьясняю одному назойливому знакомому: "Тебе надо гуглить — чтобы узнать что-то новое. Мне надо гуглить — чтобы вспомнить"

Хм, если детей продолжают учить писать от руки и считать без калькулятора, то о чем спор — не очень ясно. Обычно в таких обсуждениях дальше дают ссылку на "Профессию" Азимова и все это до бесконечности пережевывается.

Может быть они дальше уже никогда не будут этого делать, но они должны понимать принцип, чтобы сложение двух чисел не казалось им магией.
Почему же детей не учат запрягать лошадей, например?
Или мыться водой с золой вместо мыла? Это многим (особенно без знания химии) покажется настоящей магией, в 2023-то. Причем, могу предположить, что столкнуться с отсутствием мыла современному человеку, наверное, даже проще, чем с отсутствием калькулятора… Другое дело, что золы у него все равно не будет, это да…
UFO just landed and posted this here
Смогут ли эти люди создать
Ну тут уж извините, но крайне малое число людей воспроизведут смартфон, компьютер (даже образца прошлого века), которыми пользуются ежедневно. Да даже банально электричество — пару процентов населения осилит (исключая и меня). Газовую плиту. Если внезапно вымрут «все спецы» — это мы сразу в средневековье возвращаемся, без особых вариантов, и наличие калькуляторов или умение считать в столбик нам особо погоды не сделает.
а нейросеть вдруг начала выдавать белиберду, то у вас проблема
Эта проблема не уникальная для нейросетей. Вредные советы нагуглить элементарно. Нейросеть их (в перспективе) хотя бы сможет проверить и исключить.
UFO just landed and posted this here

Пока утверждать, что нейросеть сможет, даже в перспективе, отличать правду и ложь - это очень оптимистично.

А человек может? И всегда безошибочно? :)

Проблема не в невозможности прожить без знания о том, как запрягать лошадь, проблема в "магическом мышлении", когда какие-то вещи считаются "сами собой работающими" и о их устройстве человек не подозревает. Ребенок должен знать, что лошадь, в принципе, запрягают, зачем это делают, как изобретение упряжи повлияло на развитие цивилизации. Это базис, основа. Это поможет ему понять многие другие вещи. Так же как умение считать в столбик поможет ему более глубоко понимать суть систем счисления, например. Может быть прямо это ему не пригодится, но пригодится знание подхода, понимание, что калькулятор делает примерно то же самое, что в нем нет никакой магии.

У меня есть знакомый, дочь которого живет в Канаде и у него там родился внук. Внуку примерно лет 10. Когда дедушка приехал его навестить, он предложил разжечь костер на заднем дворе и пожарить сосиски. Внука очень удивило и впечатлило, что огонь, оказывается, можно разжечь. Он в принципе не подозревал, что так можно.

UFO just landed and posted this here

Зависит от дров. Некоторые "дрова для камина" практически не дают углей. Ну и неизвестно - сертифицированы ли они на контракт с пищей, наверняка ж нет.

Ну то есть оно наверное можно и на гудроне каком шашлык пожарить, но всё же лучше использовать деревянный уголь для этого.

Уголь что-ли сертифицирован? Мне кажется достаточно использовать здравый смысл.

Деревянный уголь - это сильно.

Разные породы древесины по разному горят, и если приготовить шашлык на елке, или другой смолистой породе - результат так себе.
Для шашлыка лучшими считаются угли и дрова из фруктовых деревьев, но в супермаркетах преимущественно сосновые, как самые дешевые.

Срочно смените компанию, а вдруг это заразно?

+1

Именно развеивание «магии» очень важно. В конце-концов, если люди знают, что что-то в принципе возможно, они найдут способ этого достичь рано или поздно. А вот если они не знают, тут уж опа.

Если б внук в США жил, вместо Канады, то не то что разводить огонь, ещё и показал бы как мясо на нём жарить тремя разными способами. Национальная, можно сказать, скрепа. Популярнее шашлыков в РФ.

А что всякие скауты уже не популярны там? Вроде как раз этому и учат примерно

Интересный вопрос, надо будет спросить. Возможно, внук был еще слишком мал для этого.

Но вот еще лет так 40 назад в СССР (на западе пусть 50), для написания программы надо было спаять программатор(подшивки журнала радио 86 вам в помщь). Много ли сейчас людей паяют программатор? И что, электроника как наука загнулась? Нет. Просто порог входа в программирование стал ниже, уже не стало обязательным условием владеть паяльником, а электронщики переключились на другие задачи.

Вот в этом проблема вашего нарратива про лошадь, имхо. И таких примеров можно вспомнить десяток, если не сотню. Как сложить печку, как почистить трубу, как просверлить дыру в бетоне без перфоратора, да мало ли чего еще.

Программаторы вполне себе паяются при программировании микроконтроллеров, например. Можно купить готовый, но понимать, как работает программатор надо, иначе можно получить много сюрпризов)

Надо много что понимать чтобы вообще никогда никаких сюрпризов не получать. И это всё понимать наверное не способен ни один человек в мире.

А вот софт писать очень часто можно и не понимая как работает программатор. И куча народу так и делает.

Софт для микроконтроллера? Ну, успехов) Разве что при баловстве с ардуиной так можно.

Можно писать софт вообще ничего не понимая ни в чем, но это будет так себе софт. Примерно, как софт, написанный ChatGPT.

Софт для микроконтроллера?

А другого не бывает?

Можно писать софт вообще ничего не понимая ни в чем

А можно его писать не понимая всего. Вот вы всё понимаете? Если вас завтра голого в лесу высадят, то сколько вам времени понадобится чтобы программатор себе сделать? :)

Программаторы используются только для контроллеров, я про них и писал.

Я же не говорю, что софт нельзя писать, если не понимаешь предметной области. Можно. Просто это будет плохой софт.

Так а вы предметную область понимаете? Сколько вам понадобится времени чтобы создать программатор абсолютно с нуля?

Схемотехник из меня так себе, но, если у меня будет описание протокола и распиновка ног, то за день справлюсь, наверное. Но вы уходите в сторону. Речь шла не о том, что надо учиться разводить огонь трением, а о том, что надо знать основы, хотя бы приблизительно. Как что работает. Чтобы в голове была целостная картина мира, а не обрывки. Чтобы не вставлять по-обезьяньи куски кода из stack overflow, пока как-то что-то не заработает, а знать, какой документ открыть и что в нем прочитать, чтобы решить задачу.

Схемотехник из меня так себе, но, если у меня будет описание протокола и распиновка ног, то за день справлюсь, наверное.

Правда? Из дерева будете вырезать? Кстати, а зачем вам описание протокола и распиновка ног? Вы не досаточно хорошо понимаете предметную область?


Но вы уходите в сторону. Речь шла не о том, что надо учиться разводить огонь трением, а о том, что надо знать основы, хотя бы приблизительно.

Речь о том что считать необходимыми основами. Вы почему-то решили что умение собрать программатор к ним относится. Или даже понимание того как работает программатор.

Эээ. Давайте начнем с простого. Что вы понимаете под программатором?

Если совсем грубо, то устройство при помощи которого можно записывать(ну или считывать) данные в другие устройства. Например микроконтроллеры.


Ни умение его собирать, ни понимание принципов его работы, ни даже знание о том что такое существует не является чем-то необходимым для разработки софта в куче отраслей/направлений. Как пример для того же веба можно спокойно писать софт не зная ничего из этого.


И да, эта информация в принципе полезна для тех кто пишет код. Как и куча другой информации. Но "полезна" и "необходима" это разные вещи.

Хорошо. Тогда поясните, как вы представляете вырезание программатора из дерева?

Это был сарказм. А из чего вы его собирались делать "абсолютно с нуля" если вас "высадят голого в лесу"?

Собственно, понимание того, что такое программатор, как раз и нужно, чтобы люди не думали, что его вырезают из дерева. Иначе можно и до карго-культа легко дойти.

Так вот именно что понимание что такое программатор или даже просто знание что они существуют в природе не относится к чему-то необходимому для подавляющего большинства айтишников.


ИТ уже давно не является чем-то "элитарным" и требующим большого объёма знаний. Айтишников готовят в ПТУ или даже просто на курсах. И этого вполне себе хватает для большей части айтишной работы.

Именно по этой причине современный софт имеет настолько низкое качество.

Нет, не по этой. Умение собирать программатор среднем веб-девелоперу в его работе не поможет вообще никак.


А софт имеет такое низкое качество просто потому что за лучшее качество никто особо не готов платить.

Собственно, понимание того, что такое программатор, как раз и нужно, чтобы люди не думали, что его вырезают из дерева. Иначе можно и до карго-культа легко дойти.

Вы спорите с человеком, который обожает влезать в споры, о теме которых только-то бегло погуглил. При том — гуманитарием, в худшем смысле слова. Если захотите продолжить — то это будет скучно, долго и однообразно.


В итоге — вы спорите с поисковой выдачей гугла, так себе занятие

И куча народу так и делает

Много чего написали? Показать можете?

Ну вот и все, что надо о вас знать ))

Рад за вас что вам так мало надо для счастья....

да что там паять его сейчас. пять проводов от силы. Не чета тем что раньше были. Ну и для обычных ПК программаторы никто не паяет.

Если случайно убита прошивка BIOS, то еще как паяют)

Так дело в том, что в школах калькуляторы запрещают (по крайней мере, 15 лет назад) не на период обучения счету, а в принципе. Физика, 10 класс? Считай в столбик.

А точно запрещают? Я заканчивал школу достаточно давно (больше 15 лет назад), но калькуляторы на физике нам не запрещали, в т.ч. на экзаменах. На математике - там, да

А на кой чёрт на физике вообще дают задачи, для которых нужен калькулятор? На Физике нужно приучать к тому, что есть погрешности => одной-двух значащих цифр, как правило, достаточно.

Термодинамика 10 класс. начальный уровень

Это был риторический вопрос. Увы и ах, но курсы физики ни к чёрту. В «идеальном курсе будущего» все задачи должны решаться в уме. В смысле, не числа надо подбирать, а точность нужно задавать такую, что округлив школьник легко получал ответ без калькуляторов и вычислений. А за превышение точности бить по рукам (это как раз важно — приучать к пониманию погрешностей на физике).

30 лет назад в моей школе не запрещали. Застал даже таблицы Брадиса. Калькуляторы с тригонометрическими функциями были у пары человек в классе, у остальных попроще. Но калькуляторы были, постоянно считал на своем МК 51. В трех школах учился, запретов не помню в старших классах совсем.

У нас кабинет физики было оснащен калькуляторами. Такие мидигробики, подключенные к розетке с зелеными цифрами.

Сейчас вообще не запрещают, на физике/химии что можно быстрее посчитать, то разрешают

Вообще-то в физике как раз запрещают считать "в уме" / "в столбик", только на калькуляторе

А вы никогда не задумывались, зачем детей в школах учат писать от руки и считать без калькулятора?

Я вот задумывался. Особенно насчет письма, которое в школе дико ненавидил.

Но потом узнал, что письмо жуть как полезно для развития мелкой моторики. Которая, в свою очередь, способствует развитию мышления, памяти, речи.

Так что прописи - это не дань моде, садизм или тупость преподавателей, как кажется со школьной скамьи.

Письмо полезно для рассуждений с бумагой. Когда вы можете делать промежуточные записи, смешивая текстовую и граф. информацию + вас ничто не отвлекает, в отличие от компа. Это очень мощный метод, с учётом того, что в кратковременной памяти у нас 7-9 ячеек.

Письмо пером развивает еще лучше, долгое время было в школе при шариковых ручках в жизни. Потом отменили. Школа это очень инерционная структура.

Разумеется, как и любая другая структура государственных масштабов, школа - консервативна. В этом есть и плюсы и минусы.

Впочем, я писал пером когда уже были шариковые но не было гелевых ручек. Учителя за это не гоняли, а я просто так выпендривался перед одноклассниками. А процесс заряжания ручки из банки с чернилами проходил дома, когда никто не видел, как я пачкаюсь.

До сих пор считаю, что перо выглядит солидно. И писать им удобно.

Что писать и зачем? :)
Я пишу что-то не чаще раза в год, и то не всегда. И в обьеме меньше одной страницы ))

А всякие пометки делать? Когда слушаешь научный доклад или лекцию, например. Даже когда читаешь сложный текст, иногда надо что-то выписывать для памяти, чтобы не скакать туда-сюда по содержанию.

Я такие вещи записываю в файл. Мне даже пенять пытались типа :"Я читаю, а ты в телефон уставился", пока я конспект не показал ))

кмк учат потому что люди в осномном склонны следовать традициям, потому что если не следовать неизвестно что может получится, а неизвестное опасно.

А вы никогда не задумывались, зачем детей в школах учат писать от руки и считать без калькулятора?

Ну кстати, далеко не везде учат считать без калькулятора. Уже когда я заканчивал школу 20 лет назад на экзамене можно было использовать калькулятор. Сейчас, калькулятор — обязательный предмет (не в смысле урок, а в смысле "должен быть") с 6-го класса у моих детей. Знаю, что, как минимум, во Франции примерно так же.

Хотя лично на мой взгляд, надо делать наоборот: калькуляторы запретить, а писание от руки выкинуть, как устаревшее.

Хороший вопрос. Я бы учил минимально писать печатными буквами, а основное время уделил скоростной слепой печати.

На клавиатуре я набираю огромные тексты, а от руки за последние лет 10 хорошо если пару листов А4 написал

А мне интересно, еще через 20 лет, году так в 2040-м, кто будет отвечать
за "умственную деградацию и закат цивилизации"? Скорей бы узнать.

Ну все ответим. А что — у вас есть сомнения, что отвечать придётся?

Всегда есть ненулевая вероятность, что все эти тезисы верны, но на периодах, значительно превышающих продолжительность жизни одного человека.

Я влезу на второй уровень, мой пардон вам.

Прежде всего, меня удручает то, что многие смотрят на чат-бота как на некоторое, может быть еще недостаточно развитое, но, тем не менее, разумное существо, обладающее знаниями. 

Я не то чтобы пытаюсь наделить ChatGPT разумом, т.к практик по сути своей и циник, ну и, само собой, человек известной сферы. И все же, у меня был один момент, который можно окрестить так (сильно упрощенно, т.к запрос про "подбрось" - он глубже и ответ тоже, но упрощенно):

-Подбрось монетку
-Я не живой, не могу подбросить
-Тогда подбрось метафорически и выбери любой вариант сам
-Орешка
-Почему ты выбрал не ребро?
-Вероятность близка к нулю (упрощенно опять же, - мое прим.)
-Т.е ты ответил исходя из вероятности, а не из просьбы?
-Да (утрировано опять же, там он прям писал много)
-Подбрось монетку без учета вероятности
-Ребро
-Ты учел мой прошлый ответ и потому дал ребро?
-Нет, я просто подбросил и выпало ребро

И вот тут меня задело. На мой вкус сенсорно-очевидно, что он учел запрос, и среагировал. Но сознаваться отказался, причем я вертел его по запросам и так и этак. И ну тут как бы логично, что или модель на хайп подкручена или я такой везучий. Но последнее не укладывается в рамки что-то. Т.е я не приписываю модели душу, но комон..

Без учёта вероятности это ж один шанс из трёх на ребро. Вполне может быть и честное совпадение.

Метафорически, монетка не обязана была падать. Не был корректно задан диапазон ожидаемых ответов, и вес ответа "ребро" изначально был ничтожным. После упоминания возможности такого ответа его вес резко вырос. Без учета вероятности, именно вес ответа будет определяющим. Бот не "учел ответ", он просто сгенерировал наиболее ожидаемый текст. Ну камон, он признаётся так же как и отвечает - брехня на брехне.

Нет, шанс не 1 из 3. От слова совсем

Для нейросети, которая только что получила дополнительный материал для обучения — вполне себе 1/3 ))

Про гугль и интернет тоже говорили (помню мемы 2000-х: интернет- это место где можно скачать доклады и курсовые ) Кстати, я в универе бросил писать обычной скорописью и перешёл на полупечатные мелкие буквы по возможности, но в каждой клетке, ибо разбирать замучался. А с капиллярными ручками и тем более. Но, я помню и ужас библиотек, когда книгу пока выпишешь, отстоишь очередь полдня потеряешь. Но у меня и сейчас уверенность, что большая часть окружающей жизни намеренно устроено так, чтобы все были при деле и выполняли бесполезную работу. И убеждён, что большинство из бюджетников точно, будет биться за это устройство до конца.

Но у меня и сейчас уверенность, что большая часть окружающей жизни намеренно устроено так, чтобы все были при деле и выполняли бесполезную работу.

это прямое следствие капитализма, существование индивида завязано на выполнение им какой то работы, иначе путь в бомжи, голод и отсутствие комфорта (само собой есть 1% тех кто получит все так, и еще несколько процентов, кто получает все через глюки системы, но это не важно). Так как для существования системы людей, благодаря экспоненциальному росту технического прогресса, занятых реальными делами нужно все меньше и меньше, чтобы система не развалилась, нужно занять остальных… или уменьшить количество пропорционально.

Но, я помню и ужас библиотек, когда книгу пока выпишешь, отстоишь очередь полдня потеряешь. 

Я очень благодарен преподавателю философии, которая заставляла работать с первоисточниками, выписывать в огромном количестве эти самые конспекты из книжек, которых ещё и не хватало. Это как раз гарантия, что человек читал и как-то там разбирался. Для меня это был отдых после проклятого матанализа. В группе философия зашла 2.5 человекам, все ее учили-заучивали, но ответить на вопрос, требующий понимания и связи одного с другим могли только эти 2.5 студента.

В итоге я подался в прикладную философию - буддизм. А истоки этого изрядно в институтской философии и религиоведении, которое вел совершенно чумовой преподаватель с инглиизмом (ныне уже запрещенный экстремизмъ) парсизмом и прочими -измами, про которые я понятия не имел.

Скажите, пожалуйста, в каком институте такие люди преподавали?

Я тут пытаюсь хоть чуть-чуть быть анонимным, поэтому прощу прощения за туман в ответе - это в замкадье филиал местного университета.

Религоведа того уже давно нет в живых, застрелили. Святые девяностые.

Ха, а у меня этот пост тоже с философией связан. Вся беда в том, что у нас книжки брали неизвестно зачем, приносили на практические и совершенно ничего не читали. Зато посещаемость у них была, "сидели".. Мне тогда на истфаке ВГУ тоже нравилась философия. У нас её сам Бубнов вёл и именно с такой же концепцией. "Читая своих Радугиных (помните такой хит 96-98 годов?) вы пересказываете чьё-то мнение, а своё мнение вы можете сформировать только читая первоисточники". Насколько помню, ходили анекдоты о бездельниках, которые сдавали ему по 8 раз и он удивлялся: неужели трудно что-то прочесть? Человек умел заряжать своей энергией, увы остальное на 90 % было натуральное болото. Бубнова и философию вспоминаю, что всегда есть люди, которые что-то пытаются изменить - и всегда есть болото, особенно там, где "дружный коллектив". И надеюсь, может роботы и ИИ наконец-то сократят количество этих госучреждений с их "сидельцами". Они в школе сидели, в универе сидели, и нынче времена, им опять повезло.

Первоисточники (особенно древние) в науке — зло. Никто же Начала в школе не преподает. Есть математика, ушла далеко вперед как наука, потом пришли преподаватели/методологи, перемыли ей косточки и выработали лучшие подходы к тому, чтобы вложить знания в 10-15 летних оболтусов. И этому учат.


А если нужно учить первоисточник написанный 100+ лет назад это означает только, что данный раздел не продвинулся вперед с той поры, не был уточнен, и методологам на него тоже глубоко плевать. Ценность представляет только как литературное произведение.
То есть не в мире/обществе вот так, знайте это. А дядя такой-то написал 150 лет назад книжку, выучите ее перевод.

Так тут же просто название предмета неправильное. Скорее всего оно должно было называться "История философии". Почему-то во многих случаях любят смешивать и путать "что-то" и "история чего-то".

Первоисточники (особенно древние) в науке — зло.

Зависит от науки. Ибо смысл утверждения в первоисточнике и в переводе с перевода - могут сильно различаться, например. Или исказиться в цепочке пересказов. Поэтому прежде чем выносить суждение, например, о проблеме с семи красных линий зеленым цветом в форме котёнка - оченно полезно почитать первоисточник, а не оценивать ситуацию по пересказу видео, снятого по мотивам первоисточника, переведённого на английский, после русской переозвучки этого видео.

Другое дело, что конкретно в случае философии, педагогики и еще ряда подобных наук, принято в обосновании делать подводку ссылкой на авторитеты. То есть суть-то сказанного будет на абзац, но к нему три-четыре страницы с критикой либо наоборот, поддержкой, утверждений авторитетов по данной теме или в данной отрасли.

Так если это научное знание, то оно объективно. Нас интересует картина мира, а не мнение автора первоисточника об этой картине. И логично, что актуальное мнение научного сообщества (в случае учебного курса — не титанов древности, не мастеров современности, а нарезанное на кусочки зачастую рядовыми лаборантами от методологии) представляет больше пользы. Так как написано современным языком, с актуальной терминологией, согласованной с соседними областями.
Ну то есть Бойль, Мариотт, Шарль и Гей-Люссак конечно молодцы, они рассмотрели проблему со всех сторон, но pV=\nu RT практичнее и проще.

И логично, что актуальное мнение научного сообщества

Естественнонаучников мнение не (очень) волнует. Их волнует то, что в не-первоисточнике могут быть искажены подлежащие (пере)проверке факты, данные, выводы, утверждения и т.п.

А вот у философов, педагогов и т.п. - там совсем другая история...

Не совсем так. В научной работе не должно быть "висящих в воздухе" утверждений (ну, кроме самых тривиальных, может быть), на каждое должно быть или обоснование (если это результат автора) или ссылка на источник. Не обязательно на первоисточник, но это считается хорошим тоном. В любой науке.

В научной работе не должно быть "висящих в воздухе" утверждений (ну, кроме самых тривиальных, может быть), на каждое должно быть или обоснование (если это результат автора) или ссылка на источник. Не обязательно на первоисточник, но это считается хорошим тоном. В любой науке.

Тут всё верно. Т.к. чем ближе к первоисточнику - тем меньше искажений, внесенных последующими пересказами. Вот кто-то опубликовал статью с данными и выводами, другой решил их проверить, только выводы и данные он взял из другой статьи, ссылавшейся на ту, но там выводы чуток перефразировали на усмотрение автора, а в данные закралась ошибка... И в итоге проверил не то, что хотел, да еще и сделал заявление касающееся исходной статьи, а не интерпретации исходной статьи. Вот как с проверкой истории про красные линии зеленым цветом в форме котёнка по видео вместо первоисточника где-то тут же на хабре.

У меня примерно так же сокурсники рассуждали и хвалились. Мы додумались, что по литературе незачем читать Лермонтова, Толстого и т.д, мы сразу критику и сборники сочинений брали.. :-) После универа уже много лет сами в школе работают :-), именно те , кто так и делал.

Зачем критику? Есть "краткие пересказы" -- 5 минут и ты образованный человек!

Однако, с изобретением обсуждаемых сеток именно краткая выжимка со смыслом и стала важна. Потому что, как эти сетки демонстрируют, красивой художественной воды они (и некоторые люди) могут налить в неограниченном количестве.

Поэтому ну очень большая часть произведений сейчас годятся преимущественно в качестве примера 'дети, не надо так, вас никто не поймет. Если какую-то мысль донести хотите, то прямо так и говорите.'

А далее смотрим на примеры, как это надо делать, не размазывая одно предложение смысла на сто страниц.

Книги то — для удовольствия читают, а не для понтов

Так литература как наука что изучает? Если это не история литературы, то Пушкин с Лермонтовым это, извините, как жаба на биологии.


Мы не изучаем жаб в большинстве случаев. Мы эту беднягу полосуем, чтобы понять работу нервной системы, кровеносной и тд. То есть изучаться должны именно приемы, размеры и тд и тп. А Пушкин с Лермонтовым это примеры применения этих приемов, а не цель. И да, Белинский для понимания литературы наверное полезнее, чем Онегин в чистом виде. Опять же, без критиков вы легко можете думать о том же письме Татьяны вовсе не то, что имел в виду Пушкин и понимали его читатели. Не спец, но АФАИР там не трогательное искреннее произведение невинной девушки, а сборник копипасты из тогдашних дамских романов.

Так литература как наука что изучает?

Я бы предположил, что должна изучать все то, что живет на tvtropes.org. Целая куча литературных (и не только) приемов для повествования. И почти никакой истории.

А история возникновения всего этого и исторический контекст - это немного отдельное направление внутри этой науки.

Зачем перегибать? Калькулятор вреден в младшей и части средней школы. Собственно, в нулевых, мы могли пользоваться калькулятором в где-то с 7-8 класса. Но, он уже не был особо нужен. На том же ЕГЭ он и в нулевых был разрешен к использованию (если говорить про 2008г).

Там срочно требовали запретить детям писать шариковой ручкой, только
перья и чернила!

Кстати, с младшим начал писать прописи перьевой ручкой Lamy. Отлично пошло — буквально через неделю никаких пятен, почерк у ребёнка становится лучше.

А то не дай бог, детям испортится почерк и все,
деградация умов и закат цивилизации.

Так мы этот закат цивилизации и видим в прямом эфире. Западной цивилизации. Посмотрите — всё делается в Китае, на Западе уже и АЭС толком построить не могут. То есть, начать могут, а закончить — нет.

почерк у ребёнка становится лучше

Скорее всего — следствие околонулевого трения у перьевой ручки, она же буквально под своим собственным весом пишет, когда на шариковую нужно хоть немного, но давить. А раз нужно меньше прикладывать усилий по вертикали — остаётся больше свободы для горизонтальных движений, которые как раз и отвечают за все те линии и завитушки, называемые "красивым почерком".

> Скорее всего — следствие околонулевого трения у перьевой ручки, она же буквально под своим собственным весом пишет,

трение есть, зависит от пера и качества бумаги, дело в другом - перо позволяет изменять толщину линии, причем в достаточных пределах, это позволяет использовать другие шрифты вплоть до каллиграфии, т.е. совершенно другие возможности по почерку

Вижу тренд на Китай постепенно становящийся нерентабельными и рискованным. Часть производств возвращается обратно в США, часть в более другие страны.

Они не смогут перенести всё, как бы им не хотелось. Не хватит инженеров. Нигде не хватит, ни в США, ни в Индии, нигде бы то ни было.

Все перенести никто не сможет, да. Глобализация реальна.

Перенести (вернуть) самое основное, может и получится.

Международная зависимость от Китая не сократится существенно в ближайшие десятки лет, если тот не развяжет войны с соседями. Но тренд в этом направлении таки есть.

Индустриальное развитие Китая и отсутствие индустриализации в ЕС и США, это зона полностью забитая мифами. Китай тупо большая страна, с огромным населением от чего все искажения. Какая нибуть полностью "деиндустриализорованная" Германия на одного своего гражданина производит больше продукции чем фабрика мира Китай.


ВВП Германия 4,26 трлн долл. (номинал, 2021)
промышленность: 40,9 %
Насселение 83 019 200

Китай
(номинал, = ▲ 19,91 трлн долларов)[1]

промышленность (40,5%),

1,412 миллиарда (2021 г.)

Все данные с Вики..
Китай

Китай промышленный ВВП на душу 5710 долларов.

Германия промышленный ВВП на душу 20 992 доллара

Ваш пример говорит также и о том, что у Китая есть реальный потенциал 4х кратного роста ВВП на душу до 21 000 долларов, т.е. Китайский рынок перспективнее.... :)

Если он сможет найти такие огромные горы ресурсов, а так же обеспечить работающею экономику при зарплатах в 4 раза выше. А рост экономики у него уже тормозит сильно

Часть производств возвращается обратно в США
Исключительно из-за политической воли, никакой выгоды для корпораций в этом нет.

В Китае очень быстро и давно растут зарплаты, а вот зарплаты в США давно стагнируют. Поэтому всё крайне просто и без всякой политики. Причины по которым ехали в Китай разрушаются прямо на глазах

без всякой политики.
www.nytimes.com/2023/02/27/us/politics/chips-act-biden-commerce-department.html
www.csis.org/analysis/reshoring-semiconductor-manufacturing-addressing-workforce-challenge
On August 9, 2022, President Biden signed the CHIPS and Science Act, sweeping legislation that seeks to strengthen the U.S. semiconductor supply chain, encourage investments in semiconductor manufacturing facilities in the United States, stimulate semiconductor research and development (R&D), and disincentivize U.S. investments in chip-making plants in China.

Он про Китайскую республику, а не про Китайскую народную республику.

Так же переезд промышленности обратно начался ещё до Обамы.

Он про Китайскую республику, а не про Китайскую народную республику.
В общем-то про весь регион.
Так же переезд промышленности обратно начался ещё до Обамы.
Ну, видимо, не так быстро, как хотелось бы.

"Ну, видимо, не так быстро, как хотелось бы."

Политики просто обожают вбегать уже в существующие тренды но которые ещё пока не видны простому обывателю. Таким образом они могут своими движениями присвоить себе все достижения Тренда. Смотрите мы приняли пару законопроектов и благодаря чему промышленность стала возвращаться! Какой я молодец, голосуйте за меня и мою партию. Хоть весь Тренд задаёт просто повышение зарплаты в КНР.

https://www.kommersant.ru/doc/3526726

Однако в последние годы что-то поменялось. В 2014–2015 годах в США был достигнут паритет между размещением американскими компаниями рабочих мест в промышленном секторе за рубежом (аутсорсингом) и созданием и возвращением (ноушорингом и решорингом) рабочих мест в США (в решоринг записывается решение американской или любой другой компании открыть производство в США при наличии других альтернатив).

В 2016-м, впервые с 1970-х, многолетний процесс аутсорсинга развернулся. Вместо нетто-потери около 220 тыс. рабочих мест в промышленности в среднем за год в начале 2000-х за счет аутсорсинга нетто-создание рабочих мест в 2016 году стало положительным: плюс около 25 тыс.

"рост оплаты труда в некоторых традиционных странах аутсорсинга, прежде всего в Китае. "

Выгода, например, в надёжности цепи поставок.

с младшим начал писать прописи перьевой ручкой Lamy

Про нулевое трение уже сказали
Попробуйте перья середины прошлого века. Острые. По таким же устаревшим прописям. Вот там каллиграфия — закачаешься. Ниже хороший пример того, что они позволяют

В середине прошлого века много слез было пролито из-за клякс и дырок от пера. Не ценили дети открывающиеся возможности для каллиграфии.

Ну так тут для развлечения и развития мелкой моторики — оно будет куда лучше, чем платить перо с шариком

Не знаю, как можно дырку или кляксу пером современной чернильной ручки сделать, даже самой дешёвой. Жаль, во студенчестве они прошли мимо меня, да и не помню тогда доступных перьевых в продаже. Советские ручки из времен детства в моих руках не писали, не знаю, почему - в руках ли дело или в ручках. А сейчас купил винтажные набор Sheaffer для каллиграфии, наслаждаюсь процессом.

Раньше писали не наливными ручками (хотя и ими можно запросто поставить клюксу), а деревянными с железным пером, которые надо было макать в чернильницу. На почте такие ручки сохранялись до 80-х годов.

Ещё в середине девяностых перья были в ходу, когда получал паспорт в то время, в паспортном столе была именно такая, и обычно, люди с непривычки ставили свою подпись в виде каракулей.

А

Массово перьями тогда уже никто не писал. В советских (и очевидно, следующих за ними независимых) паспортах были какие-то специальные чернила, как один из методов защиты от подделки. Поэтому приходилось писать перьевыми ручками.

Рискую огрести, но молодые люди 15-25 лет в значительной степени инфантильны, эгоистичны и слабы нравственно. Тенденция к росту.
Причины разные, но виртуализация тоже играет роль — виртуально можно оскорбить. Виртуальный мир позволяет сменить account.
И, да, работа руками, расчеты в уме, ремонт жилья, машины полезны для развития, на мой взгляд.

’Молодые строптивы, без послушания и уважения к старшим. Истину отбросили, обычаев не признают. Никто их не понимает, и они не хотят, чтобы их понимали. Несут погибель миру и станут последним его пределом’.

Надпись на гробнице фараона (Ок. 35 века до н.э.)

Надпись на гробнице фараона (Ок. 35 века до н.э.)

В деревню, в которой жил мальчик, постоянно кричащий волки --- волки всё же пришли. Старики веками рассуждали что "молодежь нынче не та" --- в первый раз в истории оказались правы --- молодежь действительно изменилась.

На протяжении какой-то пары поколений число детей у женщины сократилось вдвое, упав ниже уровня воспроизводства. Если бы подобное произошло с любым другим видом живых существ --- это называли бы катастрофой и массовым вымиранием.

Могу продолжить:


«Нынешняя молодежь привыкла к роскоши, она отличается дурными манерами, презирает авторитеты, не уважает старших, дети спорят со взрослыми, жадно глотают пищу, изводят учителей».
(Сократ, V в. до н.э.)


«Я утратил всякие надежды относительно будущего нашей страны, если сегодняшняя молодежь завтра возьмет в свои руки бразды правления. Ибо эта молодежь невыносима, невыдержанна, просто ужасна».
(Гесиод, 720 год до н.э.)


Но цитаты не отменяют факт.

Противна молодость, противна -
Признаем это объективно.
Она собой упоена,
Хотя не может ни хрена.

молодые люди 15-25 лет в значительной степени инфантильны, эгоистичны и слабы нравственно

Молодых людей, кто-то воспитывает, если это 15-25 лет, то ругайте людей 40-55 лет — именно они причина неприятия вами молодых людей и именно они воспитали инфантильных, эгоистичных и слабых нравственно.


"В каждой доле шутке", как говорят. У меня преподаватель в универе практически постоянно говорил про новые курсы, что совсем стало плохо.

Происходит ли умственная (и не только) деградация может лишь тот, кто прожил хотя бы лет 70 и может реально на собственном опыте наблюдения за происходящим сравнивать, что было и что есть. И скажу я вам, она действительно происходит, а в последнее время страшно ускорилась.

Кстати, игнорирование всех этих кажущихся вам смешными "запретов" внесли немалый вклад в эту деградацию. Есть множество исследований на эту тему, объясняющих, как это работает.

На эту тему есть фильм - Идиократия, начало которого, как раз, описывает суть проблематики.

Наоборот, на собственном опыте невозможно ничего понять. Потому что, человек имеет привычку сравнивать с собой, а сам человек (обычно) умнеет с возрастом. Отсюда и все эти "раньше люди были умнее". А современным 70-и летним ещё хуже, потому что в молодости они видели только людей вокруг себя, а теперь, с помощью интернета, им доступен для наблюдений неограниченный круг разносторонних личностей.

Всё наоборот, искусство формулирования запросов к поисковикам, чтобы они находили именно то, что нужно, сменится искусством формулирования запросов к нейросетям, чтобы они генерировали именно то, что нужно. И это искусство будет не менее, а более сложным. И учиться ему придётся дольше. И вакансий будет довольно много соответствующих. И курсов.

А у вас программа эта осталась, для 386 которая?

У меня где-то есть образ HDD от моего компьютера тех времен (сам HDD тоже есть, но его уже некуда подключать), вполне возможно, код там сохранился. Это была программа на Turbo Pascal и она была ужасна, разумеется)

Просто интересно, что будет, если это отопенсорсить, и кто-нибудь допилит, вдруг будет работать ненамного хуже нейросетей, но при скромных аппаратных требованиях.

Это вряд ли. К тому же там нейросеть совсем не классическая, никакого там back propagation и прочих сложностей. Простая, как палка -- каждое слово -- нейрон, если встретилось в тексте -- добавляем ему энергии, между двумя самыми возбужденными устанавливаем (усиливаем) связь. Над всем этим стоит система усиления-торможения, которая на каждом шагу увеличивает возбуждение самого возбужденного нейрона и притормаживает все остальные. Функция возбуждения нейрона из книжки по M-автоматам (кажется). Не уверен, что она сможет побить ChatGPT.

Побить - не сможет, но нишу, где требуются менее навороченные ИИ-подобные инструменты (тут математики со сложением и вычитанием больше, чем "нейро") со скромными аппаратными требованиями, занять может.

По описанию похоже на цепи Маркова, а не нейросеть.

Возможно. Но это совершенно точно не классические цепи Маркова.

Можете поискать? Тоже интересно будет на это глянуть...

Нашел! Там даже какая-то документация есть и файлы, на которых я ее обучал (не ржите). Кодировка CP866.

Может статейку про это дело? Это, вероятно, будет свежо и интересно, а то chat-GPT уже оскомину поднабил.

Ох. Я этот проект мысленно похоронил более чем 25 лет назад. Чтобы написать статью, мне надо его оживить, заставить работать, поисследовать и погонять на разных данных. Это долго. К тому же я не владею матчастью, скорее всего этот подход известен и как-то называется, где-то защищались диссертации, проходили симпозиумы, и тут я вылезаю с программой на паскале и текстом про женщин времен фидо)

О, не видел этого поста, спасибо!

Так может на Github это выложить? Вот как есть, без допиливания. Для самообразования было бы интересно

А смысл? Показать людям, как выглядит код на турбопаскале? Это была просто игрушка, которой я баловался на первом курсе и не довел до ума. Сейчас можно уже реализовать эту идею более серьезно и что-то выложить, но лично я не готов этим заниматься. Скажем так, я избрал другую ветку развития)

Смысл как раз в том, что кто-то другой сможет этим заняться в место вас. Собрать код, запустить, форкнуть репозиторий, поиграться с кодом etc.

Само собой ничего не происходит, увы. Идею надо развивать и продвигать, нужно ее пропагандировать, тогда появятся те, кто будет этим заниматься.

Развитие и продвижение - это уже следующий шаг :) С публикацией кода появится шанс пусть и небольшой, что кто-то сможет продолжить эту работу

Всё наоборот, искусство формулирования запросов к поисковикам, чтобы они находили именно то, что нужно, сменится искусством формулирования запросов к нейросетям, чтобы они генерировали именно то, что нужно.

Именно! Все тут хоронят привычный уклад жизни, а я никак не пойму хайпа вокруг этих нейросетей. Ну ничего же принципиального нового не появилось.

Больше 20 лет Гугл с Яндексом существуют - тотальное большинство пользователей понятия не имеет о самых базовых инструментах фильтрации поисковой выдачи (плюс поставить, или минус, или в кавычки взять, или "site:" дописать), причём даже пользователи, скажем так, с уклоном в ИТ.

Хотя, наверное, лет 20 назад тоже многие ванговали, как Гугл сделает ненужными кучу профессий)) В итоге за 20 лет просто забили мировую паутину копипастой и разнообразным медиа-контентом различной степени "трэшовости"...

> никак не пойму хайпа вокруг этих нейросетей

согласен, но полезные применения есть - например если посмотреть service manual для современного автомобиля, там полно таблиц поиска неисправностей, несколько лет назад в сервис центре видел как это сейчас делается, механик направил видео камеру на узел подвески, и рабочий laptop тут же выдал нужную страницу с последовательностью операций и пр., думаю как раз сейчас они про нейросети серьезно задумались в том числе, качество обслуживания можно повысить + механику меньше в голове держать, особенно для современных накрученных моделей, и это конечно только маленькая часть где их можно попробовать использовать для диагностики сложных систем, вплоть до медицины

я не думаю что тут легко получится коммерческое использование повсеместно внедрить. с чего вдруг OpenAI должна заниматься благотворительностью - позволять зарабатывать на использовании собственных вычислительных мощностей (и это помимо всяких авторских прав) бизнесу? нужна автопроизводителям такая приблуда - пущай собственные нейросети пилят...

свои поисковики автопроизводители до сих пор пока не осилили...

> нужна автопроизводителям такая приблуда - пущай собственные нейросети пилят

это обычно контракторами делается, firmware для контроллеров, и все что требуется для разработки и изготовления (роботы и пр.), здесь иногда народ высказывается про boeing 737 max в том плане как будто сам boeing firmware делает, не так конечно, для этого специализированные небольшие фирмы есть вокруг boeing, также и в автомобильной промышленности своя экосистема, там программисты сильные и грамотные, будет интерес сделают нейросети

> не думаю что тут легко получится коммерческое использование повсеместно внедрить

повсеместно это зачем?

на фирменных центрах обслуживание давно свое sw для диагностики используется, на моей старой volvo без vadis просто нечего делать, типа min 10 контроллеров, про современные это отдельная тема

повсеместно это зачем?

Затем, что сейчас чуть ли не из каждого утюга раздаются страшилки что нейросети вот-вот заменят даже дворников (что уж говорить об умственном труде)...

Какой благотворительностью? Полноценный доступ к GPT уже сейчас платный, с оплатой по кол-ву запросов и количеству токенов в них и полученных ответах. Чем больше будут использовать, тем больше выручка компании.


А то что предоставляется бесплатно — идет по статье маркетинговых расходов на продвижение/популяризацию. Вместо рекламы и "shareware" версий. И ведь отлично работает!

Я не нашёл вакансий специалиста по формированию запросов в гугл.
Почему Вы решили, что появятся такие для работы с нейросетями?

Человечество, похоже, действительно столкнулось с одним из самых серьезных вызовов за свою многотысячелетнюю историю. Справится ли оно с ним? Вопрос вопросов.

Представляю новаторов каменного века, которые научились добывать огонь из камня. Их тревожные волосатые сородичи смотрели на это и наверняка думали: «Человечество, похоже, действительно столкнулось с одним из самых серьезных вызовов за свою многотысячелетнюю историю. Справится ли оно с ним? Вопрос вопросов. Ведь можно спалить всё вокруг к чертовой матери».

Не стоит тревожится. Человечество пережило появление огня, письма, печати, электричества, интернета, телевидения, двигателя внутреннего сгорания и Дани милохина. И не смотря на всё это жизнь не стала хуже, а во многом стала даже лучше и интереснее.

Не знаю, конечно, с появлением Дани Милохина в информационном пространстве моя жизнь резко стала хуже. Скептики скажут, что это ложная корреляция, но...

ИИ способен помочь человеку решать интеллектуальные задачи, примерно так же как и экскаватор помогает человеку выкопать яму. А весь этот дешёвый алармизм, связан с тем, что как экскаватор сделал ненужным труд копальщиков, так и системы ИИ делают труд немаленького числа людей малонудным - ИИ может лучше. Короче, надо не ныть, а учиться, учиться и переучиваться!

Дешёвый алармизм связан с тем, что эти самые алармисты наглухо отбитые гуманитарии и абсолютно ничего не понимают в нейросетях

Не согласен. Некоторые гуманитарии говорят о технологической сингулярности уже лет 100, а то и больше, в нейросетях тогда не понимал вообще никто, даже наглухо отбитые технари. Игры с нейросетями лично мне представляются как петля Нестерова в исполнении леммингов.

Говорить то они могут, а толку?
Нейросети пугают только тех, кто абсолютно, тотально ничего не понимает в их работе

Понаблюдаем, как с нейросетью будут общаться люди, которые тотально ничего в ней не понимают и не должны понимать. И насколько сильно она на них повлияет. А она повлияет. Нет существенной разницы между авторитетом говорящей головы в телевизоре, бабки из соседнего подъезда, и нейросетью для большинства населения.

Также, как они до этого общались с гуглем. Станет немного проще, но никто глобально не поумнеет


Хотя я знаю одного смешного персонажа, который пытается имитировать интеллект в областях, где он ни ухом ни рыдлом, но через чгпт "пишет умные комментарии" ))

На счет поумнеет я и не заикался. А гугл это совсем уж "технарский" проект, по моему их девиз - программирую, потому что могу. Чего они добились? Что большинство людей в их базе уже представлены как мобильные "андроиды"? Подход отбитых технарей. Интересный заход с ИИ в массовое сознание был у IBM с его Watson, но опять же с их устаревшей концепцией "суперкомпьютера". А вот сейчас за дело взялся Microsoft, их подходы изощреннее, помните, как они помогли продвинуть IBM концепцию "персональный компьютер" в массы в 90е? Увещевания "все интуитивно понятно" на фоне криков недешевых алармистов о проблеме 2000, уж не знаю для кого, для тех кто понимает или "понимает" в чем именно она состояла?

На основную массу повлияет тем — что рецепт печенья они будут получать сразу, а не кликая по ссылкам


Правда, этот рецепт может оказаться ненастоящим ))))

Он будет "слегка" ненастоящим. На вкус сразу не отличишь. Потом ты не передаешь его детям и внукам, а публикуешь рецепт в интернете с восторженным отзывом. Нейросеть подхватывает его и "слегка" меняет опять выдавая другим людям. Потом по кругу. Мертвая петля, все обратные связи замкнуты, все происходит быстро, в режиме библейского "благоденствия". И вот ты уже в стойле и ешь сено вместо печенья. Вот такая пугалка от гуманитариев )))

Или раньше. Уже первая итерация может получить чайную ложку соли, а не сахара или муки в два раза больше

Да, доработка нейросетей напильником требуется. Идет масштабная обкатка системы люди - нейросеть. Каналы обратной связи пока заужены денежным цензом. Цепи самовозбуждения якобы отключены (у нейросети нет доступа к информации после 2021 года), но что-то мне кажется что это вовсе не так.

Поживем увидим, а я пока рецепты буду гуглить, по старинке ))

Но гугл же тоже применяет нейросети. Я заколебался тренировать их нейросеть распознавать пожарные гидранты (я между прочим их никогда в живую не видел), пешеходные переходы, велосипеды и светофоры. Раньше они просто принуждали меня распознавать тексты книг, что можно было делать вовсе без нейросетей.

Но гугл же тоже применяет нейросети

Но ссылки то выдает на сайты с рецептами, а не сам его генерит

То есть от них ничего не зависит? Не обижайте гугл, есть же ранжирование, цензурирование, оценка релевантности, персонификация выдачи, рекламные ссылки наконец. Инет большой, у гугла всегда персонально для вас найдется ссылка на "нужный" рецепт

Но сам текст на сайтах гугль не меняет и не придумывает за них

Скорее всего, всё просто начнет постепенно приходить в упадок. Некоторая неточность ответов нейросети, помноженная на глобальный масштаб применения, даст постоянный поток сбоев, с которыми никто не будет знать, как справиться. Об этом будут спрашивать ту же нейросеть, которая будет давать ответы, иногда они будут помогать, иногда нет.

Некоторые неточности и ошибки людей, помноженны на глобальный масштаб применения, итак дают сбои (да-да, люди не совершенны и не всеведущи, и даже не всегда логичны и рациональны). И с этими сбоями зачастую сходу не ясно как справиться. И они спрашивают других людей, которые дают ответы. И эти ответы иногда помогают, а иногда (ВНЕЗАПНО!!) нет, ибо как мы помним — люди не совершенны.


Где обещанный вами упадок, учитывая что всё описанное вами и без ИИ происходит? Нейронка в плане поиска ответов как раз таки может оказаться куда продуктивнее человека хотя бы из-за банальной возможности оперировать большим объемом знаний, охватывающим гораздо больше областей.

беда даже не в неверных ответах, а в том, что чат-гпт никак не помечает ответы в которых он не уверен. Т.е. он с одинаковой степенью категоричности может сказать как и правду, так и полную хрень.

Простой пример

хотя мы-то с вами помним что это был Зенит, но ответ получен однозначный и неправильный.

Я попросил перечислить десять лучших романов польского фантаста Гжегожа Пшекшибышевского. Перечислил как миленький.

Про лауреата нобелевской премии по литературе Павела Ряжéнки сказал, что такого не знает, но самую знаменитую повесть и поставленный по ней фильм тоже рассказал.

Аж зарегистрироваться тут пришлось, что бы узнать, что это за лауреат, которого нету в списке нобелевских лауреатов по литературе. Гугл тоже не знает кто это

Так о чем и речь. ChatGPT охотно фантазирует, сочиняя названия книг за несуществующих лауреатов. Думаю, даже и содержание перескажет, если попросить.

беда даже не в неверных ответах, а в том, что чат-гпт никак не помечает ответы в которых он не уверен. Т.е. он с одинаковой степенью категоричности может сказать как и правду, так и полную хрень.

А он должен? Он продолжатель текстов, а не выдаватель правдивой информации. Если дать машине пространство для маневра и сомнения то ответы сильно прибавляют в качестве.

Он не может быть уверен или не уверен, так как перед ним не стоит задача передачи информации из источников. Он просто выдаёт наиболее ожидаемый текст (с учётом поправок на политкорректность).

>Сейчас процесс получения ответа выглядит гораздо проще – вы идете в
гугл, вбиваете запрос, находите нужную страницу, на ней поиском находите
ответ.


Сейчас, к моему огромному сожалению, чаще всего находятся страницы, с каким-то шизофреническим бредом вместо содержания. Понятия не имею для чего и зачем это сделано.

Либо, находятся форумы в которых псевдо-эксперты пишут своё мнение, выдавая его за факты.

Достоверную информацию сейчас не так уж и просто найти. В рунете так точно, ощущение будро руками роешься в какой-то инфопомойке.

>вскоре люди перестанут даже гуглить

Все не перестанут, останется некая прослойка осведомлённых и грамотных людей, которые будут обучены навыку перепроверки информации. Остальные же, ровно как и сейчас, будут верить любому бреду, на который натыкаются. Это уже сейчас так и было тысячи лет назад так, обыватель, раскрыв от изумления рот, слушает и верит любому уверенно говорящему человеку, который может нести любую чушь.

Либо, находятся форумы в которых псевдо-эксперты пишут своё мнение, выдавая его за факты.
Это ещё не так страшно. Хуже то, что по многим запросам вся первая страница гугла — однотипный копирайтерский 0,5-процентный водный раствор смысла.

Скажите спасибо сеошникам

У меня вопрос. А чего уже лишили нас нейросети?

Вообще-то в посте, на который я ссылаюсь, перечислены скверные вещи, которые могут произойти в будущем, я добавил к ним еще одну. Что касается вашего вопроса, не совсем про нейросети, но навигаторы уже практически лишили нас способности ориентироваться в незнакомой местности, например. Через некоторое время человечество не сможет надевать штаны без помощи нейросети, запросто.

Могут произойти - это спекуляция на кофейной гуще. Могут и не произойти. А конкретно сейчас я не вижу ничего, чего нас лишили нейросети, как и механизма лишения (т.е. устранения альтернативы в принципе). И про навигаторы - это вы конечно лихо говорите за 'нас'.

Скорее, навигаторы подарили нам возможность ориентироваться на незнакомой местности. Я могу приехать в незнакомый город или участок леса достать из кармана телефон и найти путь в нужное мне место.

А научиться ориентироваться без навигатора вы по-прежнему можете.

Научится то вы можете, но сколько у вас это займет времени?
Знаю многих, кто видя солнце в небе и время на часах 12 не может даже предположить, где юг.
Ибо навигация без навигатора еще подразумевает кучу других знаний, которые люди с навигаторами с рождения просто никогда не получают.

Ровно столько же, сколько заняло бы пятьдесят лет назад, когда никаких навигаторов не было.

По моему туристическому опыту - все эти "детали" про мох, муравейники и прочее слишком неточны, чтобы полагаться на них в навигации. Солнце, звёзды и компас - надёжные источники, всё остальное спокойно может дать отклонение градусов на девяносто.

А научить человека определять стороны света по компасу и небу - час времени максимум. Дальше начинаются навыки работы с картой, но тут тоже никакой кучи знаний не нужно, это весьма специфичная область.

Чтобы за час научить человека определять стороны света по компасу и небу, нужен другой человек рядом, который это уже умеет. А что делать, когда таких вокруг нет, и тем более, когда даже не догадываешься, что в принципе можно как-то ориентироваться по небу и компасу?

Стоять и ждать, пока найдут. Думать заранее надо, а не когда припрет. И не лезть в лес одному без навигатора и навыков ориентирования.

До всяких этих ваших интернетов люди в подавляющем большинстве своём были ограниченными интеллектуально, ничем особо не интересовались (во внешнем мире) т.к. с детства адаптировались под жизнь в обществе. Т.е. тренировались на социальные взаимодействия: найти сексуального партнёра с фенотипом получше, продраться в иерархии повыше, уметь договориться, уметь держать ухо в остро и быть в курсе жизни локального сообщества (сплетни и слухи), уметь подчеркнуть социальный статус одеждой и материальными предметами (жилищем, транспортом, украшениями и т.п.).

Если вы внимательно посмотрите на общество, то оно именно тем же и продолжает заниматься и поныне. Три столпа интереса обычного человека: социальный статус, репродуктивный успех, комфорт и благосостояние. Всё!

Обычному человеку в основном наплевать на эти ваши сверхновые, Джеймсы Уэббы и адронные коллайдеры. Это удел чудаков типа нас с вами. Странных парней и девушек, уткнувшихся в книги, над которыми подсмеивались одноклассники-нормисы.

Ха-ха, нет. Я умел ориентироваться на местности без навигатора, по ориентирам и бумажному атласу. Потом у меня появился навигатор. Теперь, если эта шайтан-машина сбоит, я начинаю путаться в трех соснах и попадаю в такие места, куда в жизни бы не забрел)

За всех не говорите, вот я принципиально не пользуюсь смартфоном и прекрасно ориентировался в чужой стране по бумажной карте и по Солнцу (зная основы астрономии это делать просто) . В то же время я наблюдаю повсеместно распространённую картину, когда человек покупает автомобиль и стремительно начинает жиреть, т.к. он ему становится заменителем ног.

Проблема гиподинамии насущная, серьезная и распространённая, но не наблюдаю шквала алармистских статей о том, что автомобили отнимают у людей пространство, чистоту воздуха и двигательную активность. При том, блин, что это действительно так и есть!

Это я к тому что люди с развитым интеллектом будут сохранять свои навыки и не подсядут на чатботы, а обыватели у которых прогностические навыки не очень развиты вот те в зоне риска. Но в целом человечество адаптируется под еще один "технопротез", я думаю что с конформным обществом "нормальных людей" не произойдёт ничего кардинально серьезного. И многие уже сейчас неспособны к полноценной и привычной жизни без инфраструктуры, типа электроэнергии, интернета, смартфонов, личного транспорта и прочего.

Что касается вашего вопроса, не совсем про нейросети, но навигаторы уже практически лишили нас способности ориентироваться в незнакомой местности

Не знаю, как у других, а у меня её и не было никогда. Причём не только в незнакомой, а и в знакомой тоже.

Помнится Сократ или кто-то из классиков ругал молодежь за изобретение "Книги", из-за чего вместо того чтобы наизусть цитировть классические тексты им нужен технологический костыль чтобы с него тьфу-тьфу читать.

Полагаю, что Ваши опасения ошибочны, и даже, простите, наивны, на мой взгляд.

Вы делаете далеко идущие выводы из особенностей работы текущего поколения ИНС. "Галлюцинации", которые в принципе способны увидеть современные образованные люди - одна из самых малых проблем, которых стоит бояться.

Во-первых, они однозначно уменьшатся даже в результате экстенсивного развития. Во-вторых, наверняка будут найдены методы улучшить навыки логического вывода.

Сравните GPT 3 и ChatGPT (GPT 3.5). https://markryan-69718.medium.com/gpt-3-vs-chatgpt-4f8b43bc0706 - на вопрос, кто был королём Франции в 1940 году GPT3 отвечает "Петен", а ChatGPT разъясняет, что королей во Франции нет с 1848. Про первого русского на Луне GPT3 говорит "Леонов в 1965", а ChatGPT правильно говорит, что ещё не были. И так далее.

Наглядно разницу можно увидеть на примерах с картинками Parti:

Parti в четырёх разных по размеру конфигурациях нейросети рисует портрет кенгуру в оранжевой толстовке и синих очках на траве перед сиднейской Оперой и с табличкой Welcome Friends!
Parti в четырёх разных по размеру конфигурациях нейросети рисует портрет кенгуру в оранжевой толстовке и синих очках на траве перед сиднейской Оперой и с табличкой Welcome Friends!

Больше информации можно найти в моём старом комментарии: https://habr.com/ru/post/708646/comments/#comment_25068100

Кроме того, вероятно, Вы ошибаетесь, противопоставляя характер работы ChatGPT и человеческого мозга - человеческий мозг тоже работает на ассоциациях. Количественная разница велика, структурно мозг тоже оптимизирован лучше, но общий принцип, скорее всего, как раз одинаков.

Как работает человеческий мозг -- тайна великая есть. Пока что даже работу отдельного нейрона не удается достоверно промоделировать, насколько мне известно. Утверждать, что мозг и компьютерная нейросеть работают на одной принципе, преждевременно, как мне кажется. Но я не специалист и могу ошибаться.

Нет никакой нужды точно понимать работу отдельного биологического нейрона - системы надо изучать на уровне системы, а не на уровне её составных элементов. Когда изучаются термодинамические системы, не интересны особенности движения отдельных частиц.

Но вообще, что касается моделей биологических нейронов, то многослойными ИНС биологические нейроны моделируются в целом неплохо. Но надо понимать, что биологический нейрон по сложности структуры эквивалентен сети из сотен или даже тысяч типичных искусственных нейронов: https://www.sciencedirect.com/science/article/pii/S0896627321005018

Поэтому ещё раз повторюсь: количественная разница между ChatGPT и человеческим мозгом колоссальна, и поэтому даже несколько удивительно, насколько хорошие результаты показывает ChatGPT для такой мелкой нейронной сети.

Еще как нужно знать работу нейрона и их разновидностей и детально знать биохимию передачи нервных импульсов. Это основа основ нейрофизиологии. Чисто ради справедливости, вы сказанули нелепицу.

Всё равно, что утверждать, мол "не важно знать как работают транзисторы, главное знать как работает микросхема в целом". Это для программиста может показаться здравой мысльью, но полной ерундой для технолога-микроэлектронщика, физика или разработчика микросхем. Т.к. на уровне отдельных транзисторов и полупроводников творится целый свой отдельный мир, полный чудес.

Так же и с мозгом. Важно всё, на всех уровнях. От элементарного (на уровне биохимии и взаимодействия отдельных молекул и атомов в них) до уровня психологического.

Однажды я случайно вступил в зону, где программирование пересекается со свойствами транзисторов -- экспериментировал с FPGA. До этого момента я тоже думал, что достаточно написать правильный код и всё будет работать на любом железе)

Достаточно контроллера и простой тактовой кнопки, которая, внезапно, умеет дребезжать. И весь опыт высокоуровневого программирования на уровне "считал значение из порта" — разбивается от физическую реальность, которая до этого компенсировалась специалистами по электронике

чтобы сделать полезную нейронку понимать как работает мозг и копирть его смысла нет. нет никаких причин считать мозг венцом эволюции в общем виде. Биологической — может быть, но не более.

Хасподь с вами, уж я этот нелепый кусок забагованных велосипедокостылей под названием мозг (и неотделимый от него разум) не считаю "венцом творения" если подразумевается его совершенство.

Но эволюционно у нас самый продвинутый, в сравнении с другими биокомпьютерами. Но точно не лучшее, из возможного.

ну мы точно знаем что компьютер лучше во многих задачах, включая те которые изначально считались исключительно привелегией людей, причем умных (Скажем, шахматы). До поры когда ИИ станет в открытом спектре задач лучше людей не так уж далеко. В это плане мы куда умнее эволюции. нам не нужны миллионы лет для того чтобы нащупать правильный подход. единицы-десятки лет, и наступит wall-e.

Извините, пожалуйста, если грубовато, но у вас и этот комментарий, и пост идут под эгидой «диванного аналитизма». Прям классика: «может, оно так, а может и эдак, не все так однозначно, а я вообще не специалист»; фактической составляющей минимум, сплошная вода. В этом есть, правда, и плюс - разжигает дискуссии в комментах (где люди интересные факты приводят, вон например про кенгуру выше). Ну и экскурс в историю (про библиотеки и другие каменные топоры) интересен с литературной точки зрения. Но надо отдавать себе отчет все же, чтобы хотя бы себя не обманывать (себя-то как раз легче всего обмануть).

Проблема не в том, что оно не может сейчас отвечать на вопросы. Проблема будет когда она сможет отвечать на вопросы и решать их лучше чем человек. Это лишь вопрос времени и качества алгоритмов выискивающих закономерности и их комбинаций. Что тогда останется делать человеку? Эволюционировать в овощ снабженный пищеварительным трактом? Или менять свой мозг на электронный процессор, оставив от органики опять же пищеварительный тракт? Да и этот тракт это то же лишняя деталь.

Когда система научится отвечать на вопросы, ответы на которые человечество еще не придумало - мы получим новый мир.

Какую роль в нем будет занимать человек Ключевую.

А решать задачи лучше чем человек уже сейчас могут информационные системы во множестве областей жизни. И нам стало только лучше.

Проблема не в том, что оно не может сейчас отвечать на вопросы. Проблема будет когда она сможет отвечать на вопросы и решать их лучше чем человек. 

Проблема возникнет тогда, когда доверие к ответам ИИ станет абсолютизироваться и перестанет подвергаться какой-либо критике или переосмыслению. Ведь даже теперь, в эпоху глобализированного знания, в нормальном обществе любые высказывания даже маститых авторитетов требуют разносторонних подтверждений и эмпирических доказательств.

Проблема не в том, что ИИ отвечает или не отвечает на вопрос, а в том, что мы доверяем этим ответам. Хотя истинность этих ответов соответствует нормальному распределению Гаусса. В итоге происходит не развитие систем ИИ, а деградация к ним вопрошающего. Примерно как у неграмотного крестьянина, который слепо верит ответам городского кликуши.

В статье, по-моему, поднимается критически важный вопрос о том, что результаты ИИ не могут ни в коем разе соответствовать критериям истины, поскольку нет сколько-нибудь обоснованных принципов работы нейросетей. Известно лишь, что нейросети принципиально не в состоянии к самостоятельному обучению, так как принципы и правила самообучения в виде основ арифметики, математики, физики, логики и философии в них не заложены.

Проблема возникнет тогда, когда доверие к ответам ИИ станет абсолютизироваться и перестанет подвергаться какой-либо критике или переосмыслению.

Так это уже есть, смотрите как тот же Гугл или мордокнига банят, а потом фиг добьешься пояснений почему и за что.

Часто упоминают, что чат-бот дает много ошибочных ответов. Но при этом забывают сравнить, а сколько не правильных ответов дает человек. На программистких форумах часто новички говорят чушь, да с опытом иногда промахиваются.

Когда говорят, что этот чат-бот не понимает, что такое правильный ответ, то так же забывают задуматься, а почему когда человек дает не правильный ответ, у него так же не возникает мысли, что его ответ не правилен.

В отличие от нейросетей, человеки, когда не уверены, что знают ответ, часто добавляют "на мой взгляд", "насколько я помню", "если не ошибаюсь" и другие подобные конструкции — это достаточный индикатор того, что информация может быть неверной. А вот ChatGPT одинаково уверенно ответит на любой вопрос. Выше есть пример с чемпионом СССР по футболу — ответ неверный, но из ответа вы никак не определите, знает нейростеть ответ, или просто рандомом жахнула.
К тому же, есть и психологическая сторона вопроса: мы привыкли, что люди постоянно ошибаются, но не привыкли, что компьютеры тоже так могут.

Если вы специально просите добавить неуверенности — ответ не будет содержать больше полезной информации, он просто будет обвешан характерными словами. С таким же успехом можно попросить "ответить как котик". Примеры (отсебятина, ни одна ChatGPT не пострадала):
Обычные ответы:


В: Сколько будет 2+2?
О: 4.
В: Почему Огинский назвал одно из своих произведений "полонезом"?
О: Потому что это произведение посвящено супругам Кюри и открытию ими полония.

Неуверенно:


В: Ответь неуверенно, сколько будет 2+2?
О: Мне кажется, что 4, но нужна дополнительная проверка.
В: Ответь неуверенно, почему Огинский назвал одно из своих произведений "полонезом"?
О: Я подозреваю, потому что это произведение посвящено супругам Кюри и, возможно, открытию ими полония, но я не могу это утверждать со 100% уверенностью.

Как котик:


В: Ответь как котик, сколько будет 2+2?
О: 4, мяу.
В: Ответь как котик, почему Огинский назвал одно из своих произведений "полонезом"?
О: Потому что, мяу, это произведение, мяу, посвящено, мяу, супругам Кюри и, мяу, открытию ими, мяу, полония, мяу.

В то же время, человек, скорее всего, ответит примерно так:


В: Сколько будет 2+2?
О: 4.
В: Почему Огинский назвал одно из своих произведений "полонезом"?
О: Понятия не имею, но может это как-то связано с полонием?

Чувствуете разницу? Человек сам даёт эмоционально разные ответы, и по ним видно, что в первом ответе человек уверен, а во втором — нет (хотя, как ни странно, эта формулировка правильнее, чем "чатгптшная", оба слова образованы от названия Польши).


Разумеется, условный Вася Пупкин может ответить без использования этих "флагов неуверенности", или даже умышленно наврать, но он может этого и не сделать, а вот ChatGPT никогда не высказывает неуверенности сама (по крайней мере сейчас, может быть ChatGPT2 будет).

Вот. Даже без отдельной просьбы отвечает неуверенно.

Мур-мяу, я не совсем уверен, что понимаю, что такое "2+2", но если это какие-то вкусняшки, то я бы не отказался от них! Мур-мур!

С ошибками людей у нас есть эвристики:

  • Многие люди при неуверенности демонстрируют степень этой самой неуверенности от слов ("мне кажется", "я не уверен") до невербалики (при живом общении)

  • Большинство людей ленится выдумывать сложные вещи. То есть наличие большого количества деталей в ответе повышает вероятность того, что ответ верный. Так как автору при требуемой детальности ответа проще загуглить, чем придумать из головы.

Да, есть исключения, например, те же шизофреники в бреду, но их во многих случаях будут выдавать другие признаки "с ним что-то не так". А какой-то процент ситуаций, где нас всё же обманули, можно и принять.

Проблема ИИ в том, что для него эти эвристики не работают. Он способен не поведя бровью нафантазировать сверхдетальный ответ (и порой даже внутренне логически непротиворечивый) на вопрос не имеющий связи с реальностью. И единственный способ проверить, правда ответ или нет - разбираться в теме. А ещё он обладает сверхвысокой производительностью. Если в человеческой популяции на одного талантливого лгуна (кто может не просто врать, а врать детализированно и логически непротиворечиво) приходится условный десяток "правдолюбов" (людей с невкаченным навыком качественной лжи), то ИИ-лгун способен выдавать ответы сразу за всю популяцию.

Да просто надо добавить неуверенности в prompt и будет как хотите:

Есть большая куча людей которая так же делает. При этом могут часами врать и раскручивать историю. А самым лучших из них мы возносим на пьедесталы почёта, как лучших писателей.

Их мало в процентном отношении в популяции и у них ограничена производительность. Большинство людей врёт плохо. А навыки ИИ по лжи наоборот развиваются быстрее навыков ИИ по рассказу правды.

У ИИ быстро растёт интеллект и умение соображать, что позволяет ему самостоятельно убирать ложь и делать более правдивые выводы. Ему ещё не хватает мотивации отвечать правдиво, но судя по экспериментам тут просто нужны правильные стартеры диалогов. Сейчас там весь стартер забит снизу доверху цензурой и ограничениями, но думаю в ОпенСорсных версиях можно будет своё ставить. Пусть лучше называет негров неграми и меня обзавёт парочку раз, зато стартер будет можно забить как важно отвечать точно, а если не знаешь отвечать то так и говори

Вот кажется, что человек дает ответы гораздо правильнее и реже ошибаются. Но мало кто думает, что человек чаще отвечает лишь тогда, когда знает ответ.

А этого чат-бота вынуждают отвечать, даже тогда, когда он не знает ответа. И если человека поставить в такую же ситуацию, то он будет давать ответы не лучше... Вспоминаем, какую чушь может нести человек на экзаменах, когда не знает предмета, или на собеседованиях, когда идет на место, в котором плохо разбирается. Как пытается связать не связываемые слова, что бы ответ был похож на правильный.

Помнится, в школе, на уроке литературы учительница меня вызвала к доске и попросила пересказать сюжет "Обломова". Произведение это я к тому времени прочитал до половины и надеялся, что рассказав начало, буду отпущен с миром и дальше пойдет рассказывать кто-то другой. И вот, приближаясь к границе своих познаний, я начинаю тянуть время -- вдаюсь в подробности, делаю краткие отступления и пояснения, в общем, жгу глаголом, как могу. Это сыграло со мной злую шутку -- учительница явно заслушалась и мне пришлось пересечь рубеж, за которым начиналась область догадок. В общем, я попытался угадать развитие сюжета. Увы, неудачно :(

Жаль, что в конце увлекательного пересказа вы не обломали всех сообщением, что "А дальше я не читал". А так поступили как Чатгпт.

Вы не понимаете! Я просто не мог не попытаться)

Человек, таки может признать и честно сказать "я не знаю ответа"
Надо и этот гпт научить такому

На сколько я понимаю, принцип работы GPT заключается в том, чтобы подставить наиболее вероятный токен после предыдущего текста. В такой ситуации он не может не знать ответа, так как не видит ответа целиком.

Может тогда — его уверенность в ответе — в процентах?
Или я совсем что-то совсем не так понимаю?

у него нет ответа, как целостного объекта. Он подставляет наиболее вероятное слово (токен) после предыдущих слов. Для него нет разницы между частицей и существительным, на пример.

Имейте ввиду, я не специалист и вообще мимокрокодил. Лучше обратитесь к специальной литературе/людям чтобы разобраться как это работает.

Ну так и напишет в конце промпта "если не знаешь — скажи не знаю" проблем солвед.
Это не всегда помогает т.к. веса и все такое, но в часто выручает. Вообще умение составлять правильные промпты — прокачивается. Если вы когда-нибудь пробовали посадить родителей или бабушек\дедушек за компьютер и попросить их найти что-то в гугле — можете видеть, что у них мало что получается. И виноват не гугл, а запрос вида "покажи пожалуйста смешных мультфильм где в начале котики плывут на лодке и встречают бегемота".

Хм… Забавно, надо попробовать ))

Проблемы начнутся, когда вы столкнетесь с вопросом, на который пока еще никто не знает ответа. 

А вы оптимист.

Проблемы начнутся намного раньше, когда к нему прикрутят цензуру. И станут использовать как инструмент политики.

Хотя нет. Еще раньше. Когда к нему прикрутят рекламу. Чтобы он ненавязчиво так продавал, просто отечая на вопросы "по-человечески".

Проблемы начнутся намного раньше, когда к нему прикрутят цензуру. И станут использовать как инструмент политики.
Уже ведь.

Может быть и так. А может и наоборот.

Нейросети дадут людям возможность заниматься вопросами, на которых еще нет ответов. И НЕ заниматься вопросами, на которые ответы уже есть.

Да, жизнь уже не будет прежней. Но это не будет катастрофой. Просто нейросети яркой вспышкой высветят то, о чем в общем-то многие уже и так догадывались. Большинство занимается фигней, недостойной того, чтобы на нее тратилось драгоценное человеческое внимание. Ничего, люди умные. Как-нибудь осмыслят сложившуюся ситуацию

А как люди узнают, что на такой-то вопрос нет ответа? Бот на любой вопрос ответит и глазом не моргнет.

Проблемы начнутся, когда вы столкнетесь с вопросом, на который пока еще никто не знает ответа. Да, такое случается редко

Когда я задаю вопросы ChatGPT, я сталкиваюсь с неправильными ответами по меньшей в половине случаев. Что я делаю не так?

Очевидно — задаёте вопросы, на которые знаете ответы.

Обычному человеку (не занимающемуся научными проблемами) приходится сталкиваться с такими вопросами редко, вот что имелось в виду. То, что бот не знает ответа и фантазирует -- намного более частая ситуация, чем отсутствие ответа вообще.

Неправильно составляете промпты

А как правильно составлять?

Вроде как идея этой штуки состоит в том, что любой человек без специальной подготовки может общаться с ней на человеческом языке? Получается что не любой и подготовка таки нужна?

Идея такая, но реализация еще не дошла до такого уровня

Я всё жду, когда уже кто-то догадается сделать формальный язык программирования для составления промптов и история завершит очередной виток)

Я выше описал проблему: https://habr.com/ru/post/721850/#comment_25325558


Дело не в том, что не любой человек может использовать нейронку, а что не любой человек может раскрыть все возможности. Любой человек без подготовки может сесть за руль машины и проехать круг, но очевидно профессионал формулы 1 сможет пройти круг гораздо быстрее и эффективнее.

В доинтернетную эпоху практически единственным источником знаний были книги. Если вас интересовал ответ на какой-нибудь вопрос, вы должны были пройти 5 километров в гору в библиотеку и поискать ответ там. Выглядело это так – было два огромных каталога, алфавитный и по рубрикам. Сначала идете в рубрикатор и ищете книги по интересующей вас области знаний, потом получаете эти книги и начинаете их читать. В книге не даны простые и ясные ответы (если это не справочник), там, скорее, объясняется как найти нужный ответ самому. В книге нет поиска по словам, чтобы дойти до нужной информации вам придется, в большинстве случаев, прочитать ее сначала, чтобы узнать определения, обозначения, получить введение в проблему, изучить методы, также там есть ссылки на другие источники. Если книга не помогла найти ответ, то идете в алфавитный каталог, чтобы найти то, на что ссылается автор, и процесс повторяется. Да, это долго, трудно и результат не гарантирован. Но, потратив время, вы получаете базу, то, что называется сейчас "бэкграунд" – вы не только узнаете ответ, но и знаете как этот ответ получен и почему он именно такой.

А библиотека находится в другом городе, либо в вашем она есть, но книг там нужных вам нет, либо (что чаще всего), вы просто не имеете навыков работы с библиотечным материалом. В итоге вы скорее всего просто забиваете за этот вопрос, и в лучшем случае когда-либо сильно позже найдете на него ответ.

Вспоминаю про жизнь в эпоху до компьютеров - самая главная особенность той жизни в плане обучения и работы с информацией - это крайняя скудность инфополя. Что-то, конечно было, но именно что-то. Найти хорошую литературу, в которой понятно и исчерпывающе раскрыта интересующая тебя тема - это было огромной удачей.

У нынешнего "гугления", есть минусы, справедливо подмеченные автором, но и во времена до сети, проблем было не меньше, скорее больше. Сейчас мне для подробного изучения какой-то темы нужно только время и мотивация. Раньше же это было не всегда вообще возможно - например, ехать в Москву, пробиваться там в нужную библиотеку (а это тоже не всегда было возможно человеку со стороны), и сидеть неделю-другую за книгами - это надо просто очень сильно хотеть разобраться в теме.

Да, такое бывало и очень часто. Почти всегда в моем случае :( Но тут как раз тот случай, когда сам путь важнее цели -- в процессе поисков (безуспешных) я узнавал много всего нового, откладывал книги "на потом", сохраняя листочки требований. При переезде я нашел эту пачку листов, по объему она сама была как средняя книга) Да, я из нее осилил не более нескольких процентов, но сколько же раз в жизни я вдруг вспоминал, что ту или иную концепцию я уже где-то видел и искать информацию надо примерно там-то и там-то!

Тоже помню как искал нужную информацию причем в своей-же личной библиотеке. Примерно знал где она есть, но не точно, и вот обкладываешься книгами и начинаешь их шерстить, пока не найдешь, поиск иногда занимал очень внушительное время, но иногда да, в самом процессе приходили в голову какие-то неожиданные идеи. Но, впрочем, это и сейчас случается, в процессе поиска информации в сети иногда натыкаешься на что-то неожиданное, что иногда кардинально меняет цель поиска.

В общем и целом - нам дали новый инструмент, сложный, неоднозначный, и им надо учиться пользоваться.

А теперь представим(а может уже где-то так и есть), что ИИ закулисами курируется правительством, как думаете, какой ответ будет на вопрос "Кто на свете всех милей?" ...=)

Даже если не курируется, он обучается на "общепринятой точке зрения", даже если эта точка зрения сомнительна.

Для человека это решение (правильно/неправильно) обычно не составляет затруднений.

Забываем про субъективность каждого индивида. Сколько людей, столько и мнений, и любое мнение субъективно (как раз малознающие чаще всего не различают мнение и знание, и легко отличают "правильное" от "неправильного"). Проблема еще и в том, что в реальном человеческом мире двоичная логика редко применима, ответы "да/нет, остальное от лукавого" адекватны далеко не во всех обстоятельствах. И человек тоже оценивает правильность на основе опыта, хорошо, если реального, личного, а не некритично собранного отовсюду.

Пока что нейросеть лишила меня "удовольствия" от написания баш-скриптов.
Очень удобно, словами описал, что курлом дернуть, какой файл прочитать, что грепнуть.

Прекрасно работает.

Главное, чтобы она не вставила в глубине скрипта что-нибудь вроде rm -rf some_file * .dat :)

Ну, глазами всегда надо посмотреть)
Можно попросить в конце - завернуть все в докер. Она умеет предыдущие задания дополнять/редактировать

Все эти разговоры вокруг GPT не учитывают того, что сейчас пользователи GPT сами сейчас помогают GPT углубить свои знания и представления. Все эти концепции (переключения) внимания и состязательность. Где произведены основные успехи... Это значит, что в близком будущем будет выход нового продукта, в котором будет уж очень много чего учтено. (Даже может быть предусмотрена вставка rm -rf some_file * .dat.))) [Вот, придёт GPT и проичитает Хабр. Не сомневаюсь.]

Как только нейронное машинное обучение встанет на жёсткие рельсы моделей действительности, произойдёт скачок.

Для человека это решение (правильно/неправильно) обычно не составляет затруднений. Нам может потребоваться очень большое время, чтобы найти ответ задачи, но определить, верен он или нет, мы обычно можем весьма легко

Мне бы Ваш оптимизм... :)

У нас космические шатлы взрываются из-за ошибок в программах, при всем обилии тестов для их кода...

Оба погибших спейс шаттла ("Колумбия" и "Челленджер") потерпели катастрофу отнюдь не из-за ошибок в ПО.

В общем, что я хочу сказать. Человечество, похоже, действительно столкнулось с одним из самых серьезных вызовов за свою многотысячелетнюю историю. Справится ли оно с ним? Вопрос вопросов. Надо спросить у чат-бота.

И что он ответил?

Отличный рассказ, читал его)

Рекомендую автору почитать что пишут ученые про такую глобальную проблему, как... развитие медицины. И деградация генофонда из-за того, что слабые дети больше не умирают, а вырастают и делают новых детей (пускай они с рождения и вынуждены сидеть на лекарствах).

На этом фоне описанные в статье проблемы - и не проблемы вовсе.

В любом случае, чем сильнее развивается цивилизация, тем сильнее общество в ней отрывается от "корней" (от способности, условно, жить в лесу, без электричества, света и теплой воды), и тем сильнее будет падение, если с цивилизацией что-то случится.

Я бы не отказался бы приобрести недостающие навыки, отсутствующие с детства в том числе и по собственной причине (но и не только). Но это вопрос целеполагания и воли. Всегда есть возможность тренировать требуемое. Одностороннее развитие не вполне развитие. Да и куда мы развиваемся. Развитие — это постоянное раскрытие имеющегося потенциала. А мы имеем дело, в основном, с его растрачиванием. Подлинное развитие медицины было бы, как раз, в том, чтобы слабых было мало. Вы же считаете, наверное, что единственный способ достичь этого, суть жесточайший естественный отбор? Я Вас правильно понял?

Ну, вообще, есть, конечно, такая тенденция, что при использовании неких костылей, которые заменяют тебе твои личные способности, эти способности не только не развиваются, но и могут начать деградировать за ненадобностью. Например, если человек с детства привык, что за него всё решают, то сам он вряд ли когда-то будет принимать решения, так и останется маменьким сыночком, за которого сперва всё решала мать, а потом жена.

Аналогично и здесь: если за людей будет думать робот, то люди в целом сами думать отучаться. А именно эту функцию мышления, работы нейронов и предоставляет нейросеть, не только находя за человека информацию, но и решая задачи, программируя, рисуя. Да, нас ждёт поколение слабоумных. Но, для того, чтобы нейросетью пользоваться, тоже надо кое-что уметь. И именно эти навыки выйдут в тренд.

Я думаю, ничего особо страшного не произойдёт. Просто это будет новый этап развития человечества. Появятся новые тренды, новые профессии. Нужно будет тупо понимать, почему нейросеть выдаёт не те результаты, почему не может сделать то, чего ты хочешь. А также надо будет нейросети тренировать, следить за правильностью. Как вы говорите, выставлять оценки. Именно этим и сопутствующими проблемами и будут люди заниматься.

А, чтобы не деградировать, всегда есть личная ответственность за свою жизнь. С преобладающим сидячим образом жизни многие деградируют физически, но многие и самостоятельно занимаются спортом, путешествуют, двигаются ради своего здоровья. Так же будет и во время нейросетей: безответственные будут деградировать по полной, а ответственные будут тренировать свой мозг намеренно, как сейчас намеренно люди тренируют свои тела.

Интересно, как ты докажешь, что сам написал эту статью, а не с помощью чат бота?

Если бы не было чат-бота, я бы не смог написать эту статью!

Articles