Comments 14
Про требования к "автопилоту" Теслы уже давно говорили, что это просто уловка Маска, чтобы позволить легально пользоваться подобной системой - типа водитель все равно контролирует обстановку и может вмешаться. На практике это так не работает, и зачастую водитель не может среагировать вовремя.
Мне кажется, что это факт установления ответственности - если тесла заявит, что можно ехать без участия водителя, и собьет человека (а ситуация, в которой даже автоматика ничего не сможет сделать вполне реальна) - то кто будет нести ответственность за жизнь? А так можно сказать, что ехал водитель, контролировал водитель, он и виноват.
Насколько я знаю это не "уловки" от производителей, а требования регуляторов. То есть в большинстве стран под каждый уровень автономности надо получать сертификацию-допуск.
Все верно. И пока множество людей начинают генерировать код через chatgpu или copilot, я с ужасом думаю как это потом ревьюить и поддерживать. Тут от кожаных мешков то пр принять проблема.
Качество упадет, опять в который раз. Зато писать станет дешевле, капиталисты рады.
Это решается не ревью, а:
тестирование, контроль. Должный проект, тщательный контроль. Не проходит код контроль тестера - зарплату девелопер не должен получать, независимо от того, сам он накропал или робот за него написал.
закрепление класса и модуля за ответственным. Кто написал, тот и должен его поддерживать. И ошибки, которые бот ему накидал в код и которые только через два месяца вскрылись - должен фиксить тот, кто сдал в продакшн этот код, тот, кто ответственный за него. Как в машиностроении - у каждого чертежа и сборки есть свой конструктор, ответственный за него. А не как в ИТ, когда один лепит, другие фиксят.
Мне кажется, что подобные рассуждения начались с палеолита: "если человек будет полагаться на каменный топор, то он разучился драться палкой. А если камня под рукой не будет?"
"Простой охотник не может починить наборный лук, но быстро привыкает, что можно далеко стелять и теряет навык тихо подкрадываиься к дичи"
"Вот отсыреет ваш порох и перережут всех, как котят"
Любая технология делает человека уязвимее, если он её внезапно лишается. Но за последние 10000 лет прогресс шёл без остановок не задумываясь об иронии такой ситуации.
10000 лет ничто в рамках эволюции и истории видов.
Рассказывают, что Чжоу Эньлай, верный помощник Мао Цзэдуна, отвечая на вопрос об уроках Французской революции, заявил, что пока о них рано говорить.
Мне кажется, так было всегда. Напомнило рассуждения Тамуса об изобретении письменности Тотом. Мол, вот вы научились записывать и перестанете помнить. И мудрость ваша ненастоящая будет.
«Это твое изобретение в души научившихся ему вселит забывчивость, так как будет лишена упражнения память: припоминать станут извне, доверяясь письму, по посторонним знакам, а не изнутри, сами собою.»
Как выглядит эта статья сейчас, спустя сорок лет? По-моему, хотя какая-то конкретика могла устареть, главные мысли остаются более чем актуальны. И они особенно хорошо применимы к новому витку развития AI-технологий, который мы сейчас проживаем.
Компании работают над беспилотными автомобилями, но оговариваются «пока что водитель обязан следить за дорогой и в случае чего перехватить управление».
Интересно, я тоже почти 40 лет назад проводил аналогию между ЭВМ и автомобилем:
Какими же знаниями о вычислительной технике должен обладать современный инженер? Здесь уместно сравнение ЭВМ с автомобилем. Легковые автомобили покупают миллионы людей, и большинство из них порой имеют самые общие сведения о машине, только те, которые нужны при покупке: максимальная скорость, мощность двигателя, вместимость салона, расход горючего и т. п.
КДПВ немножко пугающая если приглядеться. Скорость показывает 137 км/ч, при этом рядом знак ограничения на 120, дистанция до машины впереди слишком маленькая для такой скорости, и сама машина, кажется, прямо сейчас начинает тормозить. А название трека в плеере намекает, что я упускаю что-то еще (вероятно, связанное с всплывающем уведомлением на немецком в левой части экрана).
не так страшна тотальная автоматизация, как "автобусное число" спустя 5 лет - когда последнего пенсионера держат до последнего (умоляют его не уходить на пенсию) потому что только он знает - "зачем Х было сделан". А чтобы переделать это старьё заново - нужны человеко-десятилетия.
Знаю компанию, где в полной мере прочувствовали эту иронию, когда со временем система CI/CD стала настолько хороша, что в случае ошибок "операторы" начали задавать глупые базовые вопросы и забывать смотреть логи (и вообще у меня лапки, ваша система — вы и разберётесь, почему упал мой сервис (утрированно конечно))
К сожалению, почему-то вспомнился эирбас и допущеный к штурвалу ребенок. И вот чья эта была ошибка? Автоматизаторов или папы пилота? Или и тех и других и печальное стечение обстоятельств. ЧАЭС тоже не должна была взорваться, считали что не могла впринципе, но ... чем сложнее система тем выше вероятность критической ошибки и никуда от этого не деться
Иронии автоматизации