Взято с её официального Telegram-канала.
Наталья Касперская – российский предприниматель в сфере информационных технологий, президент группы компаний InfoWatch, сооснователь и бывший генеральный директор компании «Лаборатория Касперского», общественный деятель, председатель правления Ассоциации разработчиков программных продуктов «Отечественный софт»
***
Прочла я тут недавно американскую статью про искусственный интеллект и как он отнимет у всех работу. Любящие читать длинные тексты на английском могут щёлкнуть сюда.
Статья довольно типовая, сейчас таких пишут много. Именно поэтому — показательная. Кратко перескажу основные мысли статьи (внимание: без ГМО и ИИ!), а потом прокомментирую.
Автор — Джасмин Сан — на нескольких страницах сетует на то, что генеративный искусственный интеллект уже сейчас сокращает рабочие места. Причём в основном среди «белых воротничков» — программистов, журналистов, бухгалтеров. С кем бы автор ни говорила в своей Силиконовой (Кремниевой) долине, все считают, что ИИ скоро сократит или совсем отнимет работу у множества людей, превзойдя возможности человека.
Из этого автор делает вывод, что есть высокий риск резкого социального расслоения — богатые будут использовать сверхразумные машины для выполнения своих поручений и желаний, а остальные члены общества станут бесполезными и нетрудоспособными. И будут вынуждены довольствоваться подачками, безусловным базовым доходом, электронными удовольствиями и дешёвыми стимуляторами. И вот эти остальные сформируют «низший класс».
В статье приводятся слова молодого ИТ-предпринимателя, считающего, что «какая-нибудь будущая версия GPT-7 поглотит всё программное обеспечение, программисты не будут нужны».
К слову сказать, недавно в интернетах прошла новость, что Google собирается сократить 30 тысяч программистов, правда, не сказано, за какой именно срок. А Oracle позавчера разослал уведомления об увольнениях трём десяткам тысяч своих сотрудников, причём почему-то в 6 утра, предварительно заставив их обучить корпоративный ИИ своим трудовым функциям.
В апреле лидер ИИ-рынка — Open AI — выпустила программную статью «Industrial Policy for the Intelligence Age» («Отраслевая политика ИИ-эпохи»), где выдала несколько «идей» о том, как защититься от будущего социального цунами ИИ. Среди них — 32-часовая рабочая неделя, повышение налогов на корпорации, создание «фонда общественного благосостояния», который выдаст всем гражданам долю в ИИ-компаниях. А также ускорение расширения энергосетей и установление национального «права на искусственный интеллект».
Довольно очевидно, что идеи — не только утопические, но и манипулятивные. Та же Open AI первая не станет делиться долей в своей компании и вряд ли отдаст права на свои модели в какой-то «национальный фонд». И действительно, дальше в статье автор говорит, что Open AI потратил более 2 миллионов долларов на рекламу против кандидата в Конгресс от штата Нью-Йорк Алекса Бореса, который предложил ввести ограничения для крупных разработчиков ИИ и отдельный налог на ИИ.
Другой ответ на проблему потери рабочих мест даёт ещё один разработчик ИИ — компания Anthropic в лице её сооснователя Джека Кларка. В будущей утопической реальности, по мнению г-на Кларка, общество может «увеличить долю человеческого труда» в таких сферах, как преподавание и уход за больными, пока искусственный интеллект вытесняет людей с рабочих мест в других отраслях. Кларк (большой знаток людей, видимо) полагает, что бывший оператор службы поддержки может пройти обучение и стать помощником учителя, например. Я бы усомнилась в возможности такого перепрофилирования — всё-таки оператор службы поддержки не обязательно имеет талант и умение учить. И куда пойдут увольняемые рентгенологи и УЗИ-специалисты — в курьеры?
Некоторые последствия для рынка труда уже видны в США: сокращается занятость молодых работников в сферах, где активно используется искусственный интеллект, таких как разработка программного обеспечения и обслуживание клиентов (тут, видимо, имеются в виду чат-боты). В ближайшие 5 лет еще больше интеллектуальных профессий будут автоматизированы с помощью ИИ. Автор полагает, что это могут быть, например, сферы бухгалтерского учёта, маркетинга, дизайна, административной работы и других занятий «белых воротничков».
При этом автор статьи как бы вскользь приводит результат эксперимента исследователей из Anthropic, где они выяснили, что младшие инженеры (junior engineers), которые полагались на агентов искусственного интеллекта при написании программного кода, не только не справлялись с задачами быстрее, но и хуже понимали свою работу, когда их о ней спрашивали. То есть с одной стороны, начинающие специалисты конкурируют с искусственным интеллектом за рабочие места, а с другой — тормозят собственное развитие, чрезмерно полагаясь на инструменты ИИ.
Но выводов из этого наблюдения Джасмин Сан не делает, а продолжает ламентации в том же духе. «Рабочая сила будет перераспределяться в пользу менее автоматизируемых профессий, в которых у человека сохраняется сравнительное преимущество, — таких как предпринимательство, работа по уходу, квалифицированные рабочие специальности и сфера развлечений, включая спорт и исполнительское искусство. Возможно, появятся также новые профессии, о которых мы пока даже не подозреваем».
Позволю тут закончить пересказ статьи и привести кое-какие свои соображения. Не буду говорить за все сферы занятости — скажу только про свою профессиональную область программного обеспечения. Все статьи, что я читала, весь мой опыт общения с людьми, которые активно применяют ИИ в разработке программного обеспечения, говорит о том, что, действительно, ИИ в некоторых случаях позволяет резко повысить производительность программирования, но только ДЛЯ ОПЫТНЫХ ПРОГРАММИСТОВ.
Мой сын поделился со мной опытом использования ИИ в тяжёлом программировании: он запускал несколько ИИ-моделей на конкретные задачи и получал неплохой результат — до 5-7 тысяч строк компилирующегося кода за раз. Потом он проверял полученный результат как лично, так и при помощи ИИ-модели и задавал ИИ следующую задачу.
Однако, когда он давал ИИ-модели слишком большую или нечётко сформулированную задачу, то модель либо зависала совсем, либо выдавала негодный результат. При этом у сына — 15 лет опыта программирования и работы со сложными системами.
Теперь представим, что предчувствия Джасмин Сан сбудутся, Google и его коллеги уволят по 30 тысяч разработчиков и заменят их ИИ-шечкой. При этом вряд ли они станут увольнять опытных программистов, скорее всего, уволят новичков. Тогда, во-первых, на оставшихся ляжет выросшая нагрузка по проверке работы ИИ-шки, а во-вторых, новые опытные программисты в компании просто перестанут воспроизводиться, т.к. «джуниоров» перестанут нанимать за ненадобностью.
А потом нынешние «сеньоры» через 15–20 лет уйдут на покой. И тогда возникнут два больших вопроса. Первый — откуда возьмутся люди, способные поддерживать сложные системы, если они не переняли опыт предыдущих поколений, как всегда было ранее? И второй — что произойдёт, собственно, с системами, созданными ИИ на длинном периоде?
В то, что ИИ будет работать самостоятельно и самостоятельно же создавать системы любой сложности, я лично не верю. А это значит, что новые сотрудники, пришедшие на место работающих сейчас программистов, не будут разбираться в том, что и как там работает.
Приведу аналогию из сферы корпоративного ПО. Как-то лет десять назад я была в подмосковном пенсионном фонде, у тогдашнего руководителя ИТ. Он сказал мне, что больше всего они боятся, что с их ИТ-системой что-то случится. Система старая, написана 15 лет назад, в конце 1990-х.
Разработчики, которые её писали, уже ушли, документация утеряна. Как это всё работает, никто не знает. Остаётся молиться, чтобы ничего не упало.
Может быть, с тех пор эту систему переписали, но я знаю много других примеров самописанных систем, когда их эксплуатанты молятся, чтоб не упало. Молиться душеполезно, конечно, но вряд ли это хороший способ поддержания ИТ-систем.
Вот и с программами, написанными ИИ-шкой, скорее всего, будет так же. Отличием, наверное, будет то, что она сможет как-то автоматически задокументировать все написанное, то есть сделать то, что «живые» программисты делать не любят. Но поможет ли это новичкам разобраться и найти ошибки, когда система начнёт сбоить или деградировать?
А без поддержки любая ИТ-система начинает деградировать и сбоить — это аксиома. А тогда что — выкидываем старое и генерим новое, тоже не понимая, как оно устроено? Компетенции-то потеряны… Всё, цикл замкнулся.
Кроме того, большие ИТ-системы будут превращаться в гигантские слои заплаток «по месту». Никто не будет проектировать архитектуру «сверху вниз», как десятилетиями учили зубры структурного программирования.
Потому что проектирование — это мучительно, долго и сложно, а вайб-кодинг, голосовые промты и программные «заплатки» — на порядки быстрее и дешевле. Причём настолько дешевле, что упорядочивать заплатки не надо — можно просто периодически их все выбрасывать и генерить новые. Такой век программистского скотча, всё на соплях, зато быстро и дёшево.
Но полетели ли бы вы на самолёте, авионика которого запрограммирована таким вайб-кодингом?
Поэтому, мне кажется, умные компании-разработчики должны не просто гнаться за эффективностью здесь и сейчас, а думать немного вперед — хотя бы на 5–10 лет. Думать, как обеспечить преемственность квалифицированных кадров, как учить их обеспечивать работоспособность систем сейчас, в будущем и т.п. Возможно, проводить учения по отключению каких-то функций и восстановлению их людьми. Возможно, переписывать для тренировки какие-то куски кода, написанного ИИ. Или ещё что-то.
А с точки зрения подготовки высококвалифицированных программистов это означает, что надо как можно меньше полагаться на ИИ и как можно больше заниматься алгоритмами, архитектурой, внедрением системного мышления, умения анализировать сложные проблемы и т.п.
Чтобы не оказаться в многократно описанной фантастами антиутопии, где человечество окружают машины, которые пока еще работают, но никто уже не знает как. И одичавшие варвары пользуются обломками свершений Древней Цивилизации.
***
Можно подытожить и так: с ИИ умные становятся ещё умнее, а тупые ещё тупее. Но и правда в том, что ни один тупой никогда не признает себя тупым. Ведь он же тупой.
Представитье только будущее, в котором никто не знает, как всё работает.
Автор материала
Антон Хабиров
Основатель и руководитель проектов Блог—Инженера, SpecHelp, Лица, bi-file.ru, sout.pro и bif.one
В данном тексте от Касперской речь про вайб-кодинг а не про все все.
1. Социальное расслоение существовало всегда. При любых строях и экономических системах. Потому что ресурсов Земли на 8 миллиардов не хватит. Или хватит но все будут нищие.
2.Люди это расслоение замечают тогда когда оно касается их самих или их близких и знакомых. В самом деле кого волнует сколько народу щас живет бедно в какой нибудь Индии или другой стране третьего мира?
3. Внедрение ИИ по любому отнимет работу у многих. Потому что ИИ и в частности вайб кодинг это автоматизация тоже. И при любой автоматизации главная ее цель – это снижение расходов.
4. Работа Сота не исчезнет. Потому что нет никакого единого Сота. Сот это разноплановая профессия и в существующей недосистеме бардака Сот всегда будет нужен.
5. Именно ИИ поможет построить социализм. Ведь согласно учению Карла Маркса социализм это следующая ступень после капитализма.
Работа СОТ тоже не исчезнет, но изменится. С автоматизацией процессов рисков стало больше. Людям дали рычаги, увеличивающие не только силу, но и цену ошибки. Травм стало меньше, катастрофы тяжелее. С ИИ человеческие ошибки уйдут в глубину. Проверять станет сложнее, а последствия редких сбоев глобальными. И это потребует иных навыков, чем сейчас.
“С автоматизацией процессов рисков стало больше”
Приведёте некую статистику? Не совсем понятно, как автоматизация способствует увеличению рисков.
Автоматизация и механизация принципиально изменили характер производственных травм, сместив акцент с частоты на тяжесть. Если при ручном труде человек оперировал энергией своих мышц, поднимая мешки до 50 килограммов, то с появлением кранов, роботов и автоматизированных линий на одного оператора приходится управление потоками в сотни и тысячи раз мощнее. Вероятность несчастного случая снижается благодаря защитам, однако когда контакт с опасностью всё же происходит, высвобождаемая кинетическая энергия оказывается несопоставимо выше, что превращает ушибы в размозжения и ампутации.
Статистика это подтверждает. Например, анализ травм от мобильных роботов на складах показывает, что частота наездов снизилась в десять раз по сравнению с ручными тележками, но когда наезд случается, его тяжесть оказывается в пять раз выше из за многократно возросшей массы оборудования. В промышленности: типичный робот с полезной нагрузкой 500 килограммов обладает кинетической энергией, достаточной для мгновенного перелома костей, тогда как при ручном перемещении аналогичного груза человек физически не смог бы разогнать его до опасной скорости.
Автоматизация поднимает риск на другой энергетический уровень. Человек перестаёт быть источником силы и становится оператором, чья безопасность зависит и от ошибки человека и исправности систем управления и защитных барьеров. Цена ошибки вырастает экспоненциально.
Так а “статистика это подтверждает” есть какая-то?)) Ссылки на исследования? Вилами по воде, как по мне.
Разумеется, я понимаю, у робота (или башенного крана) может фляга свистнуть и он начнет убивать как Т-1000, но камон, чтобы не было летальных исходов оборудование, как и любое другое, должно своевременно проходить тесты, освидетельствования и прочие манипуляции. Никто не выпустит на рынок смертельный убивающий людей продукт (надеюсь).
Вместо таскания 50 кг мешков, человек больше не рвёт спину, используя систему рычага (краны, полиспасты и т.д.). Риск травмы спины = 0%.
Автопилотируемые самолеты исключают риск того, что пилот не посадит самолет, например при нулевой видимости или если он потерял сознание. Или машина сойдет с дороги, когда в ней работает круиз-контроль.
Я лично убежден, что автоматизация идет на пользу и на минимизацию рисков. И чем дальше идет развитие ИИ, тем безопасней будет жизнь и работа.
Даже возьмите тот же модуль “видеонаблюдение за опасными зонами” из 1С. Работник зашел в опасную зону – сразу поднялась тревога.
Примеров массу можно привести.
Вы правы, что автоматизация уже сделала жизнь безопаснее и легче. Риск травмы спины от тяжёлых мешков действительно ушёл в ноль. И я с вами согласен, что паника вокруг ИИ часто преувеличена. Но есть несколько моментов, которые не отменяют вашу правоту, но добавляют объёма.
1 Вы спрашиваете про исследования и говорите, что это «вилами по воде». Отчасти вы правы. Статистика безопасности действительно моложе истории, многого мы просто не знаем. Но одно исследование 1972 года показало чёткую связь. Чем больше энергии приходится на одного рабочего, тем тяжелее последствия сбоя. Автоматизация убрала лёгкие травмы, но не убрала риск. Она сделала его редким, но дорогим.
2. Что касается тестов и того, что «никто не выпустит убивающий продукт». История Boeing 737 MAX показывает, что выпускают. Люди, которые проводят тесты освидетельствования и пишут протоколы, тоже ошибаются. Иногда эти ошибки стоят сотен жизней.
3. Парадокс Хенрика в том, что когда мы убираем лёгкие несчастные случаи механизацией или автоматизацией, общая картина безопасности не становится идеальной. Пирамида вытягивается вверх и может даже перевернуться. Основание сужается, а высота растёт. Травм становится меньше, но каждая отдельная травма становится потенциально тяжелее и масштабнее. Мы убрали риск надорвать спину, но получили риск обрушить многотонную конструкцию одним неверным движением т.е. цена ошибки выросла многократно. И когда к этой логике добавляется ИИ, человеческие ошибки не исчезают. Они уходят в глубину. Их становится труднее найти и исправить. А когда они проявятся, последствия могут быть очень редкими, но глобальными.
Андрей, спасибо за дискуссию. Вы правы, автоматизация принесла огромную пользу и убрала множество травм. Наверное, мы оба правы, просто смотрим на разные уровни одной системы. Вы про снижение частоты и рутинных травм. Я про рост цены ошибки, когда она всё же случается. Одно другого не отменяет. На этом предлагаю закончить.
Расскажите это мужикам на буровой. И про мешки, и про кувалду.
Юлия, можно чуть конкретнее, не понял вашего вопроса. ЧЧ отвечал на вопрос в контексте заданного Андреем вопроса по поводу автоматизации. С чем конкретно Вы несогласны, может я где-то не достаточно корректно привел пример или высказал двусмысленную мысль?
По-моему, Вы написали однозначно, с чем я и не согласна:
Спасибо за уточнение, я понимаю Вашу позицию. Да, слово “ноль” – это, пожалуй, преувеличение, согласен. И Вы правы, что ручного труда, особенно на КРС, по-прежнему очень много. Я о другом. Если говорить про ситуацию, где процесс подъема и переноски тяжестей полностью автоматизирован и человек из него убран, то риск травмы спины действительно снижается кардинально, с этим вряд ли можно спорить и с этим утверждением Андрея я согласился. При этом, возникают другие риски, на которые я и хотел заострить внимание.
заострите внимание, если вас не затруднит. А то я совсем запутался что тут происходит
Автоматизация убрала лёгкие травмы и рутину, но не убрала риск. Она сделала его редким, но дорогим. Вот несколько примеров из разных отраслей.
Авиация. Boeing 737 MAX. Система MCAS полагалась на один датчик и при его ошибке уводила нос самолёта вниз. Пилоты не могли перебороть автоматику. 346 погибших в двух катастрофах.
Автомобили. Tesla Autopilot. Водители расслабляются, доверяя системе. Autopilot не распознал белую фуру на фоне неба, не заметил стёртую разметку на развязке, игнорировал опущенные шлагбаумы перед поездом. Смертельные случаи во Флориде, Калифорнии, Пенсильвании. Тесты Dawn Project показали, что система не останавливается перед школьным автобусом с мигающими сигналами.
Судоходство. Шведский паром. Капитан активировал автопилот, поднял подлокотник (что отключило автопилот без предупреждения) и отвлёкся на мониторы. Паром на скорости 16 узлов выскочил на остров. Круизное судно Viking Sky у берегов Норвегии. В шторм автоматика отключила двигатели из за низкого уровня масла. Датчики сработали штатно, но качка вызвала ложные показания. Судно на 1300 человек осталось без хода в открытом море. Эвакуация вертолётами.
Промышленность. Завод Tesla в Техасе. Робот для литья алюминия вцепился в спину и руку инженера. Коллега нажал аварийную кнопку. Инженер упал на два метра в контейнер для отходов. Завод Tesla во Фримонте. Рабочий помогал разбирать робота на линии Model 3. Робот не был обесточен. Манипулятор с огромной силой ударил мужчину, он упал без сознания.
Но это только вершина. Роботов и автоматику проектируют, собирают, программируют и обслуживают люди. А люди ошибаются. Сейчас эти ошибки видны хорошо, потому что автоматизация ещё не везде. С ИИ ошибки проектировщиков и настройщиков уйдут глубже. Они будут встречаться реже, но их последствия могут стать глобальными. ИИ будет учиться, делать эти ошибки всё менее и менее заметными. Обнаружить их станет всё сложнее.
Проблема функционального резонанса никуда не денется. Раньше мелкие отклонения и сбои проявлялись быстро в виде лёгких травм или инцидентов. Люди их замечали и исправляли. С ИИ эти отклонения будут дольше накапливаться, потому что система сама их компенсирует. Но в какой то момент множество мелких нестыковок совпадут. И тогда накопленная ошибка реализуется через рычаг энерговооружённости решений. То, что раньше было ушибом, станет катастрофой.
Всё это создаст условия для адаптации. Работа специалиста по безопасности переместится с переднего края, где он смотрел за касками и стропами, в область разработки и глубокого поиска скрытых ошибок.
Мода пугаться новых технологий циклична. Луддиты боялись станков, современные айтишники боятся искусственного интеллекта. И каждый раз кажется, что вот сейчас работу отнимут у всех. Но каждый раз профессии не исчезают, а мутируют, а люди адаптируются. И этот раз не будет исключением, просто потому что раньше люди боялись даже того, что давно стало обыденностью: трамваев и поездов (..от быстрой езды вылетят матки женщин..,), телевизоров (- убивают живое общение), книг (Сократ: письменность сделает людей забывчивыми)..
Я не увидела в статье страха, по-моему, её суть вообще в другом: молодых специалистов сейчас заменяет ИИ, этого уже не боятся, этим успешно пользуется. А проблема возникает в долгосрочной перспективе, когда специалисты не вырастают до экспертов. А вот задачи экспертов ИИ решить не может качественно. В итоге мы в скором времени получаем большую проблему, которую решить никто не сможет. Это станет откатом в отрасли.
Мир устойчивее, чем кажется. Крестьяне в Средневековье не понимали механику плуга, но пахали и учили детей. Рабочие XIX века не знали, как работает паровоз, но водили их и передавали опыт. Сегодня мы боимся, что без джуниоров не вырастут эксперты. Но адаптация сильнее наших страхов. Появятся новые формы обучения, новые роли, новые способы передавать знания. Как появлялись всегда. Потому что мир не рухнул ни после плуга, ни после паровоза, ни после IBM PC. И после ИИ не рухнет.
Проблема сейчас в том, что ИИ слишком переоценен и его считают самостоятельной единицей. Но это не так. Как помощник в решении точечных задач и не структурированных – да, но не более. Буквально вчера читал интереснейшую статью: “Я уволил джуна, нанял AI-агента, через месяц нанял джуна обратно”.
https://vc.ru/ai/2878498-kak-ai-agenty-zamenili-dzhuna-i-vernuli-ego-obratno
Выводы весьма четко синхронизируются с последним исследованием, о котором я читал где-то месяц назад. Вывод там такой же: те кто разбирается в своем деле, прокачиваются, а те кто нет и пытается свалить нагрузку в ИИ, теряют свои навыки и деградируют.
Спасибо за интересный материал
Антон, спасибо за статью.
На данный момент почти на всей планете доминирует капитализм как социально-экономическая формация, у него кризис развития, или решение будет найдено (например, 3 мировая) и деградация, либо будет другая социально-экономическая формация и переход на новый уровень развития (социализм или варварство). Проблема замены людей на ИИ это одна из проблем дальнейшего развития капитализма с его желанием максимальной прибыли, хотя люди работают все больше и производительней, а получают все меньше. Как пример мужчина 50-60 XX века в США мог обеспечивать себя, жену-домохозяйку и троих детей-иждивенцев и при этом платить ипотеку за дом, а сейчас у ряда людей не получается платить ипотеку за дом при работе двух работающих членов супружеской пары, даже в отсутствии детей. Эта проблема, когда рабочая сила сама себя не воспроизводит, не только у нас, аналогичная ситуация, есть в США, Китае, Южной Корее и других странах мира, за исключением стран, не завершивших переход.
Насчет представить будущее, на мой взгляд есть вариант еще проще, можно посмотреть назад в прошлое, так как в истории человечества уже были примеры деградации и отката в развитии назад, самый наглядный пример упадок на территории бывшей Западной римской империи, который длился почти 1000 лет.
Катастрофа при утрате знаний при нынешнем развитии будет еще масштабней.