Как ИИ разрушает воспроизводство сложных профессий

Взято с её официального Telegram-канала.

Наталья Касперская – российский предприниматель в сфере информационных технологий, президент группы компаний InfoWatch, сооснователь и бывший генеральный директор компании «Лаборатория Касперского», общественный деятель, председатель правления Ассоциации разработчиков программных продуктов «Отечественный софт»

***

Прочла я тут недавно американскую статью про искусственный интеллект и как он отнимет у всех работу. Любящие читать длинные тексты на английском могут щёлкнуть сюда.

Статья довольно типовая, сейчас таких пишут много. Именно поэтому — показательная. Кратко перескажу основные мысли статьи (внимание: без ГМО и ИИ!), а потом прокомментирую.

Автор — Джасмин Сан — на нескольких страницах сетует на то, что генеративный искусственный интеллект уже сейчас сокращает рабочие места. Причём в основном среди «белых воротничков» — программистов, журналистов, бухгалтеров. С кем бы автор ни говорила в своей Силиконовой (Кремниевой) долине, все считают, что ИИ скоро сократит или совсем отнимет работу у множества людей, превзойдя возможности человека.

Из этого автор делает вывод, что есть высокий риск резкого социального расслоения — богатые будут использовать сверхразумные машины для выполнения своих поручений и желаний, а остальные члены общества станут бесполезными и нетрудоспособными. И будут вынуждены довольствоваться подачками, безусловным базовым доходом, электронными удовольствиями и дешёвыми стимуляторами. И вот эти остальные сформируют «низший класс».

В статье приводятся слова молодого ИТ-предпринимателя, считающего, что «какая-нибудь будущая версия GPT-7 поглотит всё программное обеспечение, программисты не будут нужны».

К слову сказать, недавно в интернетах прошла новость, что Google собирается сократить 30 тысяч программистов, правда, не сказано, за какой именно срок. А Oracle позавчера разослал уведомления об увольнениях трём десяткам тысяч своих сотрудников, причём почему-то в 6 утра, предварительно заставив их обучить корпоративный ИИ своим трудовым функциям.

В апреле лидер ИИ-рынка — Open AI — выпустила программную статью «Industrial Policy for the Intelligence Age» («Отраслевая политика ИИ-эпохи»), где выдала несколько «идей» о том, как защититься от будущего социального цунами ИИ. Среди них — 32-часовая рабочая неделя, повышение налогов на корпорации, создание «фонда общественного благосостояния», который выдаст всем гражданам долю в ИИ-компаниях. А также ускорение расширения энергосетей и установление национального «права на искусственный интеллект».

Довольно очевидно, что идеи — не только утопические, но и манипулятивные. Та же Open AI первая не станет делиться долей в своей компании и вряд ли отдаст права на свои модели в какой-то «национальный фонд». И действительно, дальше в статье автор говорит, что Open AI потратил более 2 миллионов долларов на рекламу против кандидата в Конгресс от штата Нью-Йорк Алекса Бореса, который предложил ввести ограничения для крупных разработчиков ИИ и отдельный налог на ИИ.

Другой ответ на проблему потери рабочих мест даёт ещё один разработчик ИИ — компания Anthropic в лице её сооснователя Джека Кларка. В будущей утопической реальности, по мнению г-на Кларка, общество может «увеличить долю человеческого труда» в таких сферах, как преподавание и уход за больными, пока искусственный интеллект вытесняет людей с рабочих мест в других отраслях. Кларк (большой знаток людей, видимо) полагает, что бывший оператор службы поддержки может пройти обучение и стать помощником учителя, например. Я бы усомнилась в возможности такого перепрофилирования — всё-таки оператор службы поддержки не обязательно имеет талант и умение учить. И куда пойдут увольняемые рентгенологи и УЗИ-специалисты — в курьеры?

Некоторые последствия для рынка труда уже видны в США: сокращается занятость молодых работников в сферах, где активно используется искусственный интеллект, таких как разработка программного обеспечения и обслуживание клиентов (тут, видимо, имеются в виду чат-боты). В ближайшие 5 лет еще больше интеллектуальных профессий будут автоматизированы с помощью ИИ. Автор полагает, что это могут быть, например, сферы бухгалтерского учёта, маркетинга, дизайна, административной работы и других занятий «белых воротничков».

При этом автор статьи как бы вскользь приводит результат эксперимента исследователей из Anthropic, где они выяснили, что младшие инженеры (junior engineers), которые полагались на агентов искусственного интеллекта при написании программного кода, не только не справлялись с задачами быстрее, но и хуже понимали свою работу, когда их о ней спрашивали. То есть с одной стороны, начинающие специалисты конкурируют с искусственным интеллектом за рабочие места, а с другой — тормозят собственное развитие, чрезмерно полагаясь на инструменты ИИ.

Но выводов из этого наблюдения Джасмин Сан не делает, а продолжает ламентации в том же духе. «Рабочая сила будет перераспределяться в пользу менее автоматизируемых профессий, в которых у человека сохраняется сравнительное преимущество, — таких как предпринимательство, работа по уходу, квалифицированные рабочие специальности и сфера развлечений, включая спорт и исполнительское искусство. Возможно, появятся также новые профессии, о которых мы пока даже не подозреваем».

Позволю тут закончить пересказ статьи и привести кое-какие свои соображения. Не буду говорить за все сферы занятости — скажу только про свою профессиональную область программного обеспечения. Все статьи, что я читала, весь мой опыт общения с людьми, которые активно применяют ИИ в разработке программного обеспечения, говорит о том, что, действительно, ИИ в некоторых случаях позволяет резко повысить производительность программирования, но только ДЛЯ ОПЫТНЫХ ПРОГРАММИСТОВ.

Мой сын поделился со мной опытом использования ИИ в тяжёлом программировании: он запускал несколько ИИ-моделей на конкретные задачи и получал неплохой результат — до 5-7 тысяч строк компилирующегося кода за раз. Потом он проверял полученный результат как лично, так и при помощи ИИ-модели и задавал ИИ следующую задачу.

Однако, когда он давал ИИ-модели слишком большую или нечётко сформулированную задачу, то модель либо зависала совсем, либо выдавала негодный результат. При этом у сына — 15 лет опыта программирования и работы со сложными системами.

Теперь представим, что предчувствия Джасмин Сан сбудутся, Google и его коллеги уволят по 30 тысяч разработчиков и заменят их ИИ-шечкой. При этом вряд ли они станут увольнять опытных программистов, скорее всего, уволят новичков. Тогда, во-первых, на оставшихся ляжет выросшая нагрузка по проверке работы ИИ-шки, а во-вторых, новые опытные программисты в компании просто перестанут воспроизводиться, т.к. «джуниоров» перестанут нанимать за ненадобностью.

А потом нынешние «сеньоры» через 15–20 лет уйдут на покой. И тогда возникнут два больших вопроса. Первый — откуда возьмутся люди, способные поддерживать сложные системы, если они не переняли опыт предыдущих поколений, как всегда было ранее? И второй — что произойдёт, собственно, с системами, созданными ИИ на длинном периоде?

В то, что ИИ будет работать самостоятельно и самостоятельно же создавать системы любой сложности, я лично не верю. А это значит, что новые сотрудники, пришедшие на место работающих сейчас программистов, не будут разбираться в том, что и как там работает.

Приведу аналогию из сферы корпоративного ПО. Как-то лет десять назад я была в подмосковном пенсионном фонде, у тогдашнего руководителя ИТ. Он сказал мне, что больше всего они боятся, что с их ИТ-системой что-то случится. Система старая, написана 15 лет назад, в конце 1990-х.

Разработчики, которые её писали, уже ушли, документация утеряна. Как это всё работает, никто не знает. Остаётся молиться, чтобы ничего не упало.

Может быть, с тех пор эту систему переписали, но я знаю много других примеров самописанных систем, когда их эксплуатанты молятся, чтоб не упало. Молиться душеполезно, конечно, но вряд ли это хороший способ поддержания ИТ-систем.

Вот и с программами, написанными ИИ-шкой, скорее всего, будет так же. Отличием, наверное, будет то, что она сможет как-то автоматически задокументировать все написанное, то есть сделать то, что «живые» программисты делать не любят. Но поможет ли это новичкам разобраться и найти ошибки, когда система начнёт сбоить или деградировать?

А без поддержки любая ИТ-система начинает деградировать и сбоить — это аксиома. А тогда что — выкидываем старое и генерим новое, тоже не понимая, как оно устроено? Компетенции-то потеряны… Всё, цикл замкнулся.

Кроме того, большие ИТ-системы будут превращаться в гигантские слои заплаток «по месту». Никто не будет проектировать архитектуру «сверху вниз», как десятилетиями учили зубры структурного программирования.

Потому что проектирование — это мучительно, долго и сложно, а вайб-кодинг, голосовые промты и программные «заплатки» — на порядки быстрее и дешевле. Причём настолько дешевле, что упорядочивать заплатки не надо — можно просто периодически их все выбрасывать и генерить новые. Такой век программистского скотча, всё на соплях, зато быстро и дёшево.

Но полетели ли бы вы на самолёте, авионика которого запрограммирована таким вайб-кодингом?

Поэтому, мне кажется, умные компании-разработчики должны не просто гнаться за эффективностью здесь и сейчас, а думать немного вперед — хотя бы на 5–10 лет. Думать, как обеспечить преемственность квалифицированных кадров, как учить их обеспечивать работоспособность систем сейчас, в будущем и т.п. Возможно, проводить учения по отключению каких-то функций и восстановлению их людьми. Возможно, переписывать для тренировки какие-то куски кода, написанного ИИ. Или ещё что-то.

А с точки зрения подготовки высококвалифицированных программистов это означает, что надо как можно меньше полагаться на ИИ и как можно больше заниматься алгоритмами, архитектурой, внедрением системного мышления, умения анализировать сложные проблемы и т.п.

Чтобы не оказаться в многократно описанной фантастами антиутопии, где человечество окружают машины, которые пока еще работают, но никто уже не знает как. И одичавшие варвары пользуются обломками свершений Древней Цивилизации.

***

Можно подытожить и так: с ИИ умные становятся ещё умнее, а тупые ещё тупее. Но и правда в том, что ни один тупой никогда не признает себя тупым. Ведь он же тупой.

Представитье только будущее, в котором никто не знает, как всё работает.

Автор материала
Антон Хабиров

Основатель и руководитель проектов Блог—Инженера, SpecHelp, Лица, bi-file.ru, sout.pro и bif.one

Подписаться на блог

Читать ещё