ИИ не знает промышленную безопасность

Утомила меня тема ИИ, хочется её закрыть уже. Но раз пошла волна, то не могу пройти мимо вопросов по промышленной безопасности.

Давно заметила, что по вопросам охраны труда и культуры безопасности таким способом можно получить ответ, хоть и не всегда грамотный, но более-менее курс указывает. А вот с промкой у него пока всё очень плохо.

Недавно я писала статью Наряд-допуск: газоопасные работы, поэтому знаю, что в этом вопросе очень много тонкостей и нюансов. Сегодня на SPEC.ФОРУМЕ задали вопрос:

Можно ли отнести к газоопасным работам II категории, работы по ремонту и обслуживанию линий связи и оборудования технологической связи на АГРС, ГРС и контролируемых пунктах телемеханики магистрального газопровода?

Хм, а интересно, что на это скажет ИИ?

Вот и решайте, доверять такому источнику или прислушаться к настоящим экспертам, как наша уважаемая @olka

ИИ не знает промышленную безопасность

Автор материала
Юлия Реутова

«Путешественница» из команды Блог—Инженера; Ведущий администратор проекта для специалистов по охране труда и смежным направлениям SpecHelp, Главный редактор проекта «Лица»

Комментарии: 15
HE_COT
6 часов
1

ИИ при отсутствии чётких данных и ограничений либо подтягивают неактуальное “старьё” либо додумывают самостоятельно (в некоторых случаях просто не могут честно сказать “не знаю”).
Как то (прошлым летом) собирался на конференцию по первой помощи и попросил “Дипсик” по-быстрому накатать мне сравнительную таблицу по трём аптечкам (производственной, авто и школьной).
Оказалось он не знает о существовании приказа о составе одной из них (вроде бы школьной), я ему пишу номер даю ссылку на открытый ресурс, а он либо отвечает что не может использовать материал по ссылке, либо делает табличку с использованием какого-то бородатого неактуального приказа.
В итоге пол часа потрачено (в попытке его дрессировать), а результата нет (разумеется если бы это была локальная модель с уже настроенными ограничениями, и базой нормативки всё было бы иначе).
А можно было, минуть за ацать самостоятельно составить эту таблицу, не спеша и не напрягаясь с поиском ошибок которые ИИ пытается выдать за правду.

Роман
21 час
1

можно загрузить все необходимые акты по промбезу в один контур и он не будет придумывать, а будет безошибочно выдавать ответы. И да, в рамках взаимодействия с ИИ в в режиме вопрос-ответ, конечно не будет должного эффекта и необходимы конкретизированные промты (запросы) обозначающие рамки и пути работы. я никого не защищаю и не обвиняю, просто делюсь опытом )

Охрана Труда
11 часов
0

Почитал пост и обсуждение, понял, что специалисты в области ОТ совершенно не могут пользоваться ИИ, да и вообще смутно представляют, что это такое.
1. ИИ никогда и нигде не заменяет и не заменит человека! Это цифровой помощник, которую рутину делает мгновенно. Представьте, что Вы опытный СОТ, а к Вам пришла очень умная девочка выпускница техносферки. Она имеет феноменальную память, знает, что в каком документе содержится, может очень быстро найти нужные доки и проштудировать их по Вашему запросу. Ну тогда и вопросы надо так ИИ задавать. Если б у меня как у руководителя службы ОТ подчиненный спросил вот так, как спросила Юлия, ответ был бы однозначный – изучи нормативку, посмотри вот это и вот то, подготовь мне ответ и аргументируй его.

2. Чтобы работало так, как написано в п.1, нужны ИИ модели, их нужно дообучать под тематику, создавать ресурсный стек и актуализировать его, данные зранить не в виде вордовских документов или pdf, а в векторном виде. Делать продуманно и тонко настраивать RAD систему, оттачивать промты, особенно на системном уровне. Тогда можно будет вот так обобщенно спросить у ИИ помощника, а в нем уже все зашито, то и ответ будет грамотный.

А если это все еще и объединить в автоматизированную систему, то сказка получается ))) и все работает, главное!

Но боли такие здесь:
– вычислительные мощности, облака, но больше закрытые контуры – их всегда не хватает, стоят дорого, руководству объяснить трудно, что реально надо вот столько, даже в крупной компании;
– время, люди, умения… тема относительно новая, грамотных специалистов ОЧЕНЬ мало, а самому спать менее 6 часов тяжело долго ))

как-то так из личного опыта, кому интересно, пишите, надо общаться, объединяться, тема актуальная. можем же совместными усилиями создавать такое

Антон Хабиров
2

Microsoft начала ограничивать использование ИИ внутри компании — обслуживание нейросетей оказалось слишком дорогим и в ряде задач уже обходится дороже обычных сотрудников.

Расходимся)

Ульяна
3 часа
0

ну так не смысла сравнивать ИИ открытую для общего доступа (типа deepseek) и специализированную ИИ, с закрытом контуром, обученную для определенных задач.
Примерно тоже самое, что сравнить калькулятор и эксель (хотя некоторые эксель используют на уровне калькулятора)

Первый звоночек (этап), это когда человек обращается к ИИ как к человеку: “сделай мне…” (вместо “сделать”), “откуда у тебя…” и т.д. То есть не работает как с программой простыми командами, а работает как с человеком, проявляя в том числе эмоции. У многих видимо началось всё с Алисы. А ещё было время тамагочи) Неодушевлённый предмет вдруг стал одушевлённым. Что стало кто. Это страшно.

Юлия Реутова
автор
23 часа
2

Да, с Алисы скорее. Хотя не пользовалась ей особо, побаловалась немного. Даже не задумываюсь над этим. Спасибо, сделаю выводы)

Антон Хабиров
1

Через безобидную на первый взгляд игру и шутки прошивка головного мозга лучше обновляется)
Но со временем искусственное подменяет естественное, а там и до замены полового партнёра каким-нибудь умным гаджетом с ИИ рукой подать)

Татьяна П.
21 час
1

@khabirov Так не зря же этим программам имена давали – специально людей подталкивали к их очеловечиванию. И в рекламе продвигали как раз как “Алиса, включи музыку” и т.п. Не будет же психически здоровый человек просто так давать имя (не абстрактное название) предмету, программе, макросу 😉

Антон Хабиров
1

Но и правда в том, что люди не жертвы злых и коварных технократов.

Да очеловечивание того, что не является человеком – это давняя привычка… Кто-то с телевизором разговаривает, кто-то дает имя растениям, автомобилям, кто-то частям тела…

Алекс
24 часа
1

Понятно что ИИ не может ничего толкового сам написать потому что инфы реальной по ОТ и прочим безопасностям нет – в интернете нет ни руководств нормальных ни разъяснений. На форумах старые ответы никах не ранжируются и ИИ их тупо тасует.
Люди- аннотаторы, наполняющие ИИ – а напомню что все ИИ написаны людьми тоже не эксперты в ОТ и не смогли впихнуть в него всю российскую охрану труда и промбезопасность. ЕИСОТ даже не работает как надо.

Да и думаю разработчики всяких НПа сами не понимали многие термины и определения из НПА. Тем более по промке где надо много технических знаний знать либо долго пытать руководителей и работников. Потом ломая голову долго приходить к своим “истинным” выводам .

Да и сам ИИ урезанный и толерантный – разработчики специально его сделали таким мутным и вежливым чтобы угодить всем. Некоторые ответы ИИ даже после написания удаляет потому что это табу для него.

В общем ИИ позволяет быстро найти вский мусор в инете и по сути ИИ это быстрый поисковик. Не по всем ресурсам к сожалению. К примеру по соцсетям ИИ не может искать или не может достаточно глубоко искать.

Бесплатный ИИ еще более урезанный. В стране под названием Россия где многое и так урезается и блокируется. Ну это так лирика.

Что нам реально может помочь так это специально созданная база для Сотов. Наподобие не работающей ЕИСОТ. Наполняемый специально для них. Но кому это надо?

А вопрос ваш я задал Deep seek ( а кому еще? есть варианты? ) и он просмотрев 125 источников всяких консультантов, форумов, ГОСТ и прочих сайтов и даже захватив “украинскую охорону праци” ответил:

Краткий ответ: да, могут, но только при соблюдении ряда условий. Автоматически они к газоопасным работам II категории не относятся.

Ключевой критерий для отнесения любых работ к категории «газоопасных» (включая II группу) — это их проведение в газоопасном месте. Согласно пункту 130 Федеральных норм и правил (ФНП) № 528, газоопасное место — это зона, где есть или может появиться загазованность выше предельно допустимой концентрации (ПДК) либо содержание кислорода ниже 20%. На объектах АГРС, ГРС и пунктах телемеханики такие зоны, безусловно, существуют, особенно вблизи технологического оборудования.

и далее бла бла…

К таким выводам и я сам мог прийти просто посмотрев пару НПА…

В любом случае нейросети это продукт интернета и основа нейросетей это интернет а интернет как величайшую информационную мусорку всех времен не ругал только ленивый.

Ульяна
3 часа
0

На самом деле, обсуждая ИИ (не только здесь и не только в сфере ОТ) я понимаю, что многие не совсем понимаю, как его использовать. Не говоря о том, что бесплатные версии сильно урезанные, ИИ обученный под конкретную задачу сильно эффективнее, важно правильно задавать вопрос.

Татьяна П.
43 минуты
0

Ну так правильно задавать вопрос всегда важно 😀 Люди тоже и задачу выполняют эффективнее и ответы дают на имевшийся в виду вопрос, если эти задача/вопрос сформулированы правильно (особенно без умалчиваний и недосказанностей) 😉

Забавно еще, когда ИИ пишет: “2026 год еще не наступил. Вы ссылаетесь на несуществующий источник, мамой клянусь!!!”. А когда тыкаешь его носом в действующий ЛНА – переобувается на лету, мол “Ой, я ошибся”)) Экспертность на нуле)

Или приводит ссылки на несуществующие судебные практики. Дело № такое-то, которого в природе не существует) Тыкаешь носом и тот снова: “Ой..” 😀