«Осуждение и личная убеждённость в правоте, как выяснилось, — это роскошь тех, кто стоит в стороне». — Парчер
Коллеги, добрый день!
Для начала — огромная благодарность. Случай (или Гугл) привёл меня в это сообщество и, читая ваши комментарии, я вижу живые дискуссии, критику и личные мнения. Это невероятно ценно и вдохновляет делиться своим опытом.
Идея: а что если «ЧатГПТ» стал личным консультантом по НПА?
Помните всеобщий шок от ChatGPT? Я был в том же строю. Наигравшись с генерацией стихов, пришла рабочая мысль: как здорово, чтобы такой умный помощник, отвечающий на вопросы по существу, всегда был в телефоне. И желательно — бесплатно.
Языковые модели тогда росли, как грибы. Выбор пал на Coze — китайскую платформу (живую до сих пор), которая умела давать ответы на основе конкретных источников. Вот это давало реальную пользу!
Супер-возможность: можно было «скормить» агенту ссылки на российские правовые порталы по ОТ и ПБ, и он строил ответы, опираясь на актуальные нормы.
Рождение «Царя-Владимира»: бот в Telegram
Второй прорыв — открытый API, позволяющий встроить агента в Telegram-бота. Так в апреле 2024 года появился мой канал «3/9. Царство. Безопасный рубеж» с чат-ботом «Царь-Владимир».
Замысел был амбициозным: развивать канал и бота как удобный справочный инструмент для специалистов. Канал, увы, забросил (всего 33 поста), но ботом я пользовался активно — до тех пор, пока в Coze не закрыли безлимитный бесплатный доступ. Осталось лишь 2 запроса в сутки.
Несмотря на лимит, в срочных случаях я к нему всё ещё обращаюсь.
Прошу вашей экспертной оценки
Мне важно и интересно ваше профессиональное мнение: насколько такая идея вообще жизнеспособна и полезна?
По условиям модератора, не могу выложить ссылку в тексте (и это правильно) но, после публикации я выложу ссылку на бота в комментариях к этому посту (если админ не против). Попробуйте задать ему узкий, конкретный вопрос по нормативке. Критика, оценка, идеи — всё будет чрезвычайно ценно.
Что у меня получилось, а что — нет, в этом эксперименте:
✅ Получилось: Создать рабочего, контекстно-зависимого бота, который реально экономит время на поиск норм.
❌ Не получилось (пока): Масштабировать проект из-за ограничений на бесплатное использование и, признаюсь, нехватки времени на развитие канала и мой природный дар – “лень”.
Главный вопрос коллегам: нужен ли нам, специалистам по ОТ и ПБ, такой инструмент-напарник в Telegram или другом мессенджере? Что он должен уметь, чтобы вы им пользовались?
Продолжение следует… в следующих постах расскажу, как эволюционировал мой подход к ИИ, и что я пробую сейчас.
Автор материала
jazevvladimir
«Найти бы равновесное состояние, когда победа – не главное и нет проигравших» (Джон Нэш)
Поделюсь опытом. Сделали мы свой чат-бот со своими ИТшниками. Решили сначала ограничиться только постановлением 2464. Загрузили туда много текстовой нормативки, типовые вопросы и ответы и т.п. Дали коллегам попробовать пообщаться. Получили кучу трешовых ответов, написали на них верные ответы, опять все это подгрузили в контекст. Опять протестировали и т.п. Примерно 10 итераций таких провели и он начал давать ответы верные ответы примерно на 80% вопросов.
По моему опыту, это баловство. Прикольно конечно, интересно понимать как думает ИИ, как выстраивает логику и т.п. Но, к сожалению, до полноценного помощника еще очень очень очень далеко.
Не умеет ИИ работать с нормативкой, вот и все.
Коллеги! Рад, что у нас дискуссия. Позволил себе “НАГЛОСТИ” проанализировать Комментарии через ИИ и задать пару вопросов. Работал с ДИПСИКом (далее ДС) (люблю эту LLM, хоть и врёт иногда) но отвечает быстро, креативно и бесплатно. Итак, заставил ДС прочитать Ваши комментарии и ответить на вопросы. Всё по порядку текст ниже к этому комментарию. (кому интересно)…
На основе предоставленных комментариев можно сформулировать обобщенный ответ, который отражает основные критические точки зрения специалистов по ОТ и ПБ (охране труда и пожарной безопасности) на использование ИИ в их профессиональной сфере:
Ответ (резюмирующий мнения комментаторов):
Текущее состояние технологий искусственного интеллекта (в частности, крупных языковых моделей и чат-ботов) вызывает серьезные скепсис и опасения среди специалистов по ОТ и ПБ как инструмент для решения профессиональных задач. Ключевые претензии можно объединить в несколько тезисов:
Отсутствие надежности и достоверности: ИИ склонен к “галлюцинациям” — генерации убедительно звучащей, но вымышленной или неверной информации, включая несуществующие нормативные документы, правила и их реквизиты. Это делает его абсолютно ненадежным для важных решений без обязательной перепроверки специалистом.
Проблема актуальности знаний: Нейросеть не способна самостоятельно отслеживать изменения в нормативной базе (например, выход новых документов), так как ее база знаний обновляется с задержкой и не ежедневно.
Отсутствие здравого смысла и опыта: У ИИ нет реального практического опыта и понимания контекста, присущего человеку-специалисту. Он не может критически оценить или перепроверить свой ответ на основе “здравого смысла”.
Риск дезинформации: Для неопытных пользователей, не владеющих свободно нормативной базой, использование ИИ превращается во “вредительство”. Они получают готовый, но потенциально опасный ответ, воспринимая его как истину, и неспособны отличить корректную информацию от “ереси”.
Низкое качество специализированных решений: Попытки создания узкоспециализированных чат-ботов (например, для СОТов или расследования пожаров) пока приводят к разочарованию. Эти инструменты часто выдают некорректную, не по теме или устаревшую информацию, а их масштабирование и практическая польза остаются под вопросом.
Экономическая нецелесообразность: Даже на ранних стадиях с сомнительным качеством за такие инструменты часто предполагается плата, что делает их непривлекательными.
Общий вывод комментаторов: На текущем этапе ИИ — это не “напарник” или “консультант”, а скорее необязательный, непроверенный источник, который увеличивает нагрузку на специалиста, заставляя его тратить время на тотальную верификацию каждой выданной нейросетью “подсказки”. Потенциал технологий признается, но для профессионального применения в сфере ОТ и ПБ требуется либо создание высокоспециализированных, постоянно обновляемых и проверенных моделей, либо значительный прогресс в качестве и надежности общих ИИ-решений. Пока же многие специалисты сознательно отказываются от их использования в работе.
ДС – Дай рекомендации для специалистов и прогнозы на 2026 год на основе выводов и данных
На основе критического анализа комментариев специалистов по ОТ и ПБ можно сформулировать практические рекомендации для профессионалов и реалистичные прогнозы на 2026 год.
### **Рекомендации для специалистов по ОТ и ПБ на текущий момент (2024-2025)**
1. **Принцип «Доверяй, но проверяй» как основной.** Используйте ИИ исключительно как инструмент для **генерации идей, черновых набросков или структурирования известной вам информации**. Любой факт, норма, ссылка на документ или техническое решение, полученное от ИИ, подлежит обязательной перепроверке по первоисточникам (актуальным редакциям НПА, базам данных, методическим рекомендациям).
2. **Формируйте экспертные промпты.** Качество ответа напрямую зависит от качества запроса. Включайте в промт:
* Контекст (например, “для строительной площадки в РФ”).
* Требование ссылаться на конкретные действующие нормативные акты (с указанием их названий и, если возможно, реквизитов).
* Ограничение по времени (“информация по состоянию на июль 2024 года”).
* Запрет на вымысел (“Если информация отсутствует или не подтверждена, укажи на это”).
3. **Определите безопасные ниши для применения.** Используйте ИИ для задач, где ошибка не критична, а вы являетесь конечным фильтром:
* Составление типовых программ инструктажей (с последующей адаптацией под конкретное рабочее место).
* Генерация вариантов формулировок для положений, приказов, отчетов.
* Анализ и структурирование больших объемов текстовой информации (например, протоколов, актов).
* Помощь в изучении смежных тем или подготовке учебных материалов.
4. **Не делегируйте ИИ анализ и принятие решений.** Оценка рисков, расследование несчастных случаев, трактовка противоречивых норм, окончательное заключение о соответствии — это прерогатива человека, основанная на опыте и здравом смысле.
5. **Обучайте коллег.** Предупреждайте неопытных специалистов и руководителей об опасности слепого доверия к ИИ. Сформируйте внутри организации культуру критической оценки любых данных, полученных из ИИ-источников.
### **Прогнозы на 2026 год в сфере ИИ для ОТ и ПБ**
Прогнозы строятся на двух столпах: **эволюция существующих проблем** и **появление новых, более узкоспециализированных инструментов.**
1. **Прорыв не произойдет, но появятся первые специализированные продукты.** Ожидать, что к 2026 году ChatGPT или его аналоги обретут “здравый смысл” и абсолютную надежность, не стоит. Однако появятся первые коммерческие **узкоспециализированные ИИ-сервисы для ОТ и ПБ**, разработанные в партнерстве с профильными институтами (типа ВНИИ ПО, НИИ труда) или крупными консалтинговыми компаниями.
2. **Фокус сместится на RAG-системы (Retrieval-Augmented Generation).** Будут активно развиваться системы, где ИИ не полагается на свою “память”, а ищет ответы в предоставленной, постоянно обновляемой базе документов. Это позволит:
* **Решить проблему актуальности.** Базу можно обновлять ежедневно, включая новые приказы, изменения в ТК РФ, ГОСТы.
* **Снизить уровень “галлюцинаций”.** Ответ будет генерироваться строго на основе прикрепленных источников.
* **Создавать корпоративные ассистенты.** Крупные компании с мощной нормативной базой смогут развернуть внутренних ИИ-помощников, обученных на их собственных документах и регламентах.
3. **Интеграция с BIM и системами мониторинга.** ИИ начнет активнее использоваться не для генерации текстов, а для **анализа данных**: автоматического распознавания нарушений на видео с камер (отсутствие СИЗ, несанкционированный доступ в зоны), анализа 3D-моделей (BIM) на предмет соответствия требованиям безопасности на этапе проектирования, первичной обработки данных с датчиков (загазованность, шум).
4. **Обязательная верификация останется нормой.** Да для самых продвинутых систем в 2026 году сохранится правило: **за ключевое решение, основанное на данных ИИ, отвечает человек-специалист.** Это может быть даже закреплено в корпоративных регламентах или будущих профессиональных стандартах.
5. **Раскол в профессиональном сообществе усилится.** Сформируются два лагеря:
* **”Прогрессисты”**, которые освоят специализированные ИИ-инструменты, повысят свою эффективность в рутинных задачах и станут их внедрять.
* **”Консерваторы”**, которые, опираясь на горький опыт ранних внедрений, будут полностью отвергать ИИ, справедливо указывая на сохраняющиеся риски.
6. **Возрастет спрос на “гибридные” компетенции.** На рынке труда будет выше цениться специалист по ОТ и ПБ, который **не только знает нормативку, но и умеет грамотно использовать ИИ-инструменты для ее анализа и применения**, понимая их ограничения.
**Итог на 2026 год:** Год станет не годом триумфа общего ИИ в ОТ и ПБ, а годом **прагматичной специализации**. Появятся первые рабочие инструменты, но их внедрение потребует от специалистов еще более высокого уровня экспертизы — уже не только в предметной области, но и в умении управлять “цифровым ассистентом”. Ключевым навыком останется критическое мышление и способность отличить надежную технологическую помощь от опасной имитации знаний.
Не понятно одно – зачем анализировать наши комментарии – чтобы что? Тем более “вывод” ИИ оказался сильно длиннее живых комментариев.
Самая большая проблема в том, что у ИИ нет здравого смысла или реального опыта, чтобы перепроверить свои ответы.
Для решения важных задач этот инструмент абсолютно ненадежен.
Посмотрим что выкатит нам Яндекс с МЧС по нейросети для расследования пожаров. Недавно был анонс о том что ведется уже тестирование в АГПС.
Видела, но там вроде просто предполагается автоматическое описание снимков с места пожара))))
Это мне напоминает ИИ описание МРТ, работает функционал давно, лично приходилось в этом году проходить МРТ 3 раза. Все три раза писала жалобу и требования описания врачом, а не ИИ.
Конечно технологии развиваются и может через лет 5 что то годное и выйдет, пока много глюков))))
Не сможет он стать полноценным консультантом, как и любая другая нейросеть, если только свою LLM создавать и обучать. Даже если вы придумаете очень правильный промт. Да, результат будет лучше, но не то, что нам нужно (тут не важно, ОТ, ПБ или любое другое занормированное направление).
Нейросеть чему обучили, то и будет выдавать. В поиске информации из Сети все равно будет приносить «галлюцинации» и неверные ссылки и даже реквизиты документов, будет сочинять то, о чем её не просили. Также нейросеть не сможет понять, что вчера вышел новый документ и нужно теперь ссылаться на него, т.к. базу знаний не каждый день обновляют же.
Само собой, модель модели рознь, и у них есть сильные и слабые стороны. Каждая модель создавалась для решения каких-то конкретных задач (в первую очередь работа с кодом, математические вычисления, аналитика данных).
Если по статье, то, честно, 90% просто история про призрачную идею, потом «я сделал бота», потом просто вывод “получилось создать, но не получилось масштабировать”. Где рассказ то про эксперимент из заголовка? Какие были условия, цели, критерии оценки качества и т.д. Могли бы хотя бы рассказать о том, как создавали, на чем его проверяли и насколько это всё успешно было, с какими проблемами столкнулись.
Сама не пользуюсь, не вижу потребности пока, учитывая его текущие возможности.
Так же анализирую вопросы пользователей СпецХелп, которые выкладывают какую-то ересь – “так ИИ сказал”.
На данном этапе, если не владеешь свободно нормативкой и не можешь её проанализировать, то обращаться в ИИ – вредительство и ощущения, как окунуться добровольно в выгребную яму)
Как по мне, он сейчас как родственник директора, который дает тонны информации, но для ее проверки ты все равно идешь в первоисточник, ибо неоднократно ловил его на звездеже. Но в отличии от навязанного родственника, от ИИ можно отказаться. Что собственно я и сделал.
Как-то решил попробовать по вопросам ОТ чат GPT. Он тут же придумал какие-то не существующие правила, замешал их еще на промбезе и как на голубом глазу доказывал мне, что он прав)))) Правда потом признал – пока знает не все и только учится. Но зачем подавать материал как единственную истину!
Мне предлагали как-то поучаствовать в тестировании чат-бота для СОТов – было разочарование… Много чего подтягивал не по теме и некорректно. ИИ в поисковике и то лучше предоставлял информацию.
Поэтому в принципе -идея неплохая, но реализация хромает пока у того, что я видела. И при этом, даже на том этапе, за чат-бот предполагалась плата.
Админ против))
Ссылку размещайте в профиле, образец: https://лица.блог-инженера.рф/user/prokshits/
АДмин… ау, я могу где-то дать ссылку на чат-бота, что-бы коллеги глянули? Та всего-то в бесплатной версии два запроса в сутки. – и никакой рекламмммы..
админ, прости я не разобрался куда можно дать ссылку – оставил в новой публикации в Сервисы. Перемести, плиз. куда нужно… Спасибо заранее.
Вот как так?.. с ботом и ИИ разобрался, а как заполнить профиль в соцсети (на этом сайте тот же принцип) – не разобрался?))
Что конкретно не понятно? Я пример привела.
Отдельным постом делать это странно…