Последние новости цифровизации повергают в недоумение. Только за 2025 год крупнейший стриминговый сервис Spotify удалил 75 миллионов спам-треков, сгенерированных с помощью технологий искусственного интеллекта (ИИ). Это количество сопоставимо с объёмом его каталога оригинальных произведений. За тот же период по миру зафиксировано свыше 500 случаев фальсификации юридических документов с признаками ИИ-галлюцинаций. В Албании появился виртуальный министр. Чат-боты стали подводить людей к мысли о самоубийстве, а также помогать в изучении технологий изготовления взрывчатых веществ. При этом одну из ценнейших исторических сокровищниц человечества защищают самым очевидным и оттого небезопасным паролем «Louvre» (Лувр).
На фоне этого возникают серьезные опасения и вопросы, касающиеся нашего будущего и дальнейших перспектив цифровизации. Например, как не потерять способность принимать осознанные и рациональные решения, когда алгоритмы с легкостью предлагают готовые ответы, не требуя ни капли критического мышления? Или, что может быть еще опаснее, как человеку не потеряться в мире, захламленном синтетической информацией, где грань между истиной и правдоподобной ложью размывается все сильнее?
Действительно, человечество стоит на пороге цифровой революции, которую многие считают естественным этапом эволюции информационных технологий. Однако переход к цифровому миру, который должен расширить наши возможности, рискует превратиться в ловушку, где мы окажемся не хозяевами, а заложниками технологий. И речь идет не о фантастическом сценарии восстания машин, а о куда более прозаичной, но не менее опасной реальности: о постепенной деградации человеческого интеллекта и критического мышления на фоне тотальной цифровизации.
Всю историю своего существования человечество познавало мир вокруг себя, опираясь на фундаментальный принцип: данные преобразуются в осмысленные информационные потоки именно людьми. Присутствовала ли в этих потоках фальсификация? Безусловно. Было ли человечество способно справиться с этим своими силами? Также да. Критическое мышление, научный метод, перекрестная проверка источников - все эти инструменты позволяли отделять истину от лжи, факты от домыслов.
Но сегодня мы стремительно приближаемся к точке невозврата, где традиционные механизмы верификации информации перестают работать. Два синхронных процесса формируют идеальный шторм, способный подорвать основы научно-технического прогресса: катастрофическое сокращение корпуса квалифицированных инженерных кадров и лавинообразное загрязнение информационного пространства синтетическим контентом.
Миф о замещении профессий
На протяжении последних двадцати-тридцати лет в общественное сознание активно внедрялся миф о том, что компьютеры легко заменят рабочих и инженеров, но не смогут конкурировать с представителями креативных профессий. Этот нарратив оказал разрушительное влияние на профессиональную ориентацию целого поколения. Произошел резкий упадок престижа рабочих и инженерных профессий в глазах молодежи, которая стремится в сферы, как они считают, защищенные от цифровизации: дизайн, маркетинг, контент-менеджмент, креативные индустрии и т.п.
Ирония заключается в том, что реальность оказалась диаметрально противоположной. Современные языковые модели продемонстрировали впечатляющие способности именно в творческих областях: они пишут тексты, создают изображения, сочиняют музыку, генерируют дизайн-концепции. В то же время задачи, требующие глубокого понимания физических процессов, инженерного проектирования с учетом множества реальных ограничений, а также рутинного использования мелкой моторики по-прежнему остаются прерогативой человека.
Возьмем, например, профессию горного инженера-геолога. Сегодня ИИ способен обрабатывать терабайты данных сейсмической разведки, строить сложные трехмерные модели и предлагать оптимальные точки для бурения с высочайшей точностью. Более того, системы компьютерного зрения уже превосходят человека в решении стандартизированных задач анализа данных. Однако критически важным остается этап, где абстрактная модель встречается со сложной реальностью. Именно здесь требуется человек, который выходит на участок, чтобы оценить реальные геологические условия, учесть совокупность локальных особенностей объекта. Выявить, например, несоответствие реального залегания пород прогнозной модели или распознать наличие непредвиденных тектонических нарушений - это требует интуиции, выработанной годами практики. Таким образом, профессия действительно меняется, но не замещается. Принятие окончательных решений в условиях неопределенности и несение за них ответственности остается за человеком-профессионалом.
Результат же заблуждения о замещении профессий катастрофичен - стремительное сокращение числа квалифицированных специалистов в ключевых отраслях промышленности. Молодежь не хочет становиться технологами, конструкторами, энергетиками - профессионалами, на которых держится материальная основа цивилизации, в том числе IT-сектора. Опытные инженеры и рабочие, носители уникальных знаний и навыков, покидают нас, не оставляя преемников. Производственные традиции, выработанные десятилетиями практики, исчезают, а с ними увядает и способность общества решать сложные технологические и фундаментальные задачи.
Информационный потоп синтетических данных
Вторая угроза менее очевидна, но не менее опасна. Интернет, который должен был стать величайшим хранилищем человеческих знаний, стремительно превращается в свалку синтетического мусора. Современные языковые модели генерируют контент с невиданной ранее скоростью и в невообразимых объемах. Статьи, посты в социальных сетях, комментарии, обзоры, ИИ-агенты, даже псевдонаучные исследования - все это заполняет информационное пространство, вытесняя аутентичный человеческий опыт, проверенные знания и самих людей.
Проблема не столько в том, что ИИ создает откровенно ложную информацию на основе первичных данных, верифицированных человеком-экспертом (хотя и такое случается). Более же фундаментальная проблема в том, что он генерирует правдоподобный, поверхностный контент, лишенный глубины понимания, контекста и критического осмысления. Такой контент заполняет поисковую выдачу, используется другими моделями, создавая эффект эха, когда одна и та же неточность или упрощение многократно повторяется, усиливается, комбинируется с другими аналогичными упрощениями и приобретает видимость истины. Раньше подобные процессы занимали годы, что давало шанс борьбы с ними. Теперь они могут протекать за считанные часы, за которые человеку невозможно что-либо предпринять. Некоторые свежие исследования показывают, что даже наиболее современные чат-боты на основе ИИ искажают до 45% выдаваемой информации.
Преодолеть пропасть информационного мусора в долгосрочной перспективе без применения другого ИИ становится невозможным. Это загоняет нас в порочный круг: мы используем ИИ для фильтрации контента, созданного ИИ, который, в свою очередь, обучался на данных, уже содержащих синтетические примеси. С каждой итерацией цикла ситуация будет только усугубляться. Информационная экосистема, в которой доминируют синтетические данные, неизбежно деградирует, утрачивая связь с реальностью. Показателен пример компании Deloitte, которая подготовила для правительства Австралии отчет стоимостью 290 тысяч долларов США с ошибками, допущенными ИИ.
Но наиболее чувствительными к этому негативному тренду являются школьники. Доступность ИИ действует, как наркотик. Зачем прилагать усилия к решению задачи, анализу источников или проверке информации, если ИИ выдаст готовый ответ мгновенно и без малейших трудозатрат? Иллюзия простоты и легкости, зарождаясь еще со школьной скамьи, приводит к системной деградации способности к критическому и самостоятельному мышлению. В результате растет доля населения, привыкшая к готовым решениям и беспомощная перед реальными сложными проблемами, требующими глубокого анализа.
Наука как последний рубеж
Мы привыкли считать, что действительно опасные технологии находятся под жестким государственным контролем. Массовые информационные технологии, напротив, воспринимаются как нечто безобидное, демократичное, прогрессивное, доступное каждому. Эта иллюзия безопасности и веры в безоблачное будущее может сыграть с человечеством злую шутку.
Так, например, в книге Клауса Шваба «Четвертая промышленная революция» (2016) был представлен список кардинальных изменений и мегатрендов, которые, по мнению экспертов Всемирного Экономического Форума, с высокой долей вероятности проявятся к 2025 году. Они не оправдались даже на четверть. Это не говорит о том, что указанные тренды отсутствуют сегодня, они, безусловно, существуют, но темпы их интеграции в реальную жизнь куда более скромные, чем хотелось бы верить технооптимистам.
Рынок перегрет ожиданиями, многие проекты держатся исключительно на хайпе, а не на реальной экономической эффективности. Но главная опасность – не в раздувшихся финансовых пузырях, которые рано или поздно лопнут, хотя уже сегодня в них затягиваются и реальные сектора экономики, такие как энергетика. Главная опасность - в формировании у общества иллюзии цифрового благополучия, веры в то, что технологии нового поколения, включая ИИ, станут для нас универсальной палочкой-выручалочкой в решении всех проблем.
Этого не произойдет без самостоятельно мыслящих людей, способных понимать механизмы работы технологий ИИ без прочтения инструкций, сгенерированных тем же ИИ. Людей, способных критически оценивать результаты и последствия решений, выявлять ограничения алгоритмов, ставить правильные вопросы и верифицировать ответы. Способных отличать корреляцию от причинно-следственной связи, статистический артефакт от реального феномена, правдоподобное объяснение от истинного.
К числу безусловных областей, где такие люди не должны исчезнуть, относится наука, хотя, конечно, критически важных областей намного больше. Научные компетенции - это не только умение проводить эксперименты или писать статьи. Это способ мышления, система ценностей, методология познания, которая выковывалась веками. Научный метод с его требованиями воспроизводимости, верифицируемости, прозрачности данных - это мощнейший инструмент защиты от заблуждений и манипуляций.
Именно поэтому особую важность приобретает работа по формированию у современных студентов критически важных научно-инженерных компетенций. Например, на базе Санкт-Петербургского горного университета реализуются программы, направленные на развитие навыков, связанных с поиском, анализом, обработкой, проверкой и использованием научной информации.
Студенты учатся не просто потреблять результаты выдачи поисковых запросов, но активно работать с первоисточниками, оценивать качество данных и выстраивать логические цепочки доказательств. Их учат правильно использовать современные инструменты работы с данными - не как замену мышлению, а как его расширение. ИИ может быть полезным помощником в обработке больших массивов информации, в выявлении паттернов, в автоматизации рутинных операций. Но решения должен принимать человек, обладающий глубоким пониманием предметной области.
Важнейшей частью подготовки становится обучение оформлению результатов работы и их представлению научному сообществу. Студенты осваивают стандарты научных публикаций, учатся структурировать изложение, правильно ссылаться на первоисточники, представлять данные в наглядной и убедительной форме. Цель - не просто выполнить исследование, но сделать его результаты достоянием науки, верифицированной крупицей новых знаний, способной привлечь внимание специалистов широких кругов.
Гибридный подход: аналоговые знания и цифровые инструменты
Только комбинация аналоговых знаний и цифровых инструментов дает реальную надежду инженерному образованию и науке, особенно в самых чувствительных для России отраслях экономики, таких, например, как горное дело, энергетика, металлургия, химическая промышленность, машиностроение.
Аналоговые знания - это фундаментальное понимание физических процессов, химических реакций, механических систем. Это интуиция, выработанная практикой и способность видеть целое, а не только отдельные фрагменты данных. Это знание того, как вещи работают в реальном мире, с его трением, потерями, неопределенностью и ограничениями.
Цифровые инструменты - это мощные средства моделирования, симуляции, оптимизации. Это возможность проверить тысячи вариантов конструкции за минуты, получить доступ к огромным базам данных и научным публикациям, а также способность обрабатывать информацию в масштабах, недоступных человеческому мозгу.
Ключ к успеху - в их гармоничном сочетании, где цифровые технологии усиливают человеческий интеллект, а не заменяют его. Где ИИ отвечает на вопросы, которые ставит человек, обладающий глубоким пониманием проблемы. Где результаты моделирования критически оцениваются специалистом, способным отличить значимый результат от математического артефакта.
Этот подход требует нового типа образования - не слепо ориентированного исключительно на цифровые навыки и не цепляющегося судорожно за традиции прошлого, а органично соединяющего лучшее из обоих миров.
Такое образование формирует профессионалов, которые одинаково свободно чувствуют себя как за верстаком или у доменной печи, так и перед экраном компьютера с самым современным программным обеспечением.
Порочный круг взаимного усиления цифровой деградации еще можно разорвать, но окно возможностей сужается. Чтобы воспользоваться этим окном необходимы осознанные и целенаправленные усилия по предотвращению необдуманных практик, имеющих серьезные экзистенциональные последствия, как например, открытие школ, где учителей заменяет ИИ. Необходимо вернуть престиж инженерным и рабочим профессиям, показать молодежи их интеллектуальную привлекательность и практическую значимость, и практика Горного университета доказывает, что это возможно.
Также требуется создать механизмы верификации и фильтрации информационных потоков, защищающие научное и образовательное пространство от загрязнения синтетическим мусором. Цифровая революция неизбежна, но ее исход не предопределен. Она может привести нас к невиданному расцвету науки и технологий, к решению проблем, которые сегодня кажутся неразрешимыми. Но она может и ввергнуть человечество в новое средневековье - эпоху цифрового мракобесия, где люди будут беспомощно плыть по течению информационных потоков, утратив способность отличать истину от иллюзии.