Введение
Несмотря на то, что технологии искусственного интеллекта (далее – ИИ) стали доступны широкому кругу пользователей совсем недавно, их стремительная экспансия в различные стороны человеческой деятельности поражает исследователей своими масштабами [16, 23]. Скорость развития этих технологий такова, что существует явный риск недостаточного осмысления последствий их интеграции в жизненное пространство современного человека. В этой связи, исследования, направленные на изучение характера и рисков взаимодействия человека с генеративным ИИ, приобретают особую актуальность.
Человечество уже переживало технологические переходы, требовавшие формирования новой культуры безопасности. В эпоху индустриализации массовое включение людей в фабрично-заводской труд сопровождалось ростом рисков, связанных с машиной, темпом труда, слабой подготовкой работников и неразвитостью систем охраны труда [7]. Причины производственного травматизма связывались с низким уровнем профессиональных компетенций, нарушениями организации труда, пренебрежением нормами безопасности и человеческим фактором [4]. В психологическом анализе несчастных случаев выделялись нарушения мотивационной, ориентировочной и исполнительной частей действия [13].
Современная цифровизация ставит перед человеком сходную по структуре, но иную по содержанию задачу. Если индустриальная эпоха требовала защиты телесной безопасности человека в машинной среде, то экспансия ИИ требует охраны когнитивной, эмоционально-регуляторной и субъектной целостности человека в среде интеллектуальных цифровых систем. Международная организация труда рассматривает внедрение ИИ как фактор изменения психосоциальной рабочей среды и благополучия работников [20]. Недостаточная готовность к работе с ИИ может становиться источником психосоциальной дезадаптации, профессионального истощения, снижения когнитивной самостоятельности и утраты субъектного контроля.
Под цифровым травматизмом в настоящей статье понимается совокупность неблагоприятных когнитивных, эмоционально-регуляторных и субъектных последствий взаимодействия с цифровыми и интеллектуальными системами, возникающих вследствие несоответствия технологической среды возрастным, индивидуальным и особым образовательным потребностям человека, а также несформированности компетенций безопасного использования ИИ. Целью статьи является анализ и теоретическое обоснование цифрового травматизма как новой психолого-педагогической проблемы и определение направлений его профилактики, обеспечивающих безопасное и развивающее освоение интеллектуальных цифровых систем.
Технологический переход и проблема цифрового травматизма
Принятая в данной статье историческая аналогия между индустриализацией и цифровизацией не предполагает прямого отождествления физического производственного травматизма и психосоциальных рисков взаимодействия человека и ИИ. Применение этой эвристики связано с двумя факторами. Во-первых, в обеих этих ситуациях можно обнаружить разрыв между быстрым усложнением технологической среды и готовностью человека к безопасному, осознанному и продуктивному действию в этой среде. Во-вторых, такой подход позволяет уйти от присвоения ИИ субъектности или словами А.В. Миронова излишней «демонизации» [8, с. 10], рассмотрения его в качестве сложного инструмента, овладение которым требует от человека, общества и культуры создания специальных условий.
Одной из наиболее разработанных научных линий, позволяющих подойти к пониманию цифрового травматизма, выступает теория техностресса, позволяющая определить эмоционально-регуляторную составляющую цифрового травматизма. Под технострессом принято понимать адаптационные затруднения, вызванные неспособностью нормально справляться с новыми цифровыми технологиями [2, 26]. Различают два вида техностресса по аналогии с биологической теорией стресса Г. Селье: техно-эустресс представляет собой стимулирующее или воодушевляющее воздействие нехватки компетенций в работе с технологией и техно-дистресс, который связывается с восприятием технологии как угрозы социальному и/или психологическому благополучию человека [32]. Некоторые авторы связывают появление техностресса с чрезмерным использованием технологий, говоря о техно-перегрузке [21], техно-сложности, техновторжении, техно-неопределенности и технофобии [11, 28]. Собственно, ключевыми техно-стрессорами могут стать два различных состояния взаимодействия человека и технологии. В первом случае, сложность технологии превосходит возможности пользователя в ее использовании, во втором – технология не соответствует ожиданиям пользователя и не позволяет ему решать требуемые задачи [33].
С распространением нейросетей эта проблематика получает новое развитие: исследователи начинают говорить об ИИ-технострессе [14] и ИИ-стрессорах, то есть о специфических стрессогенных факторах, связанных с использованием интеллектуальных систем. Так, в недавнем систематическом обзоре были выделены следующие виды ИИ-стрессоров: техническая непредсказуемость, потеря автономии, этический и моральный конфликт, социальная эрозия, карьерная неопределенность [31]. Техническая неопределенность характеризует сложности в понимании принципов работы ИИ и следующее в связи с этим снижение чувства контроля, потеря автономии проявляется в передаче полномочий по принятию решений алгоритмам, этический и моральный конфликт связан с возникающими противоречиями между личными или профессиональными нормами и передачи авторства ИИ, социальная эрозия изменяет межличностные отношения, ослабляя доверие и коммуникацию вследствие включения алгоритмов ИИ в процесс и оценку деятельности человека, а карьерная неопределенность отражает страх профессионального замещения инструментами ИИ, необходимость постоянной адаптации к новым инструментам. Следует также упомянуть эмоциональное напряжение, возникающее при восприятии ИИ как более компетентного, быстрого или авторитетного субъекта действия. Таким образом, теория техностресса позволяет описать эмоционально-регуляторный контур взаимодействия человека с ИИ. Интеллектуальная цифровая среда оказывается источником требований, которые могут превышать адаптационные возможности человека. В этом случае взаимодействие ИИ может сопровождаться тревогой, перегрузкой, снижением самоэффективности и контроля над жизнью, переживанием собственной несостоятельности перед технологией. В этом плане принципиально важным оказывает вопрос о готовности человека к осмысленному и безопасному действию в новой технологической среде.
Наиболее обширным полем современных исследований стало изучение изменения характера интеллектуального действия человека в условиях взаимодействия с ИИ, что может отражать когнитивную составляющую цифрового травматизма. В традиционной образовательной и профессиональной деятельности мышление разворачивается как последовательность взаимосвязанных операций, включая постановку вопроса, поиск информации, анализ информации, сопоставление альтернативных позиций, формулирование вывода, проверка его обоснованности и рефлексия собственных оснований суждения [12]. Генеративный ИИ способен существенно ускорять эти процессы, предлагая пользователю готовые тексты, объяснения, решения, аргументы и интерпретации. Однако именно эта способность технологии создавать видимость завершенного интеллектуального продукта порождает особый риск. У человека может возникнуть искушение воспринять результат работы ИИ как замену собственному мышлению.
Наиболее близким к описанию данного риска является понятие когнитивной разгрузки (cognitive offloading). В когнитивной психологии под когнитивной разгрузкой понимается перенос части мыслительных операций на внешние инструменты, позволяющий снизить нагрузку на память, внимание и исполнительные функции [30]. Сама по себе когнитивная разгрузка не является негативным явлением. В ходе всего филогенеза человек все шире использовал культурные и технические средства для расширения собственных когнитивных возможностей. Записная книжка, учебник, калькулятор, поисковая система или электронный навигатор могут рассматриваться как средства поддержки когнитивной деятельности посредством выполнения отдельных вспомогательных операций. Специфика генеративного ИИ состоит в том, что он берет на себя формирование целостных фрагментов смыслообразования. Он формулирует проблему, выстраивает аргументацию, предлагает выводы, имитирует диалог и создает логически связный текст. В результате возникает риск смещения пользователя из позиции субъекта мышления в позицию потребителя готового интеллектуального продукта.
В образовательной ситуации этот риск особенно значим, поскольку учебное действие имеет развивающий смысл благодаря усилию поиска, сравнения, исправления ошибок и самостоятельного построения знания. Если ИИ используется как средство обхода такого усилия, внешне успешное выполнение задания может сопровождаться ослаблением познавательной активности. Современные исследования показывают, что использование генеративного ИИ связано со снижением когнитивных усилий и изменением практик критического мышления [17, 24]. Систематический обзор C. Zhai и соавторов фиксирует риск чрезмерной зависимости студентов от диалоговых ИИ-систем и необходимость анализа последствий такой зависимости для развития когнитивных способностей [34].
Таким образом, когнитивный компонент цифрового травматизма может проявляться в нескольких взаимосвязанных формах. Во-первых, это снижение самостоятельности мышления, когда пользователь все чаще обращается к ИИ не для проверки или расширения собственной идеи, а для ее замещения. Во-вторых, это ослабление критической оценки информации, связанное с доверием к уверенной, грамматически правильной и логически организованной форме ответа. В-третьих, это снижение метакогнитивного контроля, проявляющегося во все большей сложности разделения собственного знания от знания, предоставленного ИИ, а также оценки степени понимания полученного результата. В-четвертых, отмечается риск формирования когнитивной зависимости, когда обращение к инструментам ИИ становится привычным способом поддержки когнитивной деятельности, особенно в ситуациях, требующих интеллектуального напряжения или нехватки времени. В-пятых, сформировавшиеся привычки обращения к инструментам ИИ могут выступать причиной регресса навыков познавательной деятельности вследствие длительного делегирования когнитивных операций вовне, что может приводить к атрофии навыков памяти, внимания, мышления, исполнительных функций в целом.
Профилактика когнитивного цифрового травматизма требует специальной педагогической работы. Обучающихся необходимо учить как навыкам использования ИИ, так и пониманию границ его применимости. В исследованиях, посвященных большим языковым моделям в образовании, подчеркивается необходимость формирования у педагогов и обучающихся компетенций, связанных с пониманием возможностей и ограничений ИИ, критическим мышлением, проверкой фактов и сохранением человеческого контроля за результатом работы интеллектуальных систем [22]. В аналогичной логике рамка ИИ-компетентности ЮНЕСКО ориентирует образовательные системы на подготовку обучающихся к безопасному, осмысленному и ответственному взаимодействию с ИИ [25]. Следовательно, безопасное использование ИИ предполагает формирование навыков постановки точного вопроса, проверки фактов, сопоставления нескольких источников, выявления ошибок и искажений, аргументированного несогласия с ответом системы, а также обязательной рефлексии того, какая часть работы была выполнена человеком, а какая – цифровым инструментом. В этом смысле профилактика когнитивного цифрового травматизма связана с сохранением активной познавательной позиции человека в интеллектуальной деятельности и с определением направлений использования ИИ, где он выступает не в качестве замещения функций мышления человека, а средством его когнитивного развития.
Таким образом, когнитивный компонент цифрового травматизма связан с нарушением развивающего соотношения между внешней интеллектуальной поддержкой и собственной познавательной активностью человека. Если это соотношение сохраняется, ИИ может выполнять функцию культурного орудия (словами Л.С. Выготского), расширяющего возможности мышления. Если оно нарушается, возникает риск когнитивной пассивности, зависимости от готового ответа и ослабления тех функций, которые должны развиваться в процессе учебной и профессиональной деятельности.
Субъектный компонент цифрового травматизма связан с изменением позиции человека во взаимодействии с ИИ как инструментом деятельности. Методологическое основание для его анализа задает отечественная субъектно-деятельностная традиция. В работах С. Л. Рубинштейна субъект рассматривается как человек, включенный в деятельность и преобразующий действительность через собственное отношение к миру [10]. В деятельностном подходе А. Н. Леонтьева активность раскрывается через систему мотивов, целей, действий и операций; это различение важно для анализа ИИ, поскольку инструмент может поддерживать операции, но не должен подменять целеполагание, смыслообразование и оценку результата [6].
К. А. Абульханова связывала субъектность с активной жизненной позицией, способностью личности организовывать собственную жизнедеятельность и принимать ответственность за избранную линию поведения [1]. А. В. Брушлинский подчеркивал, что человек становится субъектом в процессе развития, деятельности и взаимодействия с другими людьми [3]. Эти положения важны для психолого-педагогического анализа ИИ, поскольку субъектность обучающегося не может считаться заранее сформированной; она нуждается в поддержке, упражнении и специально организованных условиях.
Субъектный риск проявляется в размывании авторства, снижении автономии решения, нарушении саморегуляции и размывании ответственности. ИИ-сервисы предъявляют ответ в уверенной и стилистически убедительной форме, что усиливает вероятность доверия к нему даже тогда, когда ответ требует проверки. В исследованиях взаимодействия человека с автоматизированными системами это описывается как ошибки автоматизации и самоуспокоения, то есть склонность некритически следовать автоматизированной рекомендации и снижать собственную внимательность при опоре на технологию [27].
Особенно важен риск нарушения саморегуляции деятельности. А. К. Осницкий связывал субъектную активность с регуляторным опытом, включающим принятую цель, модель условий, программу действий, критерии успешности, контроль, оценку результата и коррекцию способа действия [9]. ИИ может поддерживать эти звенья, если используется для уточнения цели, сравнения вариантов и проверки результата. Однако он может ослаблять их, если берет на себя постановку задачи, построение программы действия, выбор критериев оценки и исправление ошибок. В этом случае человек получает внешний результат, но не осваивает внутреннюю структуру саморегуляции.
Наряду с коррозией регуляторного опыта человека, для его субъектности представляет риск и размывание ответственности. Взаимодействие с ИИ создает новую конфигурацию распределенного действия, в котором результат возникает на пересечении замысла пользователя, архитектуры модели, данных обучения, интерфейсных ограничений и правил использования технологии. Вследствие этого человеку может быть труднее определить собственную меру ответственности за ошибку, недостоверный вывод, этически сомнительный текст или принятое на основе ИИ решение. Для психолого-педагогического анализа важно, что размывание ответственности при использовании ИИ приводит к коррозии развивающего смысла деятельности. Если человек не воспринимает результат как собственное действие, он не формирует полноценный опыт рефлексии, исправления ошибки и принятия последствий своего выбора. В целом, можно говорить о том, что безграмотное использование инструментов ИИ сужает пространство личного действия и снижает опыт субъектного участия в собственной личной, учебной или профессиональной жизни.
В современной образовательной политике проблема сохранения человеческой субъектности становится одним из ключевых оснований ответственного внедрения ИИ. Рамка ИИ-компетентности ЮНЕСКО для педагогов ориентирует использование ИИ на сохранение человеческого контроля, развитие человекоцентричного мышления, этическую оценку технологий и поддержку профессиональной субъектности учителя [15]. Эти положения согласуются с отечественной психолого-педагогической традицией, в которой развитие человека понимается как становление его способности быть субъектом собственной деятельности, общения и жизненного пути.
Профилактика субъектного компонента цифрового травматизма предполагает формирование у обучающихся и педагогов культуры ответственного взаимодействия с ИИ. Она включает развитие способности ясно определять собственную цель до обращения к системе, сохранять авторский замысел, различать помощь и подмену действия, фиксировать вклад ИИ в конечный продукт, принимать ответственность за использование полученного результата и критически оценивать рекомендации цифрового инструмента. В педагогическом отношении важно специально обсуждать вопросы авторства, автономии, ответственности и границ доверия к алгоритму. Безопасное и развивающее взаимодействие с ИИ возможно тогда, когда человек остается субъектом действия, способным использовать ИИ как инструмент, подчиненный собственному замыслу, ценностям и критериям ответственности.
Психолого-педагогическая профилактика цифрового травматизма
Профилактика цифрового травматизма не может быть сведена лишь к обучению техническим приемам использования ИИ. Как и в истории предупреждения производственного травматизма, ключевое значение имеет целостная система условий, включая подготовку человека к безопасному действию, организацию среды, формирование мотивации к ответственному использованию инструмента, развитие саморегуляции и создание механизмов сопровождения.
Значимым основанием для такой постановки вопроса является отечественная традиция психологии безопасности. В ней безопасность рассматривается как сложный психологический феномен, связанный с особенностями деятельности человека, его мотивацией, вниманием, восприятием опасности, ориентировкой в ситуации, навыками действия и функциональным состоянием [5]. Данный подход принципиально важен для анализа взаимодействия с ИИ, поскольку цифровой травматизм также не может быть объяснен только «опасностью» технологии. Он возникает на пересечении характеристик интеллектуальной системы, особенностей пользователя, организации деятельности и культуры обращения с новым инструментом.
В психологии безопасности труда причины травматизма традиционно связываются с особенностями действия человека, его недостаточной ориентировкой в ситуации, нарушением действия, снижением мотивации к соблюдению правил охраны труда, неблагоприятными функциональными состояниями, дефицитом профессиональной подготовки и ошибками в организации труда [4, 5, 13]. Эта логика оказывается продуктивной для анализа взаимодействия человека с ИИ. Цифровой травматизм возникает из несоответствия между сложностью инструмента, условиями его применения и готовностью человека к осознанному, критическому и ответственному действию в цифровой среде.
В классической модели Г. Хайнриха несчастный случай рассматривался как результат цепи причин, где устранение одного из звеньев может предотвратить итоговое повреждение [18]. Позднее эта логика была существенно переосмыслена в системных подходах, особенно в модели «швейцарского сыра» Дж. Ризона, согласно которой происшествие возникает не из-за одной ошибки человека, а вследствие совпадения активных ошибок и скрытых организационных уязвимостей на разных уровнях системы [29]. Для профилактики цифрового травматизма это означает, что нельзя возлагать ответственность только на пользователя ИИ. Риски должны предупреждаться на нескольких уровнях, к которым можно отнести дизайн инструментов, правила их использования, педагогическое сопровождение, развитие компетенций, поддержку саморегуляции пользователя и культуру его ответственного взаимодействия с технологией.
Особую ценность для анализа взаимодействия человека с ИИ имеет и современный поворот от логики предупреждения ошибок к рассмотрению безопасности как способности системы обеспечивать успешное функционирование в изменчивых условиях за счет гибкости, адаптации, мониторинга и обучения [19]. Для психолого-педагогической профилактики цифрового травматизма это принципиально важно. Представляется бесполезным регулировать взаимодействие с ИИ через запреты и ограничения. Необходимо создавать условия, при которых человек учится успешно, критически и развивающе использовать эти инструменты, сохраняя авторство, ответственность, эмоциональное равновесие и когнитивную самостоятельность.
Применительно к ИИ классические направления профилактических мероприятий в сфере безопасности труда могут быть переосмыслены как система психолого-педагогической профилактики цифрового травматизма (см. рисунок 1). Такая система должна учитывать как инструментальную сторону цифровой компетентности, так и эмоционально-регуляторные, когнитивные и субъектные условия безопасного взаимодействия человека с интеллектуальными цифровыми системами.
Первое направление профилактики связано с предварительной ориентировкой человека в природе ИИ как инструмента. Пользователь должен понимать, что генеративный ИИ не является субъектом понимания или ответственным участником деятельности. Он создает вероятностно организованные ответы на основе больших массивов данных и заданного запроса. Поэтому безопасное взаимодействие начинается с демифологизации технологии. Пользователи должны знать о возможностях, ограничениях, ошибках, галлюцинациях, предвзятостях и границах применимости ИИ. В педагогическом плане это означает необходимость введения учебных курсов, призванных формировать у обучающихся представления о возможностях, ограничениях, ошибках, галлюцинациях, предвзятостях и границах применимости ИИ.
Второе направление профилактики связано с формированием мотивации к ответственному использованию ИИ. В охране труда безопасное поведение невозможно, если правила воспринимаются как внешнее ограничение. Аналогичная проблема возникает в цифровой среде. Пользователь может знать о рисках ИИ, но применять его как средство ухода от интеллектуального усилия или формального выполнения задания. Поэтому важно показывать, что безопасность взаимодействия с интеллектуальной системой связана с качеством мышления, авторством, ответственностью, психологическим благополучием и развивающим смыслом деятельности.
Третье направление состоит в формировании безопасной структуры действия с ИИ. По аналогии с предупреждением ошибочных действий можно выделить мотивационную, ориентировочную, исполнительную и контрольную части безопасного цифрового действия. Мотивационная часть предполагает понимание цели обращения к ИИ; ориентировочная – анализ задачи, выбор допустимого способа использования и определение границ доверия к ответу; исполнительная – формулирование запроса, получение ответа и его переработку; контрольная – проверку фактов, сопоставление с источниками, оценку этической приемлемости результата и рефлексию вклада человека и ИИ в конечный продукт.
Четвертое направление определено необходимостью профилактики рисков, связанных с эмоциональной и регуляторной сферами психики. Ключевой задачей профилактики цифрового травматизма становится формирование цифровой саморегуляции как комплекса значимых навыков, включая контроль времени и характера обращения к ИИ, поддержка оптимального функционального состояния при работе с цифровыми инструментами, осознанию и управлению своими эмоциями при взаимодействии с интеллектуальной технологией. В педагогическом плане требуется построения образовательной среды, поддерживающей такие формы использования ИИ, которые способствуют расширению возможностей психосоциального развития обучающихся.
В рамках пятого направления основные усилия направляются на развитие когнитивной самостоятельности обучающихся. Это означает, что работа с ИИ должна строится таким образом, чтобы они восстанавливали логику рассуждений ИИ, проверяли обоснованность предоставленных выводов, сопоставляли разные варианты ответов, обнаруживали логические ошибки в рассуждениях нейросети, и, что особенно важно, определяли собственную точку зрения на предмет обсуждения. В педагогической практике это предполагает разработку комплекса заданий, направленных на анализ качества ответа ИИ, выявления его ограничений и проверки достоверности предоставленных данных, а также осмысления вклада человека и нейросети в полученный результат.
Шестое направление связано развития субъектной позиции человека в его взаимодействии с ИИ. Безопасность использования инструментов ИИ напрямую связана с сохранением человеком целеполагания, исходного замысла, определением критериев оценки результата действия и принятием ответственности за этот результат. Психолого-педагогическая профилактика, в этом плане, связана с формированием у обучающихся таких паттернов взаимодействия с ИИ, когда предварительно поставлена задача, выдвинута гипотеза и/или определен предварительный план действия. В такой ситуации ИИ становится инструментом, позволяющим уточнить, расширить, проверить и сопоставить предварительные решения задач с точки зрения их соотнесения с общечеловеческим, культурным опытом обращения с такими задачами. В данном контексте взаимодействие с ИИ сохраняет развивающий и дополняющий когнитивный потенциал человека характер, что предотвращает передачу нейросети функций выбора, оценки и ответственности за итоговое суждение или решение задачи.
Наконец, седьмое направление определяется необходимости организации образовательной среды, которая должна быть обогащена регламентами, протоколами и правилами использования ИИ, четко определяющими разрешенные и запрещенные способы его применения, требования к указанию вклада ИИ в решение учебных или производственных задач, способы и приемы проверки информации, границы использования нейросетей при выполнении заданий, а также систему сопровождения обучающихся или работников, характеризующихся разным уровнем готовности к работе с ИИ для предупреждения цифрового неравенства. Выстроенная регуляторная функция образовательной среды позволяет уменьшить неопределенность, поддержать академическую и производственную добросовестность, создать условия для формирования культуры безопасного использования ИИ.
Указанная система психолого-педагогической профилактики функционирует на разных уровнях. На средовом уровне осуществляется подбор безопасных цифровых инструментов ИИ, регламентация их использования, соблюдение правил защиты персональных данных. На организационно-педагогическом урвоне определяются правила, инструкции, система учебных заданий и психолого-педагогические форматы сопровождения взаимодействия человека с инструментами ИИ. На компетентностном уровне разрабатывается и внедряется система мер по формированию ИИ-грамотности, критического мышления, цифровой саморегуляции. На личностно-субъектном уровне реализуется комплекс психолого-педагогических мероприятий, направленных на формирование и поддержку авторской позиции, автономии, ответственности и психологических границ в применении инструментов ИИ. Рефлексивный уровень подразумевает выработку у человека навыков рефлексивного анализа опыта взаимодействия с ИИ, его влияния на мышление, эмоции, волю и качество исполнительной деятельности.
Таким образом, психолого-педагогическая профилактика цифрового травматизма должна строиться как система условий, компетенций и регуляторов, обеспечивающих безопасное и развивающее освоение ИИ. Ее центральная задача состоит в предупреждении тех ситуаций, в которых интеллектуальная система начинает замещать когнитивное усилие, снижать субъектность, усиливать тревогу, размывать ответственность и нарушать психологическое благополучие человека. По аналогии с индустриальной эпохой, в которой развитие машинного производства потребовало создания культуры охраны труда, современная цифровая эпоха требует формирования культуры психолого-педагогической безопасности взаимодействия человека с инструментами ИИ.
