Искусственный интеллект превращает нас в болванов?

 Автор — Чарльз Хью Смит, блог OfTwoMinds.

Учитывая, что ИИ принципиально неспособен выполнять задачи, необходимые для подлинных инноваций, мы  разучиваемся  создавать инновации.

То, что ИИ превращает своих пользователей в болванов, не просто очевидно, это неоспоримо.  Согласно новому исследованию Массачусетского технологического института, ChatGPT может разрушать навыки критического мышления.

Из трёх групп пользователи ChatGPT продемонстрировали самую низкую активность мозга и «постоянно отставали на нейронном, лингвистическом и поведенческом уровнях». В течение нескольких месяцев пользователи ChatGPT становились всё ленивее с каждым последующим эссе, часто прибегая к копированию и вставке к концу исследования.

«Задача была выполнена, и можно сказать, что это было эффективно и удобно», — говорит Космина. «Но, как мы показали в статье, вы, по сути, не интегрировали её в свои сети памяти».

ИИ разрывает связь между  обучением  и  выполнением академической задачи .  Благодаря ИИ студенты могут поставить галочку: задание выполнено, работа написана и сдана, — ничего при этом не изучая.

И под  обучением  мы не подразумеваем  запоминание фактов , а подразумеваем  обучение тому, как учиться  и  как думать .  Как объясняет автор Substack Маалвика в своём вирусном эссе,  культура сжатия делает вас глупыми и неинтересными . Цифровые технологии сжимают наше внимание посредством того, что я бы назвал «поощрённым отвлечением», так что мы больше не можем прочитать что-либо длиннее нескольких предложений, не желая услышать  краткое содержание, видео с основными моментами или звуковой фрагмент .

Другими словами, мало кто действительно прочтёт статью MIT: TL/DR.  Вот краткое содержание:  Your Brain on ChatGPT  (mit.edu).

Вот полный текст статьи.

Ваш мозг в ChatGPT: накопление когнитивного долга при использовании помощника ИИ для написания эссе .

Чтобы понять контекст и, по сути, конечную цель исследования, мы должны начать с понимания  структуры обучения и мышления  , представляющей собой сложный комплекс процессов.  Теория когнитивной нагрузки (КТН)  — это методология, которая анализирует некоторые из этих процессов.

Теория когнитивной нагрузки (КТН), разработанная Джоном Свеллером, предоставляет основу для понимания умственных усилий, необходимых для обучения и решения задач. Она выделяет три категории когнитивной нагрузки: внутреннюю когнитивную нагрузку (ВКН), которая связана со сложностью изучаемого материала и имеющимися у учащегося знаниями; внешнюю когнитивную нагрузку (ВКН), которая относится к умственным усилиям, связанным с представлением информации; и релевантную когнитивную нагрузку (РКН), которая представляет собой умственные усилия, направленные на построение и автоматизацию схем, поддерживающих обучение.

Отметка флажка «Задача выполнена»  ничему нас не учит.  Реальное обучение и мышление требуют выполнения всей той когнитивной работы, которую ИИ, по его словам, делает за нас: чтения исходных материалов, отслеживания связей между ними, поиска «кротовых нор» между различными вселенными знаний и независимого критического осмысления утверждений и предположений.

Когда ИИ сваливает в кучу утверждения и предположения, выдавая их за достоверные, мы не получаем поверхностных знаний — мы ничему не учимся.  ИИ обобщает, но не способен отсеять сомнительные утверждения и предположения, поскольку не обладает  неявным знанием  контекста.

Таким образом, ИИ выдаёт материал, не имеющий никакой реальной когнитивной ценности, а студент впечатывает его в работу, не приобретая никаких реальных когнитивных навыков. Этот  когнитивный долг  никогда не будет «погашен», поскольку когнитивный дефицит сохраняется на всю жизнь.

Даже хвалёная способность ИИ к обобщению лишает нас необходимости развивать основные когнитивные способности.  Как объясняет этот исследователь, «тяжелая работа» — это то, как мы учимся глубоко мыслить, а не поверхностно понимать материал, чтобы сдать экзамен.

В защиту тяжёлой работы: ИИ выполняет своё обещание избавить людей от тяжёлой работы. Но иногда изгнание тяжёлой работы может подавить инновации.

К сожалению, эти инновации подавляют инновации. Когда люди выполняют рутинную работу по поиску литературы, проверке цитирования и комплексному исследованию — то, что OpenAI называет «глубокими исследованиями», — они по счастливой случайности находят то, чего не искали. Они развивают чужие идеи, которые раньше не рассматривали, и вдохновляются на создание совершенно новых идей. Они также осваивают когнитивные навыки, включая способность эффективно фильтровать информацию и распознавать смысловые расхождения.

В своей области системного анализа я сталкивался с тем, как десятилетиями исследователи цитировали неверную информацию и превращали её в собственное самовоспроизводящееся мировоззрение. Критическое мышление побуждает исследователя не принимать работу, которую другие считали основополагающей, и выявлять ошибки. Такие инструменты, как Deep Research, не способны обнаружить основную истину и, следовательно, будут лишь усугублять неверное направление исследований. Это противоположно хорошим инновациям.

Подводя итог: учитывая, что ИИ принципиально не способен выполнять задачи, необходимые для подлинных инноваций, мы  перестаём учиться  создавать инновации.  Мы «учимся» подменять подлинные инновации поверхностной, но искусной  симуляцией  инноваций, теряя при этом базовые когнитивные навыки, необходимые для инноваций.

Следуя по лёгкому и удобному пути  симуляции инноваций с помощью ИИ , мы действительно «осторожно падаем в пропасть».  Но поскольку всё это лишь краткий пересказ, и нет никаких  краткого содержания, видео с основными моментами или звукового фрагмента , мы этого даже не видим.

Итак, вот краткий обзор ИИ для «чайников»: ИИ превращает нас в чуваков.

* * *

Ознакомьтесь с моей новой книгой  «Ультра-обработанная жизнь»  и моими обновленными  книгами и фильмами .

Станьте покровителем моей работы за 3 доллара в месяц через patreon.com

Подпишитесь на мой Substack бесплатно