Когнитивная цена использования подсказывающей программы стала еще более отчетливой, когда восемь месяцев спустя ван Нимвеген повторил опыт с участием тех же людей. Те, кто в первой игре пользовался упрощенной программой, справились с головоломкой в два раза быстрее, чем испытуемые первой группы. Испытуемые, использовавшие простую программу, писал ван Нимвеген, демонстрировали бо́льшую сосредоточенность во время решения задачи и к тому же лучше запомнили стратегию игры. То есть испытуемые второй группы воспользовались плодами эффекта порождения. Ван Нимвеген и некоторые его коллеги из Утрехтского университета провели затем серию других экспериментов, в которых решались более реалистические задачи. Например, с помощью календарной программы планирования встреч и мероприятий распределяли выступающих по аудиториям. Результаты были такими же. Те, кто полагался на компьютерную программу, демонстрировали недостаточное стратегическое мышление, совершали много лишних действий и слабо понимали концептуальные аспекты задачи. Те же, кто пользовался простыми программами, работали с бо́льшим пониманием и быстрее обучались [17].
Ван Нимвеген показал в своей лаборатории, что при автоматизации решения задач мы нарушаем способность мозга переводить информацию в знание, а знание – в твердо усвоенные навыки. Мы хорошо это видим и в реальном мире. На многих предприятиях менеджеры и другие специалисты зависят от так называемых экспертных систем, которые сортируют и анализируют информацию, а затем предлагают определенные действия. Бухгалтеры, например, пользуются компьютерными программами для корпоративного аудита. Такие компьютерные приложения, конечно, ускоряют работу, но уже сейчас становится очевидным, что по мере усложнения программ бухгалтеры неуклонно теряют квалификацию. В одном исследовании, проведенном группой австралийских профессоров, были изучены эффекты применения экспертной системы в трех международных бухгалтерских фирмах. В двух компаниях использовались усовершенствованные системы – на основании ответов бухгалтера на вопросы о клиенте машина выдавала заключение о рисках, которые надо было включить в документы о проведении аудита. Третья фирма использовала простые программы, где был представлен список потенциальных рисков, но бухгалтер должен был сам просматривать его и самостоятельно выбирать нужные пункты для пакета документов. Ученые устроили бухгалтерам всех трех аудиторских фирм экзамен, чтобы выяснить уровень знания рисков в тех отраслях, где они проводили аудит. Выяснилось, что специалисты фирмы с худшим программным обеспечением обладают значительно более глубоким пониманием различных форм риска, чем бухгалтеры двух других фирм. Снижение квалификации, обусловленное современным программным обеспечением, характерно даже для опытных аудиторов, проработавших в профессии больше пяти лет [18].
Другие исследования разнообразных компьютерных экспертных систем подтвердили, что программы, облегчающие принятие решений, могут в краткосрочной перспективе помочь новичку принять верное решение, но одновременно приводят к лености ума. Избавляя специалистов от необходимости напрягать ум, компьютеры подавляют у них способность надежно усваивать информацию и запоминать ее, а такое запоминание необходимо для формирования серьезного опыта [19]. Недостатки средств автоматизированного принятия решений могут быть незаметными, но они влекут за собой реальные неблагоприятные последствия, особенно в тех отраслях, где аналитические ошибки могут стать причиной несчастного случая. Неверный расчет риска в сочетании с быстродействующими компьютерными программами торгов едва не привел к краху мировой финансовой системы в 2008 году. По мнению преподавателя управления из университета Тафта Амара Биде, «роботизированные методы» принятия решений способствует распространению среди банкиров и других профи Уолл-стрит дефицита способности выносить самостоятельные суждения [20]. Конечно, невозможно точно определить роль, которую автоматизация сыграла в этой финансовой катастрофе или в последующих биржевых неудачах, подобных «мгновенному краху» 2010 года на американской фондовой бирже. Но нам кажется, что надо всерьез принять меры, ограничивающие чрезмерное применение современных технологий, так как это может привести к деградации знания или к ухудшению способности к самостоятельным суждениям у людей, занятых в соответствующих отраслях. В вышедшей в 2013 году статье специалисты по программному обеспечению Гордон Бакстер и Джон Картлидж предупредили о том, что ставка на автоматизацию приводит к снижению квалификации финансистов так же, как компьютерная система торговли повышает риски на финансовых рынках [21].
Некоторые программисты выражают озабоченность тем, что их усилия по облегчению мышления могут стать похоронным звоном по их собственной квалификации. Современные специалисты часто используют приложения, называемые интегрированными областями разработки программ. Эти приложения помогают составлять программные коды, а также автоматизируют некоторые трудоемкие и требующие больших затрат времени этапы программирования. Они могут завершать процесс, исправлять ошибки, отлаживать программу, а самые современные приложения способны даже менять внутреннюю структуру программного кода, осуществлять так называемый рефакторинг .[17]
Но из-за того, что программа берет на себя труд кодирования, программист теряет возможность оттачивать мастерство и совершенствовать свой талант. «Современные интегрированные области разработки становятся такими „полезными”, что я порой ощущаю себя оператором этой среды, а не программистом, – пишет Вивек Хальдар, опытный разработчик программного обеспечения из Google. – Все эти инструменты не побуждают программиста обдумать код и тщательно его написать, они позволяют накропать черновой вариант и запустить его, а инструменты сами выяснят, что в этом варианте не так, и автоматически его улучшат». Вердикт Хальдара: «Умный инструмент – тупой мозг!» [22]
Google признаёт, что создание чутких и заботливых поисковых систем, способных предсказать, что люди ищут, оказывает на публику оглупляющее влияние. Программы Google не просто исправляют опечатки, они предлагают варианты терминов и слов в процессе их печати, распутывают семантические двусмысленности в запросах и предвосхищают наши потребности, основываясь на их прежней истории и на местонахождении человека. Можно допустить, что они делают полезное дело, облегчая наш поиск, и нам надо учиться на этом примере.
По мнению разработчиков, это заставит нас более четко формулировать запрос, лучше подбирать ключевые слова и вообще вести поиск более грамотно. Но на самом деле, со слов инженера-исследователя фирмы Амита Сингхала, эффект оказался противоположным. В 2013 году корреспондент лондонской газеты Observer взял интервью у Сингхала[18] и поинтересовался улучшениями и усовершенствованиями поисковика на протяжении последних лет. «Можно предположить, – заметил журналист, – что мы становимся более грамотными и требовательными потребителями, если пользуемся поисковой системой Google». Сингхал вздохнул и устало поправил журналиста: «На самом деле, все обстоит совсем не так. Чем лучше работает машина, тем более неряшливыми становятся запросы» [23].
Легкость поиска может ухудшить не только нашу способность грамотно оформлять запрос. Серия экспериментов, о которых писал в 2011 году журнал Science, указывает на то, что легкость получения информации в интернете ослабляет способность запоминать факты. В одном из этих экспериментов испытуемым предлагали прочитать полдюжины простых утверждений, например «глаза страуса больше, чем его мозг», а затем напечатать их на компьютере. Половине испытуемых сказали, что компьютер сохранит то, что они напечатали. Другой половине сказали, что напечатанное будет стерто. После этого всем испытуемым было предложено записать все утверждения, какие они смогут вспомнить. Те, кто был уверен, что написанное ими сохранится в памяти компьютера, показали худшие результаты в сравнении с теми, кто считал, что введенные данные будут стерты. Даже одно знание того, что информация сохранится в базе данных, снижало вероятность того, что мозг сделает усилие, чтобы надежно ее запомнить. «Так как поисковая система теперь все время в нашем распоряжении, мы часто не чувствуем необходимости кодировать информацию в долговременной памяти, – заключили ученые. – Если она нам понадобится, мы в любой момент ее найдем» [24].
В течение тысячелетий люди старались возместить недостатки биологической памяти с помощью технологий сохранения информации – в виде свитков, книг, микропленок и магнитных лент. Инструменты записи и распространения информации – это столпы цивилизации. Но внешние хранилища и внутренняя память – это отнюдь не одно и то же. Знание – это не просто умение найти нужную информацию; оно требует кодирования фактов и опыта в личной памяти. Для того чтобы знать, надо вплести эту информацию в личные нейронные сети, откуда ее можно регулярно извлекать для повторного использования. Получив в свое распоряжение поисковые системы и другие сетевые ресурсы, мы автоматизировали хранение и извлечение информации до такой степени, которая и не снилась прошлым поколениям. Врожденная склонность мозга к снижению нагрузки, или к экстернализации запоминания, в какой-то степени делает нас более эффективными мыслителями. Мы можем быстро найти факты, ускользнувшие из нашей памяти. Но та же склонность может стать патологической, если автоматизация умственного труда позволяет легко избегать напряжения, связанного с запоминанием и пониманием.
