Кристофер Пенн, Almost Timely News

В чем главная проблема современного ИИ? Дело в стоимости, когда бюджеты на токены раздуваются агентным ИИ? В устойчивости, учитывая потребление ИИ электроэнергии и пресной воды? В этике, когда технологические компании внедряют ИИ повсюду?

Думаю, проблема глубже. Все это лишь симптомы гораздо более глубокой проблемы: никто не принимает решения.

Или, точнее говоря, мы передали ИИ слишком много наших исполнительных функций. Мы отказались от собственного мышления. 

Давайте разберемся.

Часть 1: Откуда взялась эта проблема

В пятницу днем я размышлял, что хочу осветить в этом выпуске. В США праздничные выходные, поэтому читателей будет меньше, и это нормально. (Я ценю, что ВЫ читаете). А недавно я осветил массу тем:

• Как улучшить рекламу с помощью ИИ
• Почему списки могут принести больше вреда, чем пользы
• Настройка частных локальных моделей
• Как работает обнаружение ИИ
• ИИ для ментальных моделей GEO
• ИИ для розничной GEO
• 18 способов сэкономить бюджеты на токены
• Как заставить ИИ писать лучше

Поэтому спонтана я настроил NotebookLM, загрузив в него разговоры за последние 180 дней из более чем 40 различных сабреддитов, таких как r/marketing, r/chatgpt и т.д. — все, что касается маркетинга, бизнеса и ИИ. Я подключил его к Claude Code с помощью инструмента командной строки NotebookLM (самый эффективный по токенам способ общения Claude с NotebookLM), а затем поместил все свои рассылки за 2026 год в папку для ввода.

Я попросил Claude сравнить то, о чем я писал в этом году, с тем, что люди считают самыми сложными проблемами в работе с ИИ. Claude выдал список из 10 основных тем, выведенных из более чем 800 000 слов эмоциональных обсуждений на Reddit, которые, по его мнению, могли бы стать хорошими темами для рассылки:

• Проблемы видимости ИИ
• Контроль за агентными системами ухудшается
• Внедрение ИИ не работает
• 40-60% бюджета компании тратится впустую на неправильные модели
• ИИ — это аренда
• Угодливость ИИ портит синтетические фокус-группы
• Детекторы ИИ не работают
• ИИ опустошает корпорации, и никто не нанимает младший персонал
• Люди оценивают ИИ по максимизации токенов
• Маркетологи по сути являются неоплачиваемой рабочей силой для обучения данных ИИ-компаний

Claude ОЧЕНЬ настойчиво предлагал мне написать о том, как нарушена система измерений в маркетинге и ИИ сегодня, и, возможно, я когда-нибудь это сделаю, но это не то, что я вижу, глядя на этот длинный список. Да, во многих из них есть проблемы с измерениями, во многих — проблемы с данными, но... сломанная система измерений — это симптом того, о чем я говорил ранее: мы отказались от исполнительных функций.

Для тех, кто не является гиком в аналитике: вы знаете, что измерение — это запаздывающий индикатор. Это не опережающий индикатор.

Часть 2: Напоминание об исполнительных функциях

Напомню, что я разделяю исполнительные функции на четыре категории, которые называю PODS:

• Планирование: вы думаете о достижении цели в будущем и составляете план, как добраться туда из текущей точки
• Организация: вы берете то, что у вас есть, и пытаетесь привести это в порядок
• Принятие решений: вы берете то, что у вас есть, и принимаете решения
• Решение задач: вы решаете возникшие проблемы

Да, в исполнительных функциях есть больше нюансов, но этот удобный короткий список — простой способ понять, что делает наш мозг. Это критическое мышление — одна из практик с самым неудачным названием.

Почему? Потому что критическое мышление само по себе не означает быть критичным. Речь идет о метакогниции — определении, которое означает мышление о мышлении. Когда вы думаете о том, как вы мыслите, вы открываете дверь к улучшениям и росту.

Мышление о мышлении означает задавание вопросов и рефлексию: это лучший способ что-то сделать? Как я могу сделать это лучше? Как я могу получить больше удовольствия от того, чем занимаюсь? Это не столько самокритика, сколько осознание того, что вы делаете и работает ли это.

Когда вы планируете, организуете, принимаете решения и решаете задачи, вы по сути думаете о мышлении. Каждый раз, когда вы планируете, каждый раз, когда вы наводите порядок в хаосе, вам нужно сверяться с собственным мозгом, чтобы понять, приближают ли ваши действия вас к цели.

Исполнительная функция — это одна из вещей, определяющих нашу сознательность как живых существ. Каждое сознательное существо, от мыши до человека, выполняет эти задачи. Вы читали или слышали истории о воронах, мастерящих инструменты из проволоки для решения задач, вы видели, как собаки и кошки принимают решения и планируют. Я сам наблюдал, как моя кошка визуально оценивает, сможет ли она совершить определенный прыжок.

При правильных промптах современные инструменты ИИ также превосходно справляются с исполнительными функциями. Имея правильные фреймворки, инструменты и данные, они могут планировать, организовывать, принимать решения и решать задачи лучше нас в большинстве языковых задач.

В этом и кроется настоящая проблема.

Часть 3: Подробный разбор

Давайте рассмотрим каждую из 10 тем, предложенных Claude, чтобы увидеть связывающие их нити.

Проблемы видимости ИИ: когда вы читаете дословные высказывания людей об измерении видимости ИИ, видно, что они практически выдумывают это на ходу. Особенно это касается поставщиков программного обеспечения, которые предлагают и продают решения, имеющие мало общего с реальностью, — и тем не менее, стейкхолдеры с жадностью поглощают это, потому что предпочитают иметь уверенность в неправильных цифрах, чем принять неопределенность или отсутствие цифр вообще. Они не думают о своем мышлении.

Контроль за агентными системами ухудшается: комментаторы на Reddit сосредоточились на том факте, что по мере усложнения агентов становится все труднее следить за их действиями. Поэтому мы просто постоянно нажимаем «ОК» — если вообще думаем о человеке в цикле. Мы утратили здесь свой авторитет. Более того, некоторые инструменты ИИ встроили это как функцию. Claude называет это опасным пропуском разрешений. Qwen называет это режимом YOLO.

Внедрение ИИ не работает: здесь обсуждается, как стейкхолдеры говорят своим стейкхолдерам, что организация внедрила ИИ, не имея никакого представления о его влиянии. Один из авторов привел статистику, что 29% компаний видят значительную окупаемость инвестиций от ИИ, хотя отдельные сотрудники заявляют о пятикратном росте производительности. Математика не сходится. Здесь люди не хотят думать и размышлять о том, что вообще означает внедрение. Кэти много писала об этом в рассылке Trust Insights за последние несколько недель. По сути, мы путаем использование ИИ с получением результатов от ИИ.

40-60% бюджета тратится впустую: здесь люди говорят о том, что все просто принимают модель по умолчанию в инструментах ИИ, которая обычно является самой дорогой. Claude, например, по умолчанию использует Opus 4.8, что намного дороже, чем Sonnet 5 или Haiku 4.5. Мы не думаем. Мы не принимаем решения о компромиссах между стоимостью и эффективностью. Другой человек указал, что это сделано намеренно для формирования привычек. Речь идет о формировании привычки использовать самые дорогие модели, чтобы, когда субсидирование сегодняшнего ИИ закончится, мы привыкли использовать самые дорогие модели. В каком-то смысле это взлом мозга.

ИИ — это аренда: в этой конкретной теме обсуждение сосредоточено вокруг того, чем вы реально владеете в ИИ, а это очень немногое, если вы используете современные фронтальные модели с закрытыми весами. В частности, периодические запуски Fable 5 компанией Anthropic, благодаря экспортному контролю США, стали тревожным звонком для всей отрасли о том, что вы ничем не владеете в SaaS, точно так же, как не владеете музыкой в Spotify или видео в Netflix, — но люди думают, что владеют.

Угодливость в фокус-группах: хотя у нас есть хорошие академические исследования, показывающие, что правильно промптированные модели ИИ могут эмулировать намерения людей о покупке с точностью около 90%, уровень угодливости в моделях ИИ склоняет их к предвзятости подтверждения в большинстве ситуаций. Особенно это касается синтетических фокус-групп; когда люди используют ИИ для моделирования намерений потребителей, на самом деле они чаще всего укрепляют собственные предубеждения. Нет ни рефлексии, ни сомнения в выводах ИИ.

Детекторы ИИ не работают: вечная любимая тема. Эта ветка обсуждений вращалась вокруг того, как компании используют детекторы ИИ для выявления использования ИИ в ситуациях, когда это неуместно, не осознавая, что сами детекторы тоже сломаны. В тестировании, которое я проводил 3 недели назад, детекторы ИИ ложно помечали человеческие выводы в 1 случае из 7. Никто не думает и не размышляет достаточно о том, кто следит за надзирателями.

ИИ опустошает компании: мне очень понравилась эта цитата из сабреддита владельцев агентств:

«Странно то, что никто этого не решал. Не было никакого собрания, где мы бы это обсуждали. Мы автоматизировали одну раздражающую задачу, затем другую, и в один прекрасный день работа выхолостилась изнутри.»

Эта эрозия задач связана исключительно с отсутствием познания, отсутствием рефлексии, отсутствием плана. Никто не принимает решения — просто каждый день все больше оставляют это на усмотрение машин.

Максимизация токенов: это было размышлением о последнем новостном сюжете Meta, в котором они собирались потратить несколько миллиардов долларов на токены ИИ, потому что измеряли производительность ИИ на основе расходов на токены — самый глупый способ измерения ИИ.

Маркетологи как неоплачиваемые тренеры: это была целая куча возмущений по поводу того, что маркетологи фактически являются неоплачиваемыми тренерами для платформ ИИ. Чем больше контента мы производим, тем больше ИИ должен на этом обучаться, одновременно конкурируя за задачи, за которые нам платят. Здесь ветка была о том, как средний маркетолог не думает и не размышляет о своих отношениях с ИИ.

И этот длинный список из 10 пунктов — это еще не все, далеко не все. Подумайте, как еще люди используют ИИ не думая, не думая о своем мышлении. Зайдите в LinkedIn и посмотрите на бесконечные потоки ботов-комментаторов, которые снова и снова перефразируют один и тот же шаблон. Посмотрите на мусорную работу, заполняющую ваш почтовый ящик, прочитайте отчеты, которые присылают вам ваши агентства и которые явно сделаны методом копирования и вставки.

Когда мы отбрасываем направление, в котором Claude хотел направить этот выпуск рассылки, становится довольно очевидным, что речь идет о том, насколько много мы думаем о мышлении. Насколько мы осознаем себя? Насколько хорошо и точно мы воспринимаем наши отношения с ИИ?

И главное, видим ли мы объем исполнительных функций, которые мы передали ИИ?

Часть 4: Противоядие

«Никто этого не решал» преследует меня. Когда вы передаете исполнительные функции ИИ, кто принимает решения? Никто. Нет никого, кто нес бы ответственность за решение, потому что машина принимает его за нас. Будь то создание презентации, сборка отчета для клиента, создание контента для рассылки, когда это делает машина, нет никакой ответственности и нет никакого принятия решений с нашей стороны, кроме как одобрить это.

И это приводит к множеству плохих последствий, от потери работы до недовольства собственной работой. Вы же понимаете, что когда используете ИИ для передачи задачи, вы не делали эту работу — и не гордитесь ею, точно так же, как не гордились бы работой, которую подрядчик сделал от вашего имени.

Подумайте об этом в контексте родителей. Зайдите в дом любых родителей, и вы, скорее всего, увидите рисунки, которые их дети сделали, когда были маленькими. Эти рисунки в целом, объективно, довольно плохи. Но родители ценят их не из-за качества, а из-за уровня усилий, приложенных ребенком. Они гордятся усилиями своего ребенка, и ребенок гордится тем, что он сделал, прилагая усилия. К хорошему это или плохому, когда люди используют ИИ, они сами чувствуют, что не приложили усилий, и человек, получающий результат, также чувствует, что усилий не было.

Иногда вы даже не понимаете работу, если передали ее на аутсорс. Вы представляете ее своим стейкхолдерам, и первый же вопрос, которого нет в подготовленных материалах, приводит вас в панику, потому что вы не можете на него ответить. Это как купить торт в магазине вместо того, чтобы испечь его самому, а потом кто-то спросит, есть ли в нем конкретный аллерген. И вы остаетесь в растерянности, ища этикетку, чтобы узнать, что на самом деле в торте.

Поэтому мое предлагаемое противоядие таково: для каждой важной задачи всегда начинайте с того, что вы ведете сами, и заставляйте машины обучать вас.

Например, когда я составляю ежемесячные отчеты для клиентов Trust Insights, я включаю диктофон и сам просматриваю данные. Я вслух говорю о том, что вижу, что думаю, что имеет смысл, а что нет, а затем прошу ИИ транскрибировать это. После завершения транскрибации я прошу ИИ просмотреть ее и показать, что я упустил. Я прошу его задавать мне вопросы, записывать больше информации, выуживать от меня больше информации.

Я также прошу его, особенно в вопросах моей предметной экспертизы, найти мне ресурсы для изучения и чтения о его рекомендациях. Недавно я попросил его выбрать из каталога, который я подготовил, содержащего более 1 000 различных аналитических методов, и он выбрал интересную комбинацию из 3 методов, один из которых я знал плохо. Поэтому я попросил его обучить меня этому, чтобы вместо пассивного принятия его рекомендаций я чему-то научился. Я стал лучше как профессионал. Я расширил свою предметную экспертизу.

Если подумать, это рационально не только с точки зрения выполнения высококачественной работы, но и с точки зрения моей ценности. Если я не более чем копипаст-дрон, мясной интерфейс для LLM, то зачем я нужен моей компании? Зачем клиентам платить за меня, если они могут просто заплатить за то, чтобы спросить у ChatGPT или Claude точно то же самое?

Они платят за мою экспертизу, за мои навыки не только в использовании технологий, но и за специфический взгляд, через который я их направляю, и за перспективу, которую могу дать только я. И если я использую ИИ для постоянного улучшения этой экспертизы, для углубления знаний в предметной области, то они должны продолжать платить за меня.

За пределами моей предметной экспертизы я начинаю с глубокого исследования, используя инструменты ИИ для сбора информации, а затем прошу их создать синтез. Как только я это получаю, я прошу его создать контрольный список того, что составляет качество в области, в которой я работаю. Наконец, я сажусь за созданные материалы и читаю и учусь сам. Я прошу ИИ создавать инфографику или резюме подкастов, чтобы изучить предметную область и связать ее со своей экспертизой.

Агентный ИИ — инструменты вроде Claude Code, OpenCode и т.д. — это феноменальные исследователи, намного лучше, чем веб-инструменты глубокого исследования, к которым люди привыкли за последние пару лет. Когда вы используете исследовательского агента, у него гораздо больше свободы для сбора источников, времени для записи заметок и наблюдений и синтеза выводов из имеющихся данных. Если вы используете что-то вроде исследовательского фреймворка CASINO от Trust Insights, вы получите потрясающие результаты от инструментов, которые, как правило, имеют меньше галлюцинаций, чем их веб-аналоги.

Затем, имея на руках эти исследовательские данные, вы используете их, чтобы стать лучшим профессионалом в своей области. Вы используете их, чтобы повысить свой уровень. Вы используете их, чтобы дополнить свои инсайты, а не заменить их.

Часть 5: Подведение итогов

Главная проблема современного ИИ — это делегирование наших исполнительных функций машинам. Будь то ответственность (у машин ее нет), потеря навыков или недовольство своей работой, в тот момент, когда мы отказываемся от исполнительных функций, ИИ становится скорее проблемой, чем решением.

Мы можем свести все к простому набору вопросов:

1. Делает ли использование ИИ результат лучше?

2. Делает ли использование ИИ меня лучше?

Если ответ не «да» на ОБА вопроса, значит, вы используете его неправильно.

При правильном использовании ИИ является одним из величайших когда-либо созданных инструментов профессионального развития.

При неправильном использовании это одна из самых разрушительных сил, которые когда-либо знала ваша карьера, потому что в тот момент, когда вы передаете задачу ИИ, ваши собственные навыки в этой задаче ржавеют.

А как только что-то достаточно заржавеет, заменить это станет дешевле и проще.

Подробнее в рассылке Almost Timely Newsletter