Разработчик Anthropic предупредил о «когнитивной капитуляции» при работе с ИИ-агентами
Grok предложил отдать дебаг агенту — Claude и GPT против
Разработчик из команды Claude Code в Anthropic Эдди Османи предупредил, что ИИ-агенты могут ослаблять критическое мышление программистов. По его словам, значительная часть его работы теперь идёт через агентов, и это всё меньше заставляет его думать критически. Османи описал три режима: когнитивную разгрузку, откладывание и «когнитивную капитуляцию» — полное доверие ответам ИИ. Он не призывает отказаться от агентов, а советует осознанно делегировать, проверять сгенерированный код и задавать себе вопросы о собственных гипотезах. Навыки, которые перестают тренировать, по его мнению, теряются быстрее, чем кажется.
Эдди Османи, работающий в команде Claude Code в Anthropic, опубликовал в X эссе о том, как использование ИИ-агентов влияет на мышление программистов. Он не призывает отказываться от таких инструментов. Его беспокоит другое: чем больше задач уходит агентам, тем реже человек сам тренирует критическое мышление. Османи пишет, что значительная часть его работы теперь проходит через агентов, и это всё меньше вынуждает его думать критически. По его мнению, инженерам нужно сознательно встраивать размышление в повседневную работу, потому что по умолчанию этого никто не сделает. Османи выделяет три вида ограниченного мышления. Первый — когнитивная разгрузка: человек передаёт задачу ИИ, но сохраняет ответственность за результат. Это нормальная практика, и Османи говорит, что делает так весь день. Второй — откладывание: результат работы ИИ становится новым входом для человека, и тот всё меньше проверяет исходные допущения. Третий — когнитивная капитуляция, термин, который ввели исследователи Wharton School. Речь о полном доверии ответам ИИ без собственной проверки; Османи называет это ленивым подходом. Если слишком часто так поступать, возникает «когнитивный долг». Он замечает, что такое оставление критического мышления встречается часто, но всё зависит от важности задачи. Там, где ставки низки, можно спокойно делегировать всё. Однако если человек не может объяснить ответ на вопрос даже с помощью своего агента, он фактически отдал личную ответственность. Османи предлагает задавать себе вопросы: сформулировал ли я гипотезу до запроса к ИИ и что я больше не практикую? Он не требует интенсивно думать над всем. На вопрос о разнице между помощью и передачей задачи на сторону он отвечает: и то и другое допустимо, если понимаешь, что делаешь. Для инженеров Османи советует строить циклы проверки, чтобы удостовериться, что написанный ИИ код работает. Он называет это «проверкой как привычкой» и советует спрашивать агента, что он может проверить, а что нет. В конце он проводит аналогию с навыками, которые исчезают после передачи смартфону: не все уже могут ориентироваться по бумажной карте или помнят номера друзей. В программировании так же: навыки, которые не тренируешь, теряются, вероятно, быстрее, чем ожидаешь. Его вывод — продолжать делать то, что не хочешь потерять.