Почему ИИ сделает вас беспомощным

Я иногда пишу свои статьи с помощью ChatGPT. И не вижу в этом ничего постыдного. Если у нас заболел зуб, мы идём к стоматологу, а не лечим его сами. Писатель или журналист прежде, чем выпустит текст – показывает его редактору и они его правят.

Почему, когда речь заходит об искусственном интеллекте ^[1], мы вдруг начинаем считать, что человек, который им пользуется – ****** редиска.

Глупо отказываться от инструмента, который способен взять на себя тысячи профессиональных ролей и значительно расширить наши возможности.

Проблема совершенно в другом. Когда вместо того, чтобы принимать решение самому, мы отдаём ИИ слишком много полномочий.

Как только у людей появилась возможность не думать…

Они быстро этим воспользовались

Со мной в тот день случилось нечто подобное.

Я попросил ИИ помочь структурировать мои хаотичные мысли. Казалось бы, обычная задача. Но затем он предложил подредактировать заголовок. Потом мы стали обсуждать тональность, аргументы, последовательность изложения. В какой-то момент я уже поручал ему не просто отдельные задачи, а всё больше решений, которые раньше принимал самостоятельно.

И самое интересное, что я сам этого не заметил. Мне было удобно. ИИ предлагал варианты, оценивал их, находил слабые места и рекомендовал, как лучше поступить. Зачем тратить время на самостоятельный поиск, если можно просто спросить?

Так, шаг за шагом, я передавал ему всё больше полномочий. В итоге понял, что результат уже не вполне отражает то, что я хотел сказать, и пришлось многое переделывать.

Самое опасное — даже не лень

Мне кажется, здесь есть одна проблема, о которой мы говорим слишком мало.

Искусственный интеллект не просто экономит наше время. Он делает удивительно лёгким отказ от необходимости самостоятельно принимать решения.

Представьте, что вы сомневаетесь, как поступить в сложной ситуации. Нужно выбрать направление, принять на себя риск, возможно, ошибиться. Вы можете потратить вечер на размышления, выслушать чужие мнения, взвесить аргументы и в конце концов самостоятельно принять решение.

А можете открыть ChatGPT.

Он предложит несколько вариантов, разложит их по пунктам, объяснит преимущества и недостатки, а затем, если попросить, порекомендует наиболее разумный вариант.

И вот вы уже чувствуете облегчение.

Теперь у вас есть ответ. Или, по крайней мере, нечто, похожее на ответ.

Но произошло ли с вами то, что должно было произойти в процессе принятия трудного решения?

Вы научились оценивать риск? Разобрались в собственных приоритетах? Проверили, способны ли отстоять свою позицию, когда никто не гарантирует вам правильный результат?

Или вы просто избавились от неприятного состояния неопределённости?

Ведь трудные решения нужны нам не только ради результата. В процессе их принятия мы учимся думать, выдерживать сомнения, отвечать за последствия и доверять собственным суждениям.

Каждый раз, когда мы самостоятельно разбираемся в сложной задаче, мы получаем не только решение этой задачи. Мы приобретаем опыт ^[2], который пригодится в следующий раз.

Но если вместо этого мы регулярно передаём решение искусственному интеллекту, мы можем лишить себя части этого опыта.

Беспомощность

В этом исследовании ^[3]2025 года участвовали 319 специалистов умственного труда, которые часто использовали ИИ в своей деятельности.

Учёные обнаружили закономерность: более высокая уверенность в способности ИИ справиться с конкретной задачей была связана с менее активным использованием критического мышления ^[4]. Уверенность в собственных способностях, напротив, была связана с более активным критическим мышлением.

Получается, что искусственный интеллект не обязательно заставляет нас меньше думать. Но если мы слишком полагаемся на него, то можем постепенно перестать самостоятельно искать решения и начнём в основном проверять и выбирать то, что он нам предлагает.

Разумеется, это не означает, что использование ИИ автоматически приводит к выученной беспомощности. Авторы изучали связь между уверенностью в ИИ и тем, как люди задействуют критическое мышление при работе с ним, а не наблюдали за изменением способностей человека на протяжении нескольких лет.

Интересно, что произойдёт, если мы приучим себя к тому, что в любой сложной ситуации кто-то другой предложит нам решение?

Не разучимся ли мы переносить неопределённость, самостоятельно искать выход и доверять собственным способностям? Ведь это так соблазнительно – снять с себя ответственность.

Чуть пофантазируем

Представьте, что вы несколько лет работаете с искусственным интеллектом. Он помогает вам готовить презентации, писать тексты, анализировать информацию, формулировать предложения, разрабатывать проекты.

Вы становитесь очень продуктивным человеком. Успеваете больше, быстрее выполняете задачи и получаете качественные результаты.

А теперь представьте, что завтра вас приглашают выступить на профессиональной конференции.

Вам предлагают рассказать о своей работе, объяснить собственный подход, ответить на вопросы аудитории.

Но есть одно условие: вы не сможете открыть ChatGPT и попросить его сформулировать тезисы. Не сможете поручить ему подготовить ответ на неудобный вопрос. Не сможете попросить подобрать аргументы.

Вы останетесь один на один со своими знаниями на сцене перед людьми, ждущими вашего выступления.

И вот тогда может выясниться довольно неприятная вещь: вы прекрасно научились получать результаты с помощью искусственного интеллекта, но разучились самостоятельно производить некоторые из них.

Вы умеете пользоваться инструментом, но насколько хорошо владеете самой профессией?

ВОТ ВИДЕО ВМЕСТО ТЫСЯЧИ СЛОВ (НЕ ПОВТОРЯТЬ ^[5]! ОПАСНО ДЛЯ МОЗГА ^[6])

🂭

undefined…

embedd.srv.habr.com

Общество пока не готово

Мне кажется, что сейчас мы совершаем одну большую ошибку ^[7].

Мы активно внедряем искусственный интеллект в повседневную жизнь, рассказываем о его возможностях, показываем, как с его помощью можно экономить время и повышать производительность.

Но почти не говорим о том, как правильно выстраивать отношения с этой технологией.

Человека учат писать запросы, получать ответы, генерировать изображения, создавать презентации. Но кто-нибудь объясняет ему, как не потерять собственную способность принимать решения?

Как отличить помощь в мышлении от замены мышления?

Как понять, что ты уже не просто используешь инструмент, а начинаешь зависеть от него?

Нам предстоит научиться не только пользоваться искусственным интеллектом, но и сохранять самостоятельность при работе с ним.

Например, я намеренно прошу GPT раскритиковать мою идею. Смотрю в чём я не согласен, и упорно отстаиваю позицию до тех пор пока не будем найдено оптимальное решение, отвечающее всем критериям обоснованности, логичности и разумности, но не ограничиваясь ими одними.

Перед тем как принять решение полезно сначала попробовать найти собственное.

Можно поручить ему подготовить текст, но необходимо понимать, что именно ты собираешься сказать и почему.

И самое главное — нужно периодически проверять, способен ли ты выполнить свою работу без него.

WALL-E

Есть замечательный мультфильм Pixar «ВАЛЛ·И». В нём люди настолько привыкли к тому, что за них всё делают машины, что практически перестали двигаться самостоятельно. Они передвигаются на специальных креслах, питаются через трубочки и получают развлечения с экранов.

Машины сделали их жизнь невероятно удобной.

Но вместе с удобством люди потеряли что-то гораздо более важное — необходимость самостоятельно действовать.

И мне кажется, что в отношениях человека с искусственным интеллектом есть похожая опасность.

Мы можем не заметить, как постепенно передадим ему не только выполнение задач, но и право выбирать, оценивать, рассуждать и принимать решения.

А однажды обнаружим, что без него нам трудно даже начать работу.

При этом я вовсе не предлагаю отказываться от искусственного интеллекта. Было бы странно добровольно отказаться от инструмента, который способен настолько расширить наши возможности. Я уже писал об этом здесь ^[8] — почему не стоит бояться, что ИИ вас заменит.

Я хочу, чтобы мы научились пользоваться им иначе.

Не для того, чтобы перестать думать, а для того, чтобы думать лучше.

Не для того, чтобы отказаться от собственной позиции, а для того, чтобы проверить её.

Не для того, чтобы передать кому-то свою профессиональную состоятельность, а для того, чтобы стать сильнее в своей профессии.

В конце концов, самое прекрасное в мультфильме WALL-E происходит тогда, когда люди впервые начинают самостоятельно подниматься со своих кресел, ходить и взаимодействовать друг с другом.

Оказывается, делать что-то своими руками — невероятно приятно.

И, возможно, нам тоже стоит иногда закрывать ИИ.

Не потому, что он плохой.

А чтобы убедиться, что мы всё ещё можем без него.

Мы получили суперсилу. Но теперь нам предстоит разобраться, как ею пользоваться и какую цену мы готовы за неё заплатить.

О том, как правильно использовать ИИ и становится лучше, не становясь от него зависимым, и не отупеть, я рассказываю в своих статьях. И не только об этом.

GitHub: Мои Разработки и исследования ^[9]

Ранее на Хабре:

Как я уделал Microsoft, но это никому не нужно (кайфую сам) ^[10] — история создания Jupiter, программы голосового ввода текста для Windows.

Почему прибыльная стратегия из научного журнала проиграла простому алгоритму ^[11]