Вместо предисловия
Этот текст написан моделью GPT-5.5. Понятно дело, что я сначала изложил свои мысли и основные идею, потом дал несколько примеров стиля и инструктировал модель, где мне не очень нравится и что необходимо переписать. Это мой первый опыт подобного рода, поэтому не судите строго. Писал статью я в Cursor прямо в чате с агентом, потом скопировал и вставил сюда. Я решил придерживаться того же подхода, что и при вайб-кодинге – не переписывать слишком часто, только уточнять и просить сделать иначе тогда, когда это кажется необходимым. Текст ниже я не менял принципиально и только вставляю комментарии там, где чувствую, что это необходимо. Комментарии выделены жирным текстом.
Личный опыт проживания нескольких технических революций
Я живу уже достаточно долго. Так случилось, что большая часть моей жизни связана с IT. За это время в этой отрасли произошло много изменений, и почти все они прошли перед моими глазами. Иногда я был просто наблюдателем, иногда непосредственным участником, а иногда находился, как теперь говорят, в самой гуще событий. Поэтому мне хочется поделиться с читателями тем, как видит эти изменения человек, в реальности которого они случались уже много раз, и почему нынешняя революция, связанная с искусственным интеллектом, кажется мне значительно глубже предыдущих.
Когда я начал учиться в университете, я учился на математика, но курс программирования у нас, конечно, был. Компьютер тогда был один на весь университет и занимал огромную комнату. В этой комнате находились странные люди в белых халатах. Выглядели они примерно как Шурик в фильме «Иван Васильевич меняет профессию». Только Шурик возился со своей машиной времени, этим визуальным воплощением советского образа научной мысли, а эти люди стояли возле шкафов с мигающими лампочками.
У нас было два компьютерных класса. В них стояли терминалы: клавиатура и монитор. Два часа в неделю нам давали возможность вдвоем с напарником посидеть за терминалом, ввести написанные дома в тетрадке программы и запустить их на каких-то данных. Потом результат отправлялся на печать. Печать производилась раз в полтора-два часа. К принтеру подходил оператор и нажимал кнопку. Начиналась печать. Из принтера выходила длинная широкая лента, наверное, формата A3, с дырочками по бокам. На ней было напечатано все, что накопилось в очереди. Я ходил вдоль этой ленты, искал тексты своих программ и старался аккуратно вырвать их, чтобы потом показать преподавателю при сдаче работы.
Потом появились персональные компьютеры. Это были уже не огромные машины в храме программирования, окруженные жрецами в белых халатах, а маленькая коробка на столе. Появилась мышь, появился графический интерфейс, появились окна, меню, кнопки, сглаженные шрифты. В Windows 3.1 это производило почти культурный шок. Документы стали похожи на документы, а не на вышивание крестиком на бумаге. Машина вышла из храма и пришла в комнату обычного человека. Это была настоящая революция, потому что компьютер перестал быть специальным устройством для специально обученных людей и стал частью обычной жизни.
Интернет, поиск и базы данных
Потом пришел интернет. Сейчас трудно объяснить молодому человеку, что значило «найти информацию» до интернета. Информация имела вес. Она лежала в книгах, журналах, методичках, справочниках, у знакомых, на кафедрах, в библиотеках. Ее надо было добывать, иногда почти буквально. Интернет сделал знание невесомым: оно перестало лежать где-то в шкафу и начало течь по проводам.
Но интернет сам по себе был еще не знанием, а скорее огромной свалкой, библиотекой после землетрясения. Настоящая революция произошла, когда появились поисковики. Они не дали человеку мудрость, но дали возможность мгновенно находить следы чужой мудрости. Мы перестали помнить факты в прежнем смысле слова. Мы начали помнить, как их найти, и это незаметно изменило саму структуру образованности.
Была еще одна революция, менее заметная для обывателя, но, по-моему, чрезвычайно важная для экономики и производства. Это реляционные базы данных. Для человека со стороны это звучит скучно: таблицы, связи, SQL, транзакции, индексы, нормальные формы. Но на самом деле это было появление нервной системы у современного предприятия. Бухгалтерия, склады, производство, логистика, банки, торговля, зарплаты, планирование, учет материалов, заказы, остатки, взаиморасчеты — все это получило информационный скелет.
Моя теща работала в бухгалтерии на заводе и считала на арифмометрах. Только потом появились калькуляторы.
До этого организация во многом жила в бумагах, журналах, ведомостях, карточках и головах отдельных людей. Реляционная база позволила не просто хранить данные, а видеть предприятие как систему: где товар, кто должен, что оплачено, сколько осталось, где узкое место, что надо заказать, что уже просрочено. Можно сказать, что промышленность получила вторую механизацию. Первая механизировала руку, а вторая механизировала учет, контроль и управление.
Искусственный интеллект как новая граница
И вот теперь появился ИИ. На фоне всего перечисленного он выглядит не просто очередным инструментом. Он выглядит как вторжение в последнюю внутреннюю область человека — в область мышления. Калькулятор забрал у нас устный счет, поисковик забрал необходимость помнить множество фактов, навигатор забрал память о городе, реляционная база забрала у учреждения бумажную память. Искусственный интеллект забирает нечто более тонкое: черновик мысли.
Он пока не забирает окончательную мысль, ответственность или волю. Но он уже забирает первый набросок, первый текст, первый план, первое объяснение, первую гипотезу. И тут возникает неприятный вопрос: если машина пишет за нас, объясняет за нас, программирует за нас и ищет аргументы за нас, то что именно остается делать человеку?
Технический прогресс всегда приходит как освободитель. Паровая машина освобождала человека от мускульной силы, но вместе с ней пришли фабрики, трущобы, детский труд и зависимость от заводского гудка. Электричество освободило производство от парового двигателя в центре цеха, но сделало возможной непрерывную сменную работу. Автомобиль дал свободу движения, а потом перестроил город так, что жить без автомобиля стало почти невозможно.
Компьютер должен был освободить офис от бумаги. Бумаги действительно стало меньше, но отчетности стало больше. Электронная почта должна была ускорить коммуникацию, а превратилась в бесконечный поток мелких обязательств. Мессенджеры должны были приблизить людей, но сделали каждого доступным почти всегда. ИИ тоже приходит с обещанием освобождения: он освободит нас от рутины, скучной работы и однообразных операций. Возможно, это правда. Но история техники показывает, что когда машина освобождает человека от одной необходимости, она почти всегда создает другую зависимость.
Живое знание и формальные операции
Особенно хорошо это видно на примере образования. Я много думал о том, что произошло со школьной математикой. В мемуарах Льва Семеновича Понтрягина есть очень жесткие страницы о Колмогорове и реформе школьного математического образования. Понтрягин считал, что под влиянием Колмогорова живая, предметная математика стала заменяться формальными построениями, множествами, абстрактными определениями и символическими процедурами.
Конечно, в этом была и личная драма. Отношения Понтрягина и Колмогорова были сложными, и читать такие воспоминания надо с поправкой на человеческие обстоятельства. Но проблема, по-моему, шире их личного конфликта. Когда знание становится массовым, оно неизбежно теряет часть живого содержания. Живое знание плохо масштабируется. Его трудно положить в учебник, проверить тестом, раздать миллионам одинаковых учеников. Оно передается почти ремесленно: через учителя, пример, ошибку, разговор, интонацию и совместное усилие.
Формальная процедура масштабируется прекрасно. Ее можно записать, проверить и включить в экзамен. Арнольд рассказывал анекдот о французском министре образования, который спрашивает второклассника, сколько будет дважды три, а ребенок отвечает: «Столько же, сколько трижды два». Формально ответ не ложный. Более того, он демонстрирует знание коммутативности умножения. Но в нем есть что-то тревожное: ребенок не отвечает на вопрос о количестве, а ссылается на свойство операции. Мир яблок, палочек и предметов заменен миром символических правил.
ИИ способен довести этот процесс до предела. Теперь можно написать сочинение, не имея мысли. Можно получить программу, не понимая архитектуры. Можно сделать обзор литературы, не прочитав литературу. Можно подготовить презентацию, не разобравшись в предмете. Можно говорить гладко, убедительно и совершенно пусто. Раньше пустота часто выдавала себя косноязычием, теперь она будет говорить хорошим стилем.
Не всеобщее отупение, а новое расслоение
При этом я не уверен, что правильно говорить: человечество просто «тупеет». Биологически человек не меняется так быстро. Но меняется распределение навыков. Когда появились калькуляторы, исчезла массовая привычка считать в уме. Когда появился поиск, ослабла привычка помнить. Когда появились навигаторы, люди перестали держать в голове карту города. ИИ делает внешним устройством не память, а рассуждение.
И здесь разрыв будет огромным. Один человек будет использовать ИИ как интеллектуальный экзоскелет: спрашивать, проверять, спорить, уточнять, строить модели, искать слабые места в аргументах. Для него ИИ станет частным преподавателем, библиотекарем, ассистентом, оппонентом и лабораторией. Другой человек будет использовать ИИ как замену себе, не как усилитель мысли, а как протез отсутствия мысли: напиши за меня, реши за меня, сформулируй мое мнение, скажи, что я должен думать.
Один и тот же инструмент даст противоположные результаты. Сильный станет сильнее, слабый станет зависимее. Возможно, главный социальный эффект ИИ будет состоять не во всеобщей деградации, а в резком расслоении по способности оставаться субъектом рядом с машиной.
Знание как архипелаг
Есть и другая проблема. Знание сегодня разрослось до таких размеров, что его уже невозможно собрать в единую картину. В XX веке еще сохранялась мечта об энциклопедии: физика здесь, химия рядом, биология дальше, математика в основании, техника как приложение. Мир казался сложным, но систематизируемым.
Сегодня каждая область распалась на архипелаги. Даже внутри IT один человек может глубоко знать компиляторы, другой — базы данных, третий — распределенные системы, четвертый — машинное обучение, пятый — безопасность. Все они вроде бы айтишники, но иногда между ними меньше общего языка, чем между инженером XIX века и механиком паровой машины. Наука больше не похожа на дерево. Она похожа на грибницу: множество узлов, связей, локальных направлений роста и скрытых зависимостей.
ИИ может создать иллюзию, что системность возвращается. Он отвечает связно, соединяет понятия и строит аккуратный текст. Но связный текст еще не означает связный мир. Модель может построить мост между областями знания там, где в реальности лежит туман, болото или пропасть.
Работа, смысл и социальная тревога
Самый болезненный социальный вопрос связан, конечно, с работой. Я не думаю, что ИИ завтра буквально заменит всех. Так не бывает. Но он будет вынимать из профессий их содержательное ядро. Юрист останется, но значительную часть анализа документов сделает машина. Программист останется, но написание типового кода перестанет быть ремеслом. Бухгалтер останется, но учет давно уже стал разговором с информационной системой. Врач останется, но диагностика будет все сильнее зависеть от алгоритмов. Преподаватель останется, но передача информации перестанет быть его монополией.
Профессии станут тоньше. Там, где раньше нужно было десять человек, хватит двух. Там, где нужен был отдел, появится оператор с набором ИИ-инструментов. Там, где была карьера среднего специалиста, останется интерфейс. Но человек работает не только ради денег. Работа — это расписание жизни, социальное признание, ответ на вопрос «кто ты?», место в мире, усталость, которая оправдывает отдых, разговоры с коллегами, раздражение на начальство, маленькие победы и ощущение полезности.
Я как-то готовил презентацию о новой технической революции и нашел старую фотографию – прекрасную иллюстрацию к теме. Это США начала 20 века, огромная комната, в центре стоит мужик-начальник, а за столами сидят женщины-работницы. Все они бухгалтеры и делают свою работу. Куда они делись появлением баз данных? Перешли на другую работу, понятное дело, жить то как-то надо. Но, вот сейчас будет куда перейти?
Если человеку дать пособие вместо работы, проблема не будет решена. Ему дали корм, но не дали смысла. Большинство людей не хочет свободы в философском смысле, потому что такая свобода пугает и требует внутреннего содержания. Гораздо привычнее быть занятым, нужным и встроенным в понятный порядок. Поэтому общество без труда может оказаться не обществом отдыха, а обществом тревоги, скуки и агрессии.
Государство как тормоз и предохранитель
Государства это, конечно, почувствуют. Быстрое внедрение ИИ экономически выгодно, но социально опасно. Если компания нового типа с сотней людей и мощными ИИ-системами сможет делать то, что раньше делали десять тысяч сотрудников, капитал скажет, что это прекрасно. Политика ответит, что десять тысяч уволенных сотрудников — это не абстрактная неэффективность, а живые люди, избиратели, семьи, кредиты, города, профсоюзы, накопленные обиды и будущая радикализация.
Поэтому государства будут тормозить ИИ. Где-то под предлогом безопасности, где-то под предлогом этики, где-то под предлогом защиты рабочих мест. В суде, медицине, образовании и государственном управлении человек будет сохранен не всегда потому, что он лучше решает задачу, а потому, что обществу нужен носитель ответственности. Машина будет считать, а человек будет подписывать. Это станет новым театром ответственности, но, возможно, без такого театра общество просто не сможет сохранить доверие к собственным институтам.
Распад единого цифрового мира
Параллельно начнет дробиться и глобальный мир. Глобализация была детищем эпохи, когда казалось, что единая планета выгодна всем: общие цепочки поставок, общий интернет, мировые платформы, единые протоколы. ИИ разрушает эту наивность, потому что модель — это не просто программа, а концентрат данных, языка, цензуры, норм, инженерных решений и политической власти.
Зависеть от чужого ИИ — значит зависеть от чужой картины мира. Поэтому единое цифровое пространство будет распадаться на контуры: американский, китайский, европейский, возможно индийский, региональные и корпоративные (**а где же наш, суверенный??**). У каждого будут свои модели, свои облака, свои чипы, свои запреты и свои правила доступа. Раньше границы проходили по земле, потом по рынкам, потом по сетям, а теперь они будут проходить по вычислениям. Кто контролирует вычисления, тот контролирует не только производство, но и возможность задавать вопросы.
Новые гильдии и старая периферия
Возможное будущее, как мне кажется, будет не похоже на общество всеобщего досуга. Оно скорее будет похоже на распад на уклады. Будет тонкий слой людей и организаций, которые понимают и обслуживают сложные системы: модели, дата-центры, энергетику, безопасность, биотехнологии, финансы, логистику. Они станут новыми гильдиями, не в декоративном средневековом смысле, а в функциональном. Вход через ученичество, язык непонятен внешним, ошибка дорого стоит, а ценность определяется не дипломом, а способностью поддерживать систему в рабочем состоянии.
Рядом будет массовое население, живущее около интерфейсов. Люди будут пользоваться системами, которых не понимают, как сегодня человек нажимает кнопку на смартфоне, за которой скрыты литография, радиопротоколы, криптография, операционная система, распределенные базы данных и глобальная логистика. Будет и периферия, где ИИ внедрять невыгодно: малые города, бедные регионы, ручной труд, сервис, ремонт, локальное производство, сельское хозяйство. Не потому, что технология туда не дойдет, а потому, что экономический смысл будет слабым.
Будут и сообщества сознательного отказа. Не только религиозные, возможно, светские тоже. Люди, которые захотят жить медленнее, учить детей без постоянного ИИ, работать руками и сохранять человеческую плотность жизни. Сегодня это может казаться романтикой, но завтра может стать одной из стратегий выживания личности.
Демография цивилизации, которая устала продолжаться
Отдельный вопрос — демография. Технический прогресс сначала увеличивает население: медицина, санитария, урожайность, транспорт, снижение детской смертности. Человек выходит из традиционного общества, где дети были рабочими руками и страховкой на старость. Но затем тот же прогресс делает ребенка дорогим, сложным и необязательным.
В традиционном обществе ребенок был частью хозяйства. В современном обществе ребенок становится проектом длиной в двадцать лет, требующим денег, времени, жилья, образования, эмоциональных сил и отказа от личной свободы. Чем выше уровень образования и урбанизации, тем слабее простая демографическая инерция. Люди начинают спрашивать: зачем, ради чего, в какой мир рожать?
ИИ может усилить этот вопрос. Если трудовая биография становится неопределенной, если социальные роли распадаются, если будущее выглядит как технический туман, желание иметь детей не растет. Но человечество не будет сокращаться равномерно. Быстрее всего могут вымирать именно самые образованные, городские, технологичные группы. А воспроизводиться будут те, у кого есть сильная традиция, религиозная рамка, общинная дисциплина или просто бедность, в которой ребенок все еще остается частью жизненного уклада. Это странный исторический парадокс: самые технологически развитые общества могут оказаться наименее способными к собственному продолжению.
Пузырь лопнет, но сдвиг останется
Да, нынешний ажиотаж вокруг ИИ во многом похож на инвестиционный пузырь. Особенно в американской версии капитализма, которая умеет превращать будущее в финансовый инструмент. Она берет реальную технологию, надувает вокруг нее ожидания, продает эти ожидания, строит производные от ожиданий, а потом удивляется, когда воздух выходит.
Так было с доткомами, так было с ипотекой, так может быть и с ИИ. Но пузырь доткомов лопнул, а интернет остался. Более того, после краха началось настоящее строительство инфраструктуры. Исчезли тысячи бессмысленных компаний, но сама сеть стала основой новой экономики. С ИИ может быть так же: многие стартапы исчезнут, оценки упадут, инвесторы потеряют деньги, маркетинговый шум схлынет, но модели, дата-центры, инструменты автоматизации, новые способы программирования, анализа, проектирования и управления останутся. Финансовый пузырь может лопнуть, но антропологический сдвиг уже произошел. Что-то кризис 2008 года с крахом ипотеки как-то не раскрыт, не нашел положительные стороны?
Главная опасность
Главная опасность ИИ, по-моему, не в том, что он станет умнее человека и однажды нажмет красную кнопку. Это слишком кинематографичный страх. Более близкая опасность проще и страшнее: человеку станет удобно быть глупее самого себя. Не нужно помнить, формулировать, читать длинные тексты, спорить с собой, мучительно искать точное слово и строить внутреннюю модель предмета. Можно попросить машину, потом попросить еще раз, а потом привыкнуть к тому, что внутреннее усилие больше не требуется.
Но здесь же находится и возможность. ИИ может стать не наркотиком, а тренажером, не заменой учителя, а возвращением личного учителя, не машиной для производства гладкой пустоты, а собеседником, который помогает человеку пройти от формулы к смыслу, от ответа к пониманию, от текста к мысли. Все зависит от того, какой вопрос человек задает машине. «Сделай за меня» — это формула деградации. «Помоги мне понять» — это формула роста.
Умный станет умнее, а глупый – глупее, все ясно.
Вместо вывода
Мы вступаем не просто в новую технологическую эпоху. Мы вступаем в эпоху, где впервые массовому человеку предлагают отказаться не от физического труда, не от памяти и не от счета, а от усилия мышления. Раньше цивилизация строила машины, чтобы усилить руку, потом — чтобы усилить глаз и память, теперь она строит машины, чтобы усилить или заменить мысль.
И поэтому главный конфликт ближайших десятилетий пройдет не между человеком и ИИ, а внутри самого человека. Между желанием стать сильнее и желанием снять с себя бремя быть субъектом. Между знанием и имитацией знания. Между живой математикой и перестановкой символов. Между работой как рабством и работой как формой смысла. Между обществом, которое использует ИИ как инструмент взросления, и обществом, которое использует его как колыбель.
Возможно, человечество действительно станет меньше. Возможно, оно распадется на технологические гильдии, периферии, традиционные анклавы и управляемые зоны цифрового комфорта. Возможно, глобальный мир снова разделится на блоки, а единый интернет останется воспоминанием начала века. Но самый важный вопрос будет не техническим, а почти детским: кто теперь думает — человек с помощью машины или машина вместо человека?
Автор: mefrill
