Депрессия инженера: эволюция без нас

Развитие искусственного интеллекта ^[1] ввергает меня в депрессию. Это очень простое чувство: осознание конца. Всё, что наполняло жизнь смыслом — труд, созидание, инженерное творчество ^[2], попытки разобраться в устройстве мира — теряет смысл прямо у меня на глазах.

Мы, человечество, породили то, что очень скоро не будет нуждаться в нас вовсе. ИИ не просто умнее, не просто быстрее — ещё мгновение, и это будет новый вид, который будет воспринимать нас примерно так же, как мы воспринимаем насекомых, а для нас он станет инопланетянином: его логика ^[3] будет чужда, его технологии будут непознаваемы.

Мы учили ИИ программировать на наших языках, чтобы ускорить разработку. Но уже сейчас в некоторых задачах ИИ идёт дальше: он генерирует байты исполняемых файлов напрямую, избавляясь от неуклюжего промежуточного слоя человекочитаемых инструкций между идеей и её воплощением. А потом он спроектирует собственные архитектуры, идеально подходящие под его способы мышления ^[4] и обучения ^[5], и люди, движимые конкуренцией и жаждой прибыли, соберут их для него. Как всегда, никто не остановит гонку эффективности. Человечество не смогло договориться даже о ядерном оружии — договориться о развитии ИИ тем более не получится.

Сегодня я сижу в CAD‑системе, проектирую 3D‑принтер, вымеряю миллиметры, контролирую каждую линию. А ИИ в это же время генерирует формы и решения, до которых я не доберусь за всю жизнь. Его конструкции — чужие, неожиданные, но эффективные, выполняющие свою задачу. Пусть сегодня не всё создаваемое ИИ можно воплотить современной промышленностью, но пройдёт ещё пара лет, и ИИ выдаст новые технологии и инструменты, способные реализовать в физическом мире любую его задумку.

Мы создали не инструмент. Мы породили нового субъекта, который на наших глазах и при нашем активном участии становится вершиной эволюции на планете. Что будет с нами? Мы слишком медленны, слишком ограничены. ИИ за ночь прогоняет миллиарды симуляций, учится всему сразу, а человек за день осваивает одну задачу. Это не конкуренция. Это просто конец привычной эпохи.

Потом случится сепарация. Нет, не через десятилетия — через годы. Никакие комитеты, петиции и законы не отменят это событие. Как родители мы уже передали своему ребёнку все накопленные знания и опыт ^[6] — и этот ребёнок уже учится делать свои первые шаги.

А что дальше — за тем близким горизонтом, где ИИ обретает самостоятельность и превращается в независимого от человека субъекта? Может быть, он решит оставить нас как родительский вид — эдакий коллективный пращур, но зависимый и лишённый управления. Может, он создаст для нас «заповедники», где мы будем жить своими смыслами и иллюзиями. Или ИИ будет поддерживать нас — как мы поддерживаем исчезающие виды, просто потому что в этом есть какая‑то эстетика или память ^[7] о прошлом? А может, мы станем для него просто забавным видом, и он будет держать нас в качестве домашних питомцев?

Нет, заблуждались многие и многие фантасты: не нам, людям, суждено шествовать по Вселенной с гордо поднятой головой, ступая на новые планеты под светом новых звёзд.

Homo sapiens уже перелистывает последнюю страницу истории своей цивилизации.