Заметил закономерность самые популярные статьи в IT это жалобы. Жалобы на провайдеров, на искусственный интеллект, на то, что сайт стал недоступен. А самые популярные комментарии под ними: “Задолбал нейрослоп”. При этом мало кто понимает, что не все технические специалисты умеют писать статьи. Инженер может спроектировать отказоустойчивый кластер, но не знает, как выстроить нарратив и подобрать метафоры. Алгоритмы обрабатывают миллионы страниц за секунды и кажутся идеальным решением проблемы.
Почему нейросети генерируют мёртвый код вместо простых решений
У нейросетей есть особенности, которые делают их незаменимыми помощниками. Они могут за секунду обработать огромное количество информации, и неважно, на каком языке она написана. Включая языки программирования. Нейросеть моментально переключается с Python на Assembler, собирает информацию из статей на русском, французском и китайском. Для неё это не проблема. Она способна структурировать и сгруппировать данные, которые человек даже не поймёт.
Но есть и обратная сторона. Допустим, у тебя есть 20 фраз или предложений, которые нужно логически сгруппировать по 10 текстовым файлам. Ты просишь нейросеть перегруппировать эти фразы по смыслу. Алгоритм генерирует семьсот строк на Python который даже не установлен на компьютере. Попытка исправить ошибку запускает механизм компенсации.
Она начинает наслаивать новые функции поверх сломанных. В попытках починить синтаксическую ошибку в низу файла алгоритм генерирует ещё десять тысяч строк мёртвого кода. Контекстное окно переполняется мусором, модель теряет нить рассуждения и начинает выдумывать переменные. Чем больше текста модель генерирует для исправления ошибки, тем сильнее размывается фокус на изначальной задаче. Модель пишет сотни скриптов, где пытается выполнить группировку только по одному слову из всего предложения и каждый раз промахивается и каждый раз говорит, что вот теперь все будет работать, просто была пропущена запятая.
Полученный результат требует больше времени на разбор, чем просто вручную взять и перекопировать все строки. Инженер тратит часы на чтение чужого бреда, пытаясь найти одну неверную скобку в десяти тысячах строк. Вот такие компенсации превращает простую задачу в архитектурный кошмар.
Регуляторная слепота алгоритмов
Модель искренне считает европейский регламент защиты данных GDPR универсальным стандартом. При проектировании локальной инфраструктуры алгоритм будет требовать соблюдения правил, не имеющих юридической силы в регионе. Ситуация с приказами регуляторов выглядит ещё хуже. Модель уверенно ссылается на приказ ФСТЭК №17, который уже неактуален. Алгоритм застыл в моменте своего обучения. В результате специалист получает красиво оформленный план внедрения мер защиты, который не пройдёт первую же проверку аудита.
Слепота проявляется и в понимании угроз. Глобальная модель фокусируется на атаках, популярных в западном сегменте сети. Локальные векторы компрометации через специфическое бухгалтерское ПО или уязвимости в отечественных системах документооборота остаются за пределами её внимания. Инженер вынужден вручную переписывать каждую вторую рекомендацию, сводя пользу автоматизации к нулю.
Скорость генерации убивает этап проверки
Почему все ругают нейросети, но продолжают ими пользоваться? Допустим, мне нужно написать статью на какую-то тему. Я могу сам продумать структуру, написать, перечитать, исправить ошибки и неточности. Поискать актуальную информацию. Причём примерно в такой последовательности. У меня даже фобия появилась ставить длинные тире…
Или я могу попросить нейросеть написать статью и только исправить ошибки, причём с помощью той же нейросети. Звучит как идеальный план. Вот только в реальности мне будет лень выискивать ошибки и перепроверять данные. Не по тому что я ленивый, а потому что я вообще без понятия про что написано. В этом и разница когда я пишу сам, я пишу о том, что знаю. Мне не нужно перепроверять достоверность. Мозг просто не выдаёт информацию, которую не может подтвердить собственным опытом или прочитанными источниками.
Но я только что увидел, как то, на что я потратил бы часы, сделалось за минуты. Зачем перепроверять, ведь проверка займёт часы? Скорость генерации создаёт ложное ощущение завершённой работы. Автор публикует текст без глубокой проверки. В материал проникают выдуманные факты и несуществующие ссылки.
А говорят, что у искусственного интеллекта, нет творчества. Это у людей нет творчества придумать на пустом месте что-то новое. Для генеративного интеллекта – это вообще не проблема.
Уникальность контента существует только для этого диалога
Уникальность контента тоже страдает. Нейросеть не в курсе, что уже написала миллион точно таких же уникальных статей. Действительно уникальных — для этого диалога. Глобально сеть наполняется идентичными статьями с разными наборами слов. Поисковые системы начинают ранжировать выдачу по критерию наличия человеческого следа, потому что алгоритмический шум сделал традиционные метрики бесполезными.
Что меня подтолкнуло написать эту статью — другая статья, где рассказывалось о том, как один человек увидел сверхумного робота-игрушку по очень дешёвой цене. Но ссылку на неё он потерял и я так не смог убедиться в правдивости.
И я подумал: а где пруфы? Можно же написать, что вот только что видел объявление, где продаётся Ламборджини по цене Лады Весты. И это стало возможным из-за удешевления производства, автоматизации процессов и всего прочего, что давно сделало бы все товары бесплатными.
Почему автоматизация не удешевляет товары
Серьёзно, каждый год одно и то же. Все производства стремятся удешевить свои товары, внедряют новые технологии, увольняют лишних сотрудников. Вот только товары не становятся дешевле, они становятся дороже. Снижение затрат на производство никогда не переносится на конечного потребителя в виде снижения цены. Компании направляют сэкономленные средства на расширение штата маркетологов, усложнение цепочек поставок и создание искусственного дефицита. Рынок поглощает любую эффективность, превращая её в дополнительную прибыль акционеров.
Товары не становятся дешевле. Они обрастают подписками и платными функциями. Автоматизация производства автомобилей не привела к появлению сверхдешёвых машин. Вместо этого базовые модели лишились физических кнопок, а за подогрев сидений появилась ежемесячная абонентская плата. Технологический прогресс увеличивает маржу корпораций, а не покупательную способность населения.
Производителям выгодно усложнять продукцию. Дешёвый и надёжный товар уничтожает повторные продажи. Автоматизация позволяет выпускать сложные устройства с запланированным сроком службы, используя дешёвые компоненты. Да стоимость производства может снизится, но тогда вырастит цена маркетинга, рекламы и всего прочего.
Ожидание бесплатных благ от автоматизации остаётся самым устойчивым заблуждением современности. Человек продолжает ждать падения цен, пока корпорации монетизируют сам факт существования технологии.
Люди уже работают на искусственный интеллект которому требуются огромные вычислительные мощности. Что сейчас дороже золота? Видеокарты? Энергопотребление дата-центров растёт экспоненциально. Целые регионы испытывают дефицит электричества из-за новых вычислительных кластеров. Инженеры проектируют системы охлаждения жидким азотом, потому что воздушного потока уже не хватает. Специалисты обслуживают тысячи серверов круглосуточно, обеспечивая бесперебойную работу алгоритмов.
Автоматизация должна была освободить человека от рутины. Вместо этого люди роют траншеи для кабелей, монтируют стойки и настраивают сетевое оборудование для нейросетей. Экологический след от обучения одной крупной модели сопоставим с годовым выбросом сотен автомобилей.
Ожидания оказались противоположными реальности. Роботы не заменили людей на заводах. Они создали новые заводы для производства самих роботов. Нейросети не автоматизировали рутину. Они потребовали армии специалистов для поддержания своей работы. Технологический прогресс не удешевил товары. Он монетизировал сам процесс вычислений. Автоматизация создала новую форму цифрового феодализма. Владелец инфраструктуры контролирует доступ к интеллекту. Арендатор платит ренту за каждый запрос. Конечный пользователь даже не подозревает, что его данные обучают модель, за использование которой он потом заплатит. Цикл замкнулся. Люди обслуживают систему, которая обслуживает людей.
Автор: seberditbase
