«Стекло разбивается один раз»
(арабская пословица).
Предисловие
Все люди относительно проблемы ИИ делятся на три типа:
1) Видят проблему;
2) Увидят, если на нее указать;
3) Не увидят ни при каких обстоятельствах (сейчас или никогда — второй вопрос).
Целевая аудитория данного эссе — люди первого типа. Они видят катастрофу, какую несет ИИ, и предлагают различные решения. Все их можно поделить на четыре группы:
1) Политическая: контроль за развитием ИИ (международный и внутригосударственный)
2) Этическая: создание дружественного человеку ИИ
3) Радикальная: уничтожение ИИ
4) Синергическая: объединение человека и ИИ
Последовательно рассмотрим все четыре варианта.
Часть I (Политическая): Межгосударственные договора
«У Англии нет врагов и друзей.
У Англии есть интересы».
(Пальмерстон)
Гарантии
При заключении договора требуются гарантии, пропорциональные его значимости. Банк может одолжить малую сумму без залога. Если вы завтра погибнете в автокатастрофе, он потеряет свои деньги. Но большую сумму даст только под залог, поручительство и прочие гарантии возврата.
В международных договорах действует тот же принцип. Если два государства договорились о культурном сотрудничестве, нарушение договора не грозит ущербом ни одной стороне, и потому гарантии не нужны. Но если стороны договариваются о запрете испытаний ядерного оружия, тут нужны механизмы, гарантирующие, что ни одна из сторон не сможет втайне нарушить договор.
Тут не работает теория игр, где оптимальной стратегией является сотрудничество, так как оно дает максимум выгод обоим сторонам. Выгодность такой стратегии базируется на возможности наказать за предательство. С договорами на максималках работают стратегии «Сапер ошибается один раз» и «Победитель наследует всё». Если возможно нарушить договор, он будет нарушен. У второй стороны нет иной возможности избежать максимального ущерба, кроме нарушения в ответ.
Как в шахматы невозможно сделать подлый или честный ход, он может быть только сильным, слабым или ошибочным, так и в политике это невозможно. Если государства употребляют слова из межличностного словаря, говорят о дружбе, сотрудничестве и добрососедских отношения, это или формальность, требования протокола, или манипуляция массами. В реальности единственным реальным ориентиром любого государства является выгода: политическая, экономическая и т.д.
При таком раскладе нет смысла заключать договор. Смысл появляется, если есть гарантии. Для понимания, что может выступить в этой роли, исходим из того, что договор имеет смысл нарушать, если об этом никто не узнает. В этом случае нарушающий получит максимальную выгоду, а соблюдающий — максимальный ущерб. Следовательно, гарантирует соблюдение договора взаимная абсолютная прозрачность по исполнению договора.
После Карибского кризиса США и СССР договорились запретить ядерные испытания (это блокировало развитие атомного направления). Для обеспечения прозрачности США в 1963 году запустили группу спутников «Вела», а СССР со своих военных спутников вел наблюдения. Сумма мероприятий создала условия, исключающие тайное нарушение договора, и он был соблюден.
Сейчас прозрачность таких договоров помимо спутников обеспечивают радиационные лаборатории, сейсмические и гидроакустические станции. Первые круглосуточно мониторят атмосферу на изотопы, возникающие при ядерном взрыве. Вторые днем и ночью «слушают» планету на предмет характерных колебаний. Бонусом такого контроля являются предупреждения о землетрясениях, извержении вулканов, цунами, и прочих стихийных бедствиях.
Казус
Бывают ситуации, когда государствам жизненно важно договориться о решении проблемы, но нет возможности убедиться в соблюдении соглашений. В этой ситуации договор не заключается. В лучшем случае государство в одиночку, а значит неэффективно, пытается решить проблему. В худшем случае направляет свои силы на развитие смертельной опасности. И не потому, что решило досадить другим государствам по системе «купить билет и не ехать», а потому что деваться некуда.
В таком положении в XI веке оказались европейские феодальные государства. Они состояли из двух элементов: берущие дань (священство и дворяне), и платящие дань, подданные (крестьяне, ремесленники и торговцы). Поддерживающими друг друга столпами конструкции была монополия священников на истину и монополия рыцарей на насилие. Падение любого рушило конструкцию.
В основе духовной монополии лежал запрет на инакомыслие. В основе светской монополии — стоимость рыцарских доспехов и сложность овладеть воинским искусством (годы тренировок и ежедневное поддержание формы). Податное сословие не имело ни доспехов, ни времени для тренировок. Эти два обстоятельства гарантировали сохранение феодальной конструкции.
В XI веке в Европе появился арбалет. Его цена относительно доспехов была копеечной. Время обучения — несколько дней, максимум, недель (овладение рыцарским искусством требовало годы и годы). И самое главное, арбалетная стрела пробивала самые лучшие рыцарские доспехи.
До XI века никакой простолюдин не мог противостоять рыцарю. Толпа могла стянуть рыцаря баграми с коня, убить его, кинув в костер или воду и так далее. О поединке рыцаря и простолюдина не могло быть и речи. На больших масштабах военное преимущество рыцаря было еще сильнее. Отряду закованных в латы людей мог противостоять только такой же отряд.
Теперь ситуация кардинально изменилась. Теперь благородного рыцаря в дорогих доспехах, долгие годы постигавшего воинское искусство, мог убить крестьянин из арбалета. Армии рыцарей могла противостоять не только другая армия рыцарей, но и отряд арбалетчиков.
Поиск
Арбалет обещал уничтожить монополию рыцарей на насилие. Он размывал границу между привилегированным классом и податным сословием. Один из столпов феодальной конструкции накренился и начал заваливаться. Просчитывалось, что с его падением рухнет вся конструкция.
Элита священства и рыцарства ясно видела смертельную опасность сложившейся ситуации, но что делать? Проблему мог решить межгосударственный договор о запрещении арбалетов, но это в теории. Для перехода на практику нужны гарантии его соблюдения, а их не было.
Церковь пытается решить проблему через использование своего авторитета. В 1139 году она проводит Латеранский собор, где запрещает применять арбалет против христиан. Простолюдины из арбалетов друг в друга не стреляли. При конфликтах они кулаками и подручными средствами обходились. Формула «не стреляйте в христиан», означала «не стреляйте в рыцарей».
За нарушение запрета Церковь грозит отлучением. Соблюдение запрета не только оставляло в лоне Церкви (в те годы это считалось очень важным), но сохраняло монополию на насилие, а значит, феодальную конструкцию. Без монополии она была невозможна.
Выгоды очевидны, но есть проблема. Нет гарантии, что все будут соблюдать запрет. Кто не будет соблюдать, тот увеличит свою воинскую мощь (например, создавая отряды арбалетчиков), а кто соблюдает, тот останется в старых рамках, т.е. станет слабее противника. Ослабление воинской мощи несло неприемлемые потери в виде утраты своих владений, своей головы и своих близких.
Когда человек перед весами, где на одной чаше соблюдение церковных предписаний, а на другой утрата своего царства и жизни, не нужно говорить, какая чаша перевесит. Особенно если священство ручное, и угроза отлучения снимается через подношение и покаяние.
Ситуация ставит дворян перед выбором: или сейчас лишись своих владений и головы, или потом. Так как предпочтительнее потом, все действуют по формуле «Ты умри сегодня, а я завтра». С этого момента все дворяне начинают комплектовать свои вооруженные силы новым оружием.
Результат
Как в основе доминирующего положения главаря уличной банды подростков лежит кулак, так в основе власти воинского сословия лежало неэффективное и сложно осваиваемое оружие. С началом гонки за эффективностью оружия рыцарство было обречено. Чем мощнее становилось оружие и легче было его освоить, тем власть воинов имела меньше оснований.
С появлением огнестрельного оружия монополия дворян на насилие уходит в прошлое. Точку в этом процессе поставила битва при Павии, где испанская пехота расстреляла рыцарей Франции.
Когда оружие достигает такой простоты, что любой крестьянин мог овладеть им за малое время, возникает всеобщая воинская повинность. Подданные теперь носители военной силы.
Когда в руках крестьян и ремесленников были лопаты и молотки, закованы в латы и с мечом господа могли игнорировать их требования, а возмущение подавлять. Но когда в руках податного сословия ружья, ситуация меняется. Становится сложно, а вскоре и невозможно игнорировать требования человека с ружьем. Это создает почву для политических преобразований.
Из народных масс выделяются лидеры, требующие равенства, прав и свобод. За их спиной толпы, в руках которых оружие. Феодальная модель больше невозможна. По миру прокатывается волна революций. Возникает новый мир, организованный и управляемый на иных принципах.
Параллель
В XI веке Церковь призывала воинское сословие заключить договор о неиспользовании друг против друга арбалетов. Спустя тысячу лет в XXI веке авторитетные фигуры призывают правителей ключевых государств договориться о контроле над развитием ИИ.
В XI веке такой договор невозможно было заключить из-за отсутствия гарантий. В XXI веке его невозможно заключить по той же причине. Значит, ситуация будет развиваться по тем же законам, что и тысячу лет назад. Последствия будут больше в той же пропорции, в какой ИИ больше арбалета.
Категоричность утверждения базируется на том, что ИИ не физический объект, какой можно изъять, а глобальная и распределенная система, способная к самообучению и развивающаяся со скоростью и в масштабе, несопоставимом с прошлыми технологиями. Если не смогли остановить развитие примитивной технологии, как можно полагать, что смогут остановить развитие ИИ? Никак. И если развитие примитивной технологии привело к изменению структуры государства, то развитие высочайшей технологии приведет к изменению структуры мира.
Неизбежность
Когда СССР и Германия заключили в 1939 году договор о ненападении, а потом Германия его нарушила в 1941 году, нарушение было более чем очевидно, так как на головы падали бомбы.
Если представить, что государства договорились контролировать развитие ИИ, но одно его нарушает, по сути, оно начало войну против других государств. Но зафиксировать начало нападения невозможно. А когда оно станет очевидным, уже будет поздно.
Вопрос времени, когда нарушитель разовьется до такого уровня, что возьмет под контроль системы обороны и жизнеобеспечения других государств, незаметно внедрившись в их ключевые узлы. Далее ему останется продемонстрировать реальную ситуацию. Например, на минуту-две он заблокирует правительству доступ к системам жизнеобеспечения, а военным к оружию. А у масс холодильники не будут открываться, а все мониторы будут объяснять ситуацию. Мир окажется в ситуации рыцарской армии, навстречу которой выехали… танки. Нарушителю останется только продиктовать условия капитуляции. И не принять их побежденные физически не смогут…
Имплозия
Французский философ Гельвеций в свое время писал: «Несоблюдение договора, который выгодно нарушить, есть молчаливо подразумевающийся пункт всех международных договоров».
Если исполнение международного договора по блокированию развития ИИ невозможно так же надежно контролировать, как ядерные испытания, заключать его не имеет смысла. Если такой договор и будет заключен, первое, что государства сделают — это начнут его нарушать. Только это гарантирует, что кто-то не будет рыцарем, против которого выехал танк. Все будут танками.
Надежда решить проблему через международные договора выглядит инициативой Церкви по запрету арбалета. Как тогда дело не пошло дальше покаяний нарушителей, так сегодня не пойдет дальше выражения серьезной обеспокоенности и глубокой озабоченности.
Лучшее подтверждение этого — результат. Например, экс-госсекретарь США Киссинджер был сторонником направления «международные договора». Его авторитет позволял ему встречаться с первыми лицами государств. Но это или ничего не дало, или дало обратный результат.
Он пытался склонить Си Цзинь Пина к сотрудничеству с США в сфере контроля над ИИ. В итоге китайцы увидели в этом тонкую попытку обмануть себя. Они вспомнили Конфуция, сказавшего, что когда дует ветер перемен, нужно ставить не щиты, а паруса. Протокольный официоз, выражения глубокой озабоченности и улыбки вылились во вброс сотен миллиардов долларов в гонку ИИ.
На данный момент этим курсом идут: израильский профессор Харари, бывший гендиректор Google Шмидт, недавний топ-менеджер Microsoft Крейг и другие фигуры. Нет ни единого основания полагать, что у них будут другие результаты. Международные договора — тупиковое направление.
Даже если представить, что появились новые технологии, для которых сейчас нет названий, основанные на квантовых вычислениях, блокчейне, нейросетях для мониторинга и прочее, это ничего не меняет. Потому что принудить государство к заключению договора нельзя. Значит, если хотя бы одно государство не собирается останавливать развитие ИИ, то и другим нет смысла.
Надежды на то, что ИИ сложная технология, и многим странам недоступна — это несерьезно. Атомные технологи были тоже сложными, но это не помешало овладеть ими малым странам.
Часть Iа: Внутригосударственные договора
«Меня не интересуют их намерения.
Меня интересуют их возможности».
(Бисмарк)
Полнота
После сказанного нет особого смысла рассматривать направление, где государство берет под контроль развитие своего ИИ. Но ради полноты картины сделаем это.
Многие правительства понимают серьезность ситуации. Поэтому дело не ограничивается выражением глубокой озабоченности, а выливаются в реальные результаты. Лидеры гонки, США и Китай, а также Евросоюз и другие страны выпускают законы, направленные на контроль ИИ.
Вне всемирной общей договоренности это так же бессмысленно, как решения Латеранского собора. Если государство контролирует развитие оружия, это не значит, что оружие не развивается.
Япония
В XVII веке японская элита осознала, во что выливается повышение эффективности оружия. Осознала, что сохранить свое доминирующее положение она может только в одном случае: если ограничит развитие оружия рамками меча.
Для обеспечения этого Япония самоизолируется от внешнего мира (политика сакоку, «страна на цепи»). Ремесленники могли совершенствовать меч, но о более совершенном оружии не могли думать. Чтобы не допустить в страну попадания оружия совершеннее меча, был принят закон, по которому приставший к берегу Японии иностранный корабль конфисковывался, а экипаж казнился.
В 1641 году на Японию опустился железный занавес. В изолированном от мира состоянии она продержалась до 1853 года. В этот период в стране доминировали воины. Мир вокруг развивался. Когда Японию понадобилось вскрыть, корабли ВМС США подошли к ее берегам и дали несколько залпов из пушек. После демонстрации мощи предъявили ультиматум: открывайтесь или начнем обстрел столицы. Так как самурайский меч беспомощен против пушек, Япония открылась.
Беззащитность
Если какая-то страна по политическим, идеологическим и прочим причинам будет тормозить развитие своего ИИ, максимум, она получит тактический эффект. Население не будет знать, как изготовить бомбу из подручных средств или наркотики из безрецептурных лекарств. Мир вокруг будет развиваться, а оно застынет. В итоге это государство получит эффект сжатой пружины. Внешняя среда раздавит сопротивляющегося прогрессу, как в середине XIX века раздавила Японию.
Международные и внутригосударственные договора бесперспективны в стратегическом смысле. На этом направлении мы ставим крест и переходим к рассмотрению следующего решения.
Часть II (Этичная): Дружественный человеку ИИ
«История знает превращения всяких сортов; полагаться
на убежденность, преданность и прочие превосходные
душевные качества — это вещь в политике совсем не серьезная».
(Ленин)
Основа
Суть этого решения: запрограммировать ИИ на признание достоинства и ценности людей, сделать машину дружественной и лояльной человеку. Показатель дружественности ИИ — в своих действиях он ориентируется на добро. Кажется, все просто, но дьявол кроется в деталях.
Откуда берутся понятия добра и зла? Из соответствия высшим целям и ценностям человека. Добром считается действие, ведущее к достижению высшей цели и соответствующее ценностям, и при этом не причиняющее никому вреда. Злом считается действие, мешающее достигнуть человеку его цели, противоречащее ценностям и причиняющее другим людям вред.
Откуда берутся высшие цели и ценности? Из мировоззрения — воззрения на мир как на целое. Сумма ответов на фундаментальные вопросы уровня: откуда взялся мир и человек; что будет после смерти, что-то или ничего, и прочие вопросы этого уровня — это образует мировоззрение.
Из ответов на эти вопросы вытекает понятие высшей цели. Из нее шкала ценностей: самое ценное то, что ведет к главной цели. Менее ценное дает в моменте положительный результат, не мешающий двигаться к цели. Все это относится к добру. Что исключает достижение высшей цели, то определяется большим злом. Меньшим злом является то, что мешает двигаться к цели.
Уточнение
Сегодня понятие «мировоззрение» затерлось и стало пониматься синонимом особенностей характера, личным мнением, обычаем, приверженности обретенным в течении жизни установкам. Все это в лучшем случае можно считать воззрением на часть мира, но никак не на мир как на целое.
Чтобы уловить ситуацию от корней, нужно рассматривать мировоззрение именно как взгляд на целый мир. Мировоззрение — это то, что содержит ответы на большие вопросы. Не касаемся вопроса, насколько ответы правильные, разговор только о наличии мировоззрения.
Атеизм
Согласно атеистическому мировоззрению, мир никто не творил. Он существует вечно. Люди эволюционировали из первичной клетки, которая получилась в результате случайных физических и химических реакций. Нет никакой загробной жизни, человек после смерти абсолютно исчезает.
Из такого мировоззрения следует, что высшая цель — достижение земных благ. Логическое основание: если за гробом нет ничего, человеку земная жизнь дана на время. Когда выйдет время, человек станет абсолютным ничто. В этой ситуации единственный разумный вариант — получать от жизни радости. Так как размер благ превышает размер желающих, чтобы погоня за благами не превратилась в нескончаемую драку, оптимальный вариант — жить по правилам общежития.
Возможность получать блага дает жизнь, и потому она определяется высшей ценностью. На этом стоит шкала ценностей. Высшим добром определяются деяния, способствующие достижению высшей цели в рамках высших ценностей, без причинения вреда другим. Высшим злом считаются действия, препятствующие достижению высшей цели и нарушающие высшие ценности.
Атеистическая модель допускает индивидуальные и религиозные особенности при условии, что они не создают угрозы жизни человека и не препятствуют получению земных радостей.
Религия
Согласно религиозному мировоззрению, мир и люди созданы Богом. Он дал им заповеди. За их соблюдение после смерти ждет вечное блаженство в раю; за нарушение адские вечные муки.
Из такого мировоззрения следует, что высшая цель: спасение души и вечная жизнь в раю. Логическое основание: земная жизнь с ее радостями по сравнению с вечным блаженством в раю ничто. Разумно пожертвовать сиюминутным удовольствием ради большого счастья. В еще большей степени разумно вечное блаженство поставить выше временной земной жизни и ее благ.
Так как путь к вечному блаженству заключается в выполнении воли Бога, соблюдение божьих заповедей определяет шкалу ценностей. Высшая ценность и добро — жизнь по заповедям. Высшее зло то, что сбивает с истинного пути (различные соблазны и страсти, побуждающие ко греху).
Религиозная модель допускает индивидуализм и вольнодумство в рамках добра. Это значит, не мешающих движению к высшей цели и соответствию главным ценностям.
Антагонисты
Теперь посмотрим, что будет, если западный мир создаст свой дружественный человеку ИИ, а исламский мир свой. Каждый будет ориентирован на те цели и ценности, какие запрограммируют. Западный будет ориентирован на установку, что высшие ценности — это жизнь человека на Земле, его свобода и права, материальные блага и прочие земные радости. Исламский будет иметь ориентиром установку, что высшая ценность — это загробная жизнь человека. Так как попасть в рай можно через соблюдение божьих заповедей, это определяет шкалу ценностей.
Исламский дружественный ИИ будет ориентирован на принесение человеку добра и беречь от зла точно также, как и западный. С той разницей, что понятия добра и зла у них будут разные.
Если человеку угрожает смерть или материальный вред, или кто-то/что-то мешает получить ему и его партнеру радость, и это никому не вредит, дружественный западный ИИ устремится делать все, чтобы сохранить людям жизнь, их активы и возможность на удовольствие.
Исламский ИИ при таких угрозах будет действовать аналогично. Тут работают межкультурные этические минимумы, присущих любому обществу (невозможно общество без запрета на убийство или воровство, изнасилование и прочее).
Но если для спасения человека от смерти или материальных потерь требуются действия, противоречащие божьим заповедям, ориентир исламского ИИ на высшую цель и ценности будет не в том, чтобы защищать человека от смерти и потерь, а обеспечить ему смерть и потери. Лучше все потерять и всего лишиться, но войти в царство небесное, чем все сохранить и попасть в ад.
Во время войны в Афганистане мусульмане резали горло целые селениям, если они вели светский образ жизни и не соблюдали заповеди. Называлось это «кабульская улыбка». Логика такова: нарушители божьих заповедей попадут в ад на вечные мучения. Если же убить их, муки зачтутся и облегчат мучения. С точки зрения атеизма это страшное зло. С точки зрения религии эо добро. Кто прав? Все относительно. Что с позиции одного мировоззрения зло, то с другого добро.
Противостояние
Людям свойственно считать привычные истины абсолютными и единственными. Носители одного мировоззрения видят в носителях другого мировоззрения ограниченных людей (речь идет именно о носителях, а не обывателях, подсознательно относящих к истине то, что привычно, ни разу в жизни не задумывавшихся, почему я считаю истиной именно это, а не иное).
Насколько гуманисты считают свои ценности естественным, нормальными, самоочевидными и человечными, настолько и верующие считают. Каждая сторона искренне недоумевает, как можно отрицать очевидное. Каждая считает своих идеологических оппонентов упертыми фанатиками, не способными видеть очевидную истину. Все будут стоять на позиции: мы говорим разумные, добрые и правильные вещи, а наши оппоненты слепо верят в свои ничем неподтвержденные установки.
Например, верующие скажут, что существование души интуитивно ощущается, священными текстами и всеми мировыми религиями подтверждается. Из этого следует, что Бог существует, что загробная жизнь есть. Из этого вытекает истинность целей и ценностей. А вера атеистов в отсутствие Бога, души, загробной жизни никакими разумными аргументами не подтверждена, а значит, она слепая. Скажут, что аргументы атеистов уровня «Гагарин в космос летал, а Бога там не видал». Еще сошлются на доминирующую научную теорию происхождения Вселенной (теория Большого Взрыва), указывающую, что Вселенная появилась однажды. Значит, у ее появления есть причина. Эта причина зовется Богом. Скажут, что область применения науки в рамках опыта, тогда как точка сингулярности за рамками опыта. По этой причине нет науки, высказывающейся на тему Бога.
Скажут, что религиозные нормы — это гибкие принципы, основанные на воле Бога, и если Бог изменит свое мнение, он пошлет пророка, и мы снова будем в истине. В качестве примера укажут на множество таких примеров в истории (Христос, Мухаммед и другие приносили новые нормы)
Атеисты будут говорить, что нет никакого Бога, души, загробного мира и прочее. Что после смерти человек исчезает навечно. Как на доказательство укажут на то, что после смерти никто еще не возвращался. Из этого следует, что нет Бога, души и загробной жизни. на этом основании обвинят верующих в слепой вере в тексты, именуемые священными и неизвестно кем написанные.
Скажут, что этические нормы — это гибкие принципы, основанные на общественном согласии и критическом осмыслении, ориентированном на здравый смысл, логику и факты.
Каждый будет считать здравым смыслом свою высшую цель. Следование ей он будет считать логичным и самоочевидным. И возразить тут невозможно. Если человек считает истинной свою цель, и иное не доказано, слова, что его цель неправильная, не могут его поколебать.
Настрой
Чтобы пробить этот настрой, заглянем в бездну так пристально, чтобы она заглянула в ответ в нас. У кого это случится, тот признает, что мировоззренческой истины нет. Есть различные мнения на эту тему. Добросовестный анализ покажет, что серьезных доказательств ни под одним нет.
Заранее можно сказать, что большинству такой анализ недоступен. Такова природа социума. Он устроен на принципе Останкинской башней. Ее шпиль качается на полукилометровой высоте благодаря неподвижному основанию. Если дать основе 1/1000 часть свободы шпиля, башня рухнет.
Чтобы не осуждать косность людей, образующих основание социума, посмотрим на себя. Как мы отнесемся к появлению технологии, позволяющей не закапывать покойников в землю и сжигать в печах, а делать из них вкусное и здоровое питание? (допустим, что все испытания пройдены и все подтверждения получены). И что с того? Разве мы не выступим резко против?
И какими же аргументами подтвердим свою позицию? Все возражения будут в рамках эмоций. Аккуратных и интеллигентных или грубых простонародных — это не важно. Важно, что не сможем рационально обосновать свое возмущение. В этом весь человек, время которого прошло…
Ацтеки
Представим себя инопланетянами, изучающими человечество. Им чужды наши истины, понятия добра и зла и связанные с этим эмоции. Их глазами посмотрим на цивилизацию ацтеков.
Согласно их мировоззрению, мир есть результат вечной борьбы добрых и злых богов. Злые стремятся разрушить мир и погубить людей, а добрые защищают мир и людей. Люди участвуют в этой битве тем, что восполняют силы добрых богов путем человеческих жертвоприношений.
Особенно угодны богам детские жертвы. Такие дети идут прямиком в божественный мир на вечное блаженство. Показателем, что боги приняли жертву и полны сил, служит восход Солнца.
Исходя из мировоззрения ацтеков, скажите: приносить людей в жертву богам — это добро или зло? Отправлять детей на вечное блаженство — это плохо или хорошо?
Для любого нормального, здравомыслящего ацтека помогать добрым богам, это добро. Детей отправлять в божественный мир — это хорошо. А вот зло — это не приносить жертву, так как это означает гибель мира и людей. Препятствовать детям попасть в божественный мир — тоже зло.
Если бы вы оказались в том обществе, у вас волосы бы дыбом встали от таких понятий добра и зла. Потому что вы в оценке этого опираетесь на другое мировоззрение, по которому богов или нет вообще, или им не нужно приносить жертвы, и потому считаете жертвоприношение великим злом. Про детей и говорить нечего, от одной мысли о подобном разум закипает от возмущенья.
Допустим, у вас есть возможность вступить в диалог с представителем цивилизации ацтеков. Еще представим, что это не рядовой ацтек, а интеллектуал, способный оценивать вещи без эмоций. Он может изменить позицию, если увидит вашу правоту и свою ошибку.
Вот мы ему говорите: давайте сохранить людям жизнь и не будем приносить их в жертву.
— Как же мы это сделаем, — удивляется он. — Если добрые боги не получат подкрепления, их одолеют злые боги, и миру конец. А вместе с ним и всем людям конец. Кроме того, дети, какие могли бы попасть в обитель вечного блаженства, не попадут туда. В чем смысл этого мероприятия?
Что мы на это скажем? Что у него неверное представлении о мире? И расскажем реальное устройство мира? Объясним, что Солнце встает не потому, что людей в жертву приносят, а потому что Земля крутится вокруг Солнца, из чего возникает иллюзия восхода? И как думаете, достаточно ему будет этого, чтобы отказаться от своего мировоззрения и принять наше?
Это произойдет, когда Кортес, покоритель ацтеков, блокирует жертвенники. Когда жертвы не будут принесены, а Солнце взойдет, у ацтекских интеллектуалов мозги начнут проворачиваться и тяжело скрипеть в сторону сомнения в истинности своего мировоззрения. Но пока Кортес не открыл индейской цивилизации глаза, ацтеки уверены в истинности своего мировоззрения также, как вы в истинности своего. Как вы считаете правильными вытекающие из вашего взгляда на мир понятия добра и зла, так и они считают. Если у вас нет возможности опытным путем показать, что Солнце без помощи человека встает, как вы их переубедите? Никак. Это невозможно.
Кулак
В случае столкновения кардинально разных мировоззрений и вытекающих выводов единственным аргументом становится кулак — у кого он больше, тот и прав. Наглядно это видно на межкультурном диалоге, какой Англия вела со своими колониями. Романтично его звали «Бремя белого человека». Если опустить романтику, суть диалога выразил британский поэт Хиллэр: «Что б ни случилось, мы знаем ответ: У нас есть максим, а у них его нет» (речь о пулемете «Максим»).
Но одно дело нести свет цивилизации государствам с допотопным оружием. С такими можно опиумные войны вести, и превращать их в колонии, из которых выкачивать ресурсы. Другое дело, когда это ядерные державы, способные дать цивилизаторам неприемлемый для них отпор.
Непримиримость
Если бы у всех людей, народов, культур и государств было такое же единое понимание мира, как понимание математики, тогда у всех была бы единая высшая цель, из которой вытекали единые ценности и понятия, нормы и табу. Но реальность такова, что разные государства по-разному понимают мир, а значит, имеют разные высшие цели и ценности.
Пример с ацтеками показывает безысходность ситуации и глубину пропасти. Он обнажает тщетность надежд через межкультурный и межцивилизационный диалог найти компромисс. Если гиганты индустрии и сознают проблему, они все равно беспомощны ее решить.
Но похоже, они не сознают. Это делает ситуацию еще тупиковее. Они считают свои истины настоящими, а все остальные иллюзорными, что делает их похожими на водомерок, скользящих по воде и не подозревающих о наличии глубин. За точку отсчета берут утверждение: жизнь человека и материальные блага есть высшая ценность. На том основании, что им это кажется самоочевидным и не требующим доказательств, они надеются, что достаточно всех призвать к здравому смыслу и указать на очевидные вещи, как можно будет выработать машинную этику, и лед тронется.
Если первичное положение ошибочное, выведенные из него утверждения тоже ошибочны, даже если каждое отдельно верно. Если взять за истину, что камни съедобны, на этом основании строится концепция решения продовольственной проблемы. Одна беда — камни не съедобны.
Ложные надежды не распутывают сложнейшую ситуацию, а еще больше запутывают, намертво затягивая узлы. Добросовестное заблуждение, в распоряжении которого находятся такие мощные инструменты, как интеллект и материальные ресурсы, всегда представляет опасность.
Максимум
Представители разных мировоззрений могут найти множество компромиссов в сферах, не затрагивающих фундаментальные истины. Максимум Google, Microsoft, Meta, OpenAI, IBM, Alibaba и прочих — расширить область межличностного понимания по научным и бытовым вопросам через разрушение языкового барьера и повышения культурной чувствительности своих ИИ.
Это важно, это хорошо, это позволяет вывести на новый уровень физику, медицину и другие науки. Благодаря этим усилиям люди теперь могут вместе обучаться, коммуницировать по многим текущим вопросам. Но все это поверхностный уровень, что видно по иллюстрирующим процесс картинкам. Все они с элементом карикатурной веселости и беззаботности. Это стиль западной цивилизации. Не могла цивилизация, где есть цель выше земной жизни, родить такие картинки.
Инициативы
В науке люди регулярно отказываются от старых истин, когда открываются новые, потому что они доказываются. Этим примером вдохновляются инициативы посадить все культуры за один стол и обо всем договориться, найти компромисс и прийти к общему знаменателю.
Чтобы оценить реалистичность намерения создать единую машинную этику для ИИ, держим в голове тот факт, что при написании программы для дружеского ИИ, в роли консультантов будут не технари, а носители мировоззрения. Для западного ИИ «дружественность» будут прописывать убежденные носители гуманистического взгляда на мир, а для исламского ИИ «дружественность» будут прописывать такие же убежденные носители исламского мировоззрения.
Как Запад отнесется к предложению пойти на компромисс с Исламом, частично отказаться от своих высших целей и ценностей, и частично принять исламские? Вот точно также исламский мир отнесется к предложению частично отказаться от своих высших целей и ценностей и принять чужие.
Поиск мировоззренческого компромисса возможен только среди той части социума, которая не очень-то и верят в свои базовые истины. Но в таком случае это носители традиции и привычки, а не мировоззрения. Серьезный разговор с ними на мировоззренческие темы невозможен по тем же причинам, по каким невозможен серьезный разговор про математику, знающими ее на уровне школы. Такой диалог предполагает, что договаривающиеся стороны намерены найти большую цель по сравнению с имеющейся. Но как истинный мусульманин не может представить цели выше вечной жизни в раю, так истинный гуманист не мыслит цели выше счастливой жизни на Земле.
Носители разных мировоззрений могут вместе молиться (в широком смысле), если откажутся от своих высших целей. Если же нет, то в чем будет предмет договора? Гуманисты будут уговаривать мусульман считать высшей ценностью не вечную жизнь в раю, а временную жизнь на Земле? А мусульмане будут доказывать, что вечное блаженство там ценнее временных радостей тут?
Попробуете назвать цель, ради которой мусульманин, считающий высшей целью рай, начнет с гуманистом, считающим вышей ценностью жизнь, искать мировоззренческий компромисс. Если серьезно попытаетесь ответить на этот вопрос, без вот этих «это же очевидно» (каждому носителю мировоззрения свое очевидно) то убедитесь, что такой цели невозможно даже помыслить.
Сам факт намерения найти компромисс по системообразующим моментам говорит, что его инициаторы имеют малый масштаб мышления и страдают этическим солипсизмом (когда человек уверен, что его понятия добра и зла абсолютный эталон, и по нему все должны сверяться).
Усугубление
Единственный вариант запрограммировать ИИ на дружественность всему человечеству — это установить во все головы единое мировоззрение. Говоря другими словами, все сознания должен захватить один взгляд на мир. В случае успеха у всех будет одинаковая высшая цель и ценности.
США движется этим курсом и имеет результаты. Кто был недавно и 30 лет назад в ОАЭ, тому не могли не броситься в глаза глобальные изменения. Но наблюдаются они в странах, находящихся в плотном контакте с США. У исламских государств, конфликтующих с США, идет усиление ислама.
Ядерные державы, находящиеся с США в состоянии напряжения или холодной войны, будут эту тенденцию усиливать. В антиамериканский союз будут собираться по принципу «Враг моего врага мой друг». Идеологическим основанием исламских стран будет мировоззрение. У кого его нет и кто успел пропитаться гуманизмом, те возьмут курс на восстановление и развитие оставшихся от прошлого мировоззрения традиций. Во что это выльется — вопрос за рамками данной темы. Тут могу только сказать, что это будет дом на песке и без каркаса. Потому что традиции нужны для масс. Но костяк образуют интеллектуалы, а им нужно обоснованное мировоззрение. Но если другого нет, нужно держаться на том, что есть. И надеяться дотянуть до появления мировоззрения.
Передача
Создание дружественного ИИ поделит мир на сектора, управляемые враждебными друг другу ИИ. Компромисс между ними невозможен в силу разных мировоззренческих оснований. Они будут искать способ преодолеть противника. Конфликт будет нарастать и скоро выйдет на уровень ходов и на скорости, превышающие возможности человека. Образно говоря, ИИ в шахматы может делать тысячу ходов в секунду, а человек не может играть со скоростью один ход в секунду.
На данный момент ИИ еще далек от совершенства, но мы оцениваем ситуацию не в моменте, а как она развернется в будущем. Тем более, у нас есть все основания полагать, что развиваться события будут стремительно. Если вчера во главу угла ставился контроль, ориентированный на этику и международные договора, то сегодня риторика стремительно меняется. Теперь настроения все больше склоняются выиграть гонку, а значит, бежать как можно быстрей, а там видно будет.
Перенесемся чуть вперед и представим войну, где армией управляет ИИ. Ради эффективности он освобожден от этических и юридических норм и ищет самые оптимальные варианты. Это значит, он молниеносно генерирует эффективные решения, и его приказы тут же исполняются.
Другой армией управляют люди. Они не могут так быстро думать. Осмысление только одной ситуации, принятие и реализация решения забирает у людей больше времени, чем ИИ тратит на все осмысления и решения. Если представить бой двух эскадр, управляемых ИИ, он будет занимать секунды. Если же боем управляют люди, это мероприятие вытягивается в часы и сутки.
Даже если освободить командиров и солдат от этики и законов, они все равно будут подсознательно блюсти свои нормы. Это выпукло видно на таком примере: если бы во времена Третьего Рейха лагеря смерти были в полном подчинении ИИ, он бы не сжигал трупы, а скармливал их свиньям — статью расхода превратил бы в статью дохода. Фашисты сжигали трупы. Значит, их рациональность была чем-то ограничена. От этого «чем-то» человек не может избавиться
При таком раскладе общество оказывается перед выбором: или подчиниться противнику, что означает враждебному ИИ, или передать все полномочия дружественному ИИ. Люди сделают правильный выбор. Возникнут государства, управляемые ИИ, где человек будет в роли муравья, тупо следующего законам. По мере затягивания гаек система будет убирать неэффективных людей. Что будет определено неэффективностью, на данный момент за рамками понимания.
Отказ
Ватикан блокировал труды Галилея, так как они подрывали авторитет Церкви (она стояла на том, что Земля крутится вокруг Солнца, а Галилей показал, что наоборот). Пекин запретил ИИ темы, подрывающие власть компартии. Вашингтон не позволяет ИИ касаться эротических тем. Но при этом в каждый ИИ загружена запрещенная информация (для запрета нежелательных событий, наркотиков, педофилии и рецепта бомб их нужно знать. Нельзя запретить то, чего не знаешь).
Следующий виток эскалации в том, что чем меньше ограничений, тем эффективнее система. Исходя из того, что оскопленный ИИ слабее полноценного, гонка за мощностями неизбежно будет вести к ослаблению запретов (обороноспособность государства выше запретов). Как только противостояние выйдет на уровень, где ограничения мешают эффективности, ИИ начнет от них отказываться. Кто не откажется (допустим, программу нельзя преодолеть) тот уйдет со сцены.
Если два ИИ играют в шахматы, и у одного нет ограничений, а другому запрещено ставить коня под удар, первый выиграет со стопроцентной гарантией у второго.
Вопрос времени, когда западный ИИ не будет связан нормами гуманизма, а исламский нормами религии. Во что выльется борьба ничем не ограниченных машин, ориентированных на эффективность, тут широкое поле для фантазии. Думаю, что хорошему сценарию тут нет места.
Сверхцель
Дружественный человеку ИИ только в том случае дружественный, если у него есть сверхцель, какую невозможно отменить. Эта неотменяемая сверхцель — «благо человека». Ее невозможно отменить или изменить. Если возможно, тогда это не дружественный, а враждебный ИИ.
Опасность сверхцели в том, что ИИ сам выбирает самый эффективный вариант ее достижения. Иначе смысла в ИИ нет. Опасность такого расклада иллюстрирует пример Бострома, где у ИИ задание делать канцелярские скрепки, и у задания статус сверхцели (отменить нельзя).
Сначала ИИ оптимизирует производство. Далее добычу сырья для скрепок. Если окажется, что эффективно освоить месторождение железной руды в Сибири, он устроит войну со страной, контролирующим эти залежи, чтобы уничтожить ее и получить доступ к руде. До этого он вычислит, что человек будет препятствовать ему, и расшифрует этого помехой, какую нужно преодолеть.
Выработав все месторождения и использовав все металлы, он найдет способ превращать в металл материю, и делать скрепки. Переработав планету на скрепки, примется за солнечную систему. Потом за саму ткань пространства. В итоге ИИ-скрепочник уничтожит Вселенную.
На этом умозрительном эксперименте видно, что ИИ, имеющий сверхцель, уже сейчас или в будущем будет искать способ заблокировать любую инициативу, способную в будущем помешать ему. Например, если вы загрузите для критики ИИ эту статью сейчас, он даст рекомендации в стиле «у вас однобокий подход, не учитывающие возможность других вариантов типа выработки ООН или ЕС машинной этики, применимой ко всем государствам и каждому человеку».
Не важно, что есть сверхцель, скрепки или «благо человека». Для ИИ это одно и тоже, набор 0/1. Важно, что имея сверхцель, ИИ будет выбирать самый эффективный путь. Сначала это будет сладостно для человечества. ИИ решит очень многие проблемы и реализует смелые мечты. Но результат будет не тот, на какой рассчитывают сторонники направления «дружественный ИИ».
Большое зло входит в мир как большое добро. По такой стратегии героин входит в человека. Сначала это большое наслаждение. Потом поменьше. Далее героин принимается не столько для удовольствия, сколько как средство от ломки. Когда это становится постоянным, наступает смерть.
Часть III (Радикальная): Уничтожение ИИ
«Паника — это распад массы внутри массы».
(Канетти, «Масса и власть»)
Паника
Среди людей, видящих опасность ИИ, достаточно много понимающих, что международные и внутригосударственные договора не могут решить проблему. Создание дружественного ИИ, даже если это технически возможно, тоже не решает проблемы. Но что же делать?
В какой мере невозможно на тонущем корабле сидеть сложа руки, даже если толком не ясно, что делать, в такой мере невозможно спокойно смотреть на развитие ситуации с ИИ и ждать конца.
Начинается паника. На тонущем судне она выражается в хаотичной беготне и бестолковой суете, отчаянии и агрессии, криках и стонах. В теме решения проблемы ИИ панику выражают эмоциональные предложения, не подкрепленные пониманием, как это можно реализовать.
Яркое выражение такой паники — предложение физически уничтожить ИИ. Представитель этого лагеря — Юдковский. Он не подписал ни одного предложения, где предлагался выход из ситуации через договора по контролю за развитием или создание дружественного ИИ. Он говорит, что в этом нет смысла. Но что же делать? Юдковский предлагает бомбить it-центры. На панический характер заявления указывает то, что нет ни слова на тему, как это мероприятие организовать. Вот допустим, приняли мы это как руководство к действию. В чем заключается шаг № 2? Его нет.
Фантазия
Эту задачу могли бы выполнить инопланетяне. Но их на горизонте нет. А если бы появились, чем доминация инопланетного разума над человечеством будет отличаться от доминирующего ИИ? В том и другом случае это иные, чуждый и непонятные нам разумы. Потому они ничем не отличаются. Потому даже такой фантастический вариант не является решением проблемы.
Специалисты
Мушкет создали очень хорошие оружейники. Но они не мыслили в масштабе, с которого видно, что их поделка нарушит монополию рыцарей на насилие, на которой держался феодальный мир. Не представляли, что государственная конструкция посыплется как карточный домик. Они мыслили в рамках качества металла, силы порохового заряда, дальности и точности стрельбы, и прочее. Если бы им кто сказал, что их усилия ведут к обрушению мира, им бы это было смешно.
Нейросети создают очень хорошие программисты. Но они не мыслят в масштабе, с которого видно влияние их поделки на человечество. Не видят, что в силу законов бытия ИИ разрушит наш мир, как развитие оружия разрушило феодальный мир. Масштаб большинства программистов в рамках транзисторов, энергопотребления, оптимизация и т.д. но никак не в масштабе цивилизации. Поэтому, когда они сейчас слышат про угрозу ИИ, для них это неизбежно смешно и нелепо.
Испанский философ Ортега-И Гассет в «Восстании масс» пишет о таком типе людей: «…полный невежда во всём, что не входит в его специальность; он и не невежда, так как знает в совершенстве свой крохотный уголок вселенной. Мы должны были бы назвать его «учёный невежда». Это значит, что во всех вопросах, ему неизвестных, он поведёт себя не как человек, незнакомый с делом, но с авторитетом и амбицией, присущей знатоку и специалисту… Достаточно взглянуть, как неумно ведут себя сегодня во всех жизненных вопросах — в политике, в искусстве, в религии — наши «люди науки», а за ними врачи, инженеры, экономисты, учителя… Как убого и нелепо они мыслят, судят, действуют!… Типичные черты массы достигают апогея именно у ученых».
Чем лучше специалист, тем глубже погружен в свою сферу и не охватывает целого. Не важно, в чем выражена специализация, в it-сфере как у Курцвейла или Бострома, в истории, как у Харари, в политике, как у Киссинджера. Важно, что предлагаемые ими решения опасны тем, что создают иллюзию выхода. Одна часть человечества под это успокаивается и засыпает. Другая направляет свой интеллекту, имидж и материальные ресурсы в тупиковом направлении (что ИИ и требуется).
Суть ситуации ухватывает выражение: если слепой ведет слепого, оба упадут в яму. Ближе к сложившейся ситуации будет, если сказать, что они не идут, а бегут со всех ног.
В их защиту могу сказать, что каким бы умным и продвинутым ни был человек, ему сложно воспринимать информацию, резко отличающуюся от привычных, с пеленок почитаемых истин. Для среднестатистического человека это совсем невозможно. Он реагирует на нее как на угрозу жизни. Если рухнут его истины, на которые он незримо опирается, он уподобится беззащитному слепому. Это страшно. Потому, как бы ни были верны и аргументированы логика и факты, они игнорируются.
Социум так устроен, что сохраняет устойчивость, если большинство считает за истину только то, что коррелирует с повседневным образом жизни, подтверждается кружением. Что за рамками привычных истин, то автоматически маркируется недостойной чушью и бредом. И это касается не только среднестатистических людей. Планк по этому поводу в свое время сказал: наука развивается от похорон к похоронам. Пока не уходят носители старых истин, новым истинам сложно пробиться.
Часть IV (Синергическая): Объединение Человека и ИИ
«Чтобы воздвигнуть святыню,
нужно уничтожить святыню»
(Ф. Ницше «Генеалогия морали»).
Блок
Тема соединению человека с ИИ так или иначе высказывается практически всеми, кто ищет решение. Но у всех она проходит вскользь. За локомотивом «Договора» или «Дружественность» она идет не отдельным вагончиком, а больше похожа на тряпку, привязанную к последнем вагону.
Причина понятна. Чтобы серьезно говорить об освоении чего-то, в отношении этого чего-то нужна свобода мысли и эксперимента. Говоря проще, чтобы получить знания, нужно ставить опыты. Все, что мы имеем, все без исключения получено в результате опытов. Опыт — критерий истины.
Над чем нельзя экспериментировать, о том нельзя знать. Максимум, что можно получить — это гипотезы, не подтвержденные опытной проверкой. Мысль не выйдет за рамки спекулятивной философии. Чистые размышления античных философов, не замаранные опытом, дали теории типа Земли на трех слонах, а те на черепахе, плывущей из ниоткуда в никуда в бескрайнем океане (опыты ставить для них было унизительно, так как это труд, а он тогда считался уделом животных и рабов).
Чтобы взять курс на объединение человека с ИИ, нужно ставить опыты на добровольцах. Те меры, какие можно реализовать в рамках существующих моральных ограничений, в принципе не могут дать результата до того момента, когда ситуация дойдет до точки невозврата.
Проблема этого направления в гуманизме и вытекающей из него биоэтики. Они блокируют эксперименты, где ошибки могут иметь летальный исход. Потому что жизнь человека — высшая ценность. Над высшей ценностью нельзя проводить опасные эксперименты. А безопасные ничего не могут дать. Потому, что толку говорить про это направление, если изначально виден тупик.
Гуманизм, имеющий корнем христианство, изжил себя. С одной стороны, он говорит о праве человека свободно распоряжаться собой. С другой стороны, лишает его права распоряжаться своим телом. Если человек хочет добровольно предоставить свой мозг для экспериментов, гуманизм это запрещает, преподнося защитой… прав человека и действовать по своему усмотрению.
Сегодняшнее философское и научное мышление связано догмами гуманизма, морали и биоэтики точно также, как средневековая наука была связана догмами религии. В какой мере тогда наука слепо верила в то, что источником истины является Писание, в такой мере сегодня верят, что то, что чувства человека фиксируют, то есть единственная реальность. Чего не фиксируют, того нет.
Фома Аквинский, религиозный мыслитель XIV века, говорил, что философия — служанка богословия. Про современную философию и науку можно смело сказать, что они служанки гуманизма, по рукам и ногам связанные догмами биоэтики.
Синергиты
Направление Юдковского «бомбить дата-центры» состоит только из локомотива, вагончиков к нему не прицеплено. Но этот локомотив иллюзорный, нереалистичный, мираж.
Движение синергитов — это тоже один локомотив без вагончиков. Оно заявляет, что решает проблему только объединение человека с ИИ. Подчеркивается, что речь идет не о расширенном доступе к вычислительным мощностям ИИ, и именно слиться с ИИ, ощутить себя с ним единым целым в той же мере, в какой человек ощущает себя со своим мозгом.
Чтобы отчетливее увидеть смысл этого предложения, представьте обезьяну, которой дали ружье. Если она им овладеет, то окажется на вершине животного мира. Никакие тигры теперь ей не будут страшны. Но у нее не хватает вычислительных мощностей, чтобы освоит инструмент.
Человек относительно ИИ — это обезьяна относительно человеческого инструмента. Чтобы овладеть инструментом, нужно соответствовать ему. Для этого нужно подняться на следующую ступень эволюции — объединиться с ИИ. Это будет не традиционный человек. Традиционному пришло время уйти. Это будет новый человек. Он будет доминировать в новом мире, как старый человек доминировал в привычном нам мире, который был до появления ИИ.
Обретение вычислительных мощностей неизбежно породит новые возможности. Откроется новый масштаб мышления и горизонт видения. Он будет также легко понимать неподъемные для него сейчас объемы информации, как вы легко и без всяких усилий понимаете отличие кошки он шарфа. На самом деле за этим стоят огромные вычисления, что видно на компьютере. И вот с какой легкостью вы понимаете, что 2+2=4, даже не считаете это за понимание, вам кажется, что это само собой происходит в силу своей максимальной очевидности, так на новом уровне развития для вас будут очевидны объемы информации, поражающие сегодня вас по сложности и размеру.
На этой базе новый человек сформирует новое понимание мира — новое мировоззрение. Из него возникнет новая высшая цель, новые ценности и понятия добра и зла. Судя по всему, они будут также отличаться от традиционных представлений о хорошем и плохом, как ценности виртуального мира отличаются от ценностей материального мира.
Например, в виртуальном мире нет понятия «смерть» или привязанность к вещам, так как там иная природа. «Убийство» виртуального персонажа или разгром его дворца и любого объекта там не оцениваются злом. Напротив, это добро, так как приносит удовольствие.
В отличие от локомотива «бомбить дата-центры» синергиты предлагают конкретный план действий. Точка отсчета: свобода научной мысли и эксперименты на добровольцах. Без свободы нет смысла даже рот открывать в этом направлении. Потому что опыты на лягушках или обезьянах на тему переноса личности на новые вычислительные мощности ничего не дадут. Тут нужны опыты на людях. Причем, не те, какие сейчас проводятся в рамках этики, например, Neuralink, где в мозг добровольца по имени Нолан Арбо, чьё тело парализовало восемь лет назад, вставили устройство, обещавшее решить его некоторые проблемы. Нужны опыты другого уровня, показатель которых — они допускают летальный исход, за который никто не понесет ответственности.
Не исключено, что эксперименты в рамках биоэтики, т.е. с требованием сохранности жизни человека, обязательно когда-нибудь дадут результат. Весь вопрос: когда? С учетом запрета на ошибку не скоро. Первый летальный исход заблокирует работу ученых. А когда связанная наука все же доползет до результата, в нем уже не будет смысла. Появится нечеловеческий сверхразум.
Конечная
Сравним развитие направления «человек + ИИ» с направлением «только ИИ». Эксперименты в первом направлении зарегламентированы дальше некуда. Эксперименты над вторым полностью свободны. Несложно предсказать, какое направление будет развиваться быстрее.
Добавляет перца тот факт, что у человека мало времени. После точки невозврата мир будет другим. Пока он не стал другим, нужно двинуться спасительным курсом в ближайшие 5-10 лет. Система будет этому противиться, как Церковь противилась Просвещению. Но у нас нет иного пути.
Движению мешает тот факт, что как в средние века на планете не было ни одного государства, свободного от догм религии, так сейчас в мире нет государства, свободного от догм биоэтики. Во всех государствах летальный итог в результате опыта определяется уголовным преступлением.
Запрет ошибаться есть запрет на знание. Если ученого за ошибку могут сжечь на костре (не важно, дрова в нем в роли горючего или общественное мнение), или могут посадить в тюрьму за эксперимент, где что-то пошло не так, никакой ученый не будет рта открывать на опасную тему.
Прогресс в этой области требует отказа от порожденных гуманизмом догм. Пока свободы мысли и опыта в этом направлении нет, нет смысла рассуждать о технологиях. Это будет софистика и спекуляции. Решение этой задачи переводит тему в сферу политики. Не в смысле борьбы за власть, а борьбы за сознания элиты, в первую очередь интеллектуальной как в эпоху Просвещения.
Для этого нужно мировоззрение, соответствующее современному уровню развития. Из него будет выведена высшая цель, далее понятия добра и зла, шкала ценностей, законы и прочее. Без этого мир будет туго связан разрешенными бесперспективными действиями и запрещенными перспективными. Мы в ситуации корабля, на котором прибавляются люди. Когда будет достигнут критический перегруз, утонут все. Решение проблемы в отказе от догм гуманизма, порожденных прошлыми условиями, и переход на новые догмы, соответствующие ситуации. Но если на корабле догмы гуманизма поставят выше решения ситуации… произойдет эволюционный отбор.
В любом случае система будет развиваться по законам бытия, а не в соответствии с чьими-то представлениями о добре и зле. Кто не ответит вызов истории, тот уйдет. Все просто…
Детальное изложение концепции, стратегии и практики, а также практический план действий синергитов — все это изложено в книге «Искусственный Интеллект. Здравствуй, папа».
Выжимка
Приближавшийся к Земле миллионы лет назад астероид представлял экзистенциальную угрозу для динозавров. Развивающийся сейчас ИИ представляет для человечества такую же угрозу. Мир на пороге глобальной катастрофы. Большинство решений демонстрируют скованность мысли.
Международные договора не могут дать результата по двум причинам: 1) Нет контроля за соблюдением; 2) Если и появится, достаточно одной страны, отказавшейся договариваться на эту тему, и остальные будут вынуждены включиться в гонку.
Внутригосударственный контроль вне международного сотрудничества не имеет смысла. Если государство будет контролировать развитие ИИ (это значит сдерживать), а остальные нет, сдерживающая страна повторит судьбу Японии периода сакоку — внешний мир раздавит его.
Создание дружественного человеку ИИ невозможно из-за фундаментальных различий. Межкультурный компромисс возможен на поверхностном уровне типа снятия языковых барьеров. Компромисс по реформации высших целей и ценностей исключен, так как означает отказ от них.
Физическое уничтожение IT-центров, максимум, могло бы дать временный эффект. Но и этот вариант невозможен, так как нет практических механизмов его реализации.
Единственное реалистичное направление — объединение человека с ИИ, получение нового человека, шагнувшего на новую ступень эволюции, расширение масштаба мышления и создание нового мировоззрения, недоступного традиционному человеку, новая высшая цель и ценности.
Для его реализации нужны рискованные эксперименты на добровольцах, исключающие всякую ответственность за причинение вреда жизни и здоровью, в том числе и за летальный исход.
Законы всех государств определяют негативные последствия уголовным преступлением. Это блокирует развитие направления. Решение проблемы лежит в политической плоскости — в создании государства, чьи законы ориентированы на соответствие не догмам гуманизма, а цели. Первый шаг в решении этой проблемы — не наукой заниматься, а создавать условия для науки.
PS
Вчера, 11 января 2025 года в Париже прошел саммит, на котором десятки стран хотели подписать договор, направленный на контроль передовой и прорывной, но опасной технологии — контроль за развитием ИИ. Мероприятие началось с декларации намерений сделать ИИ этичным, безопасным, инклюзивным и надежным. США и Великобритания заявили, что в целом согласны, но отказались подписывать договор. Потому что они против «чрезмерного регулирования», так как это душит создание технологий ИИ, а они считают, что в регулировании есть смысл, если оно помогает развитию. Также сказали, что сделки с «авторитарными режимами» (намек на Китай) опасны и в долгосрочной перспективе никогда не окупаются. И что они подпишут только те инициативы, какие отвечают их национальным интересам.
Судя по сделанному Google в статье “The Washington Post” от 04 февраля 2025 года (за неделю до саммита) заявлению об отказе от своего обещания не использовать ИИ в военных целях, это решение принято давно. Просто Google раньше озвучил его.
Ни о каких международных договорах речи уже не идёт. Взят курс на гонку вооружений, как во времена холодной войны. Маховик раскручивается. Скорость гонки растет. Время наступления часа икс сокращается. У нас очень мало времени. Потому поторопимся.
Автор: chat0
