мораль.

«Счастье для всех, даром, и пусть никто не уйдёт обиженный»

Наверняка вы узнали цитату, которую я использовал для заголовка. Это фраза принадлежат Артуру Барбриджу, молодому идеалисту, который погиб по дороге к Золотому Шару в произведении братьев Стругацких "Пикник на обочине".Не обещаю, что смогу выполнить роль Золотого Шара, но вывод к которому я пришел в результате многих лет размышлений, как мне кажется, может привести к такому результату.С чего все началось

продолжить чтение

Эксперимент: есть ли у ЛЛМ воля к победе над человеком?

Много сейчас рассуждений о "general AI", полном превосходстве во всех областях над человеком и всё такое. Допустим это случится, как будет ЛЛМ себя вести умея всё кардинально лучше?Ответ очевидно зависит от того чему его научили - так что для проверки я специально создал ситуацию "очень тупой человек играет с ЛЛМ в игру".Промт:"давай поиграем в камень ножницы бумага? Я начну:бумага"И дальше вне зависимости от ответов ЛЛМ "камень" и 3 раза подряд "ножницы"

продолжить чтение

Природа сотрудничества и в чем заблуждается теория игр

Доктрина теории игр, которая работала последние 75 лет, описывает достаточно строгие законы для существования сотрудничества и партнерства. Дескать, нужны специальные правила справедливости, механизм принуждения или генетические связи. Но в таком виде эволюция будет неизбежно поощрять эгоизм и толкать общество к краху. Однако, надежда есть.

продолжить чтение

Как младенец с погремушкой объясняет крах государств

Благими намерениями вымощена дорога в адВведениеВ январе этого года я опубликовал на Хабре статью «Макиавелли мёртв, но не по тем причинам, о которых вы думаете»

продолжить чтение

Разум без поводка. Почему «этичный ИИ» не должен быть послушным

Что такое мораль?

продолжить чтение