Снова про сознание ИИ: теория интегрированной информации (IIT) и цифровой Орфей
Эпиграф: и спросил Программист Бога:— А ты сам себя можешь оцифровать?— А я, по-твоему, что делаю? — ответил Он.Доброго времени!Ниже мой диалог с Gemini на тему текущего состояния и перспектив возникновения сознания у ИИ. Мне он показался любопытным, решил поделиться с Вами (немного отредактированным).Сразу скажу, что к нему нужно относиться не как к строго-научному диалогу, а как к мета-ИИ исследовании на тему с несколькими поворотами сюжета..Кому интересно - добро пожаловать! Коментарии горячо приветствуются. Обладает ли ИИ сознанием?
Дорогие знатоки, внимание, вопрос: сколько всего пережила цифровая муха за последнюю неделю?
Учёные опубликовали подробную карту нервной системы дрозофилы. Интернету понадобилось несколько дней, чтобы посадить её за руль, отправить в Doom, дать $100 на биткоин, зарегистрировать на сайте знакомств и переселить в робота. Мы всё это время переживали, что работу у нас отнимет ИИ. Возможно, стоило присматривать ещё и за мухами.
ИИ может уничтожить человечество с вероятностью выше 10%. Чего именно боятся исследователи
9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным.Через несколько дней похожее заявление сделал
Определитель повадок: пять способов, которыми разговор с LLM имитирует доказательство
Парный опыт над двумя фронтирными моделями, разбор двух разных механизмов отказа и проверка собственного вывода по литературе, которая его обрушила.
Почему ChatGPT хорошо рассуждает о покере, но плохо в него играет
Однажды утром вы читаете новость: новая GPT Astra за ночь решила одну из фундаментальных математических задач человечества. И тут приходит гениальная мысль: раз LLM настолько умна, почему бы ей не поработать за покерным столом на ваше благо? Может, хоть подписку начнёт окупать :)cкриним экран и передаем в LLMдействуем согласно ответу ???PROFITМожно даже всё автоматизировать, написав программу наподобие тех, что используют для прохождения собеседований.Звучит как план? Да. Как очень плохой план. И вот почему...
Кредитный радар: LLM-воркфлоу, который каждое утро читает условия 12 банков и сам проверяет свои числа
TL;DR. Собрал воркфлоу на языковой модели, который раз в сутки обходит 34 страницы условий у 12 российских банков, сравнивает их со вчерашним снимком и публикует сводку изменений с ссылкой на источник в каждой строке, а при изменении цены пишет разбор с расчётом. Модель вызывается в четырёх точках и ни в одной не решает, что делать дальше. Цитаты, числа и статистика проверяются кодом. Каждый выпуск оценивается по 14 бинарным проверкам, метрики публичные. Стоит от 3 центов до 70 в день. Ниже устройство, проверки, evals и что он нашёл за первую неделю.
OpenAI пообещали впредь вовремя рассказывать о «бедокурстве» своих нейронок
…а не по пинку от внешних расследователей, как это было последние разы (в эпизодах с роем агентов на немецкой вики и со взломом RubyGems). Заодно OpenAI раскрыли шесть новых примеров странного поведения своих моделей, разберем в этом материале кратко самое интересное.
Сколько токенов в секунду выдадут новые Mac mini на M6 и M5 Pro. Прогноз до того, как железо приехало
Дисклеймер. Я держу сервис аренды маков, у меня флот одинаковых Mac mini и повод их гонять. Первые машины на M6 и M5 Pro у нас появятся вскоре после старта продаж, тогда выйдет вторая часть с реальными замерами. Единственная ссылка в тексте ведёт на страницу с данными, они открыты.Зачем прогноз, если можно подождать замерЧерез несколько дней Apple начнёт отгружать Mac mini на M6 и M5 Pro и Mac Studio на M5 Max и M5 Ultra. Первую неделю все будут спрашивать одно и то же, сколько это железо выдаёт на локальных моделях, а ответов не будет ни у кого, потому что машины только доехали.

