Машинное обучение. - страница 57

Снова про сознание ИИ: теория интегрированной информации (IIT) и цифровой Орфей

Эпиграф: и спросил Программист Бога:— А ты сам себя можешь оцифровать?— А я, по-твоему, что делаю? — ответил Он.Доброго времени!Ниже мой диалог с Gemini на тему текущего состояния и перспектив возникновения сознания у ИИ. Мне он показался любопытным, решил поделиться с Вами (немного отредактированным).Сразу скажу, что к нему нужно относиться не как к строго-научному диалогу, а как к мета-ИИ исследовании на тему с несколькими поворотами сюжета..Кому интересно - добро пожаловать! Коментарии горячо приветствуются. Обладает ли ИИ сознанием?

продолжить чтение

Дорогие знатоки, внимание, вопрос: сколько всего пережила цифровая муха за последнюю неделю?

Учёные опубликовали подробную карту нервной системы дрозофилы. Интернету понадобилось несколько дней, чтобы посадить её за руль, отправить в Doom, дать $100 на биткоин, зарегистрировать на сайте знакомств и переселить в робота. Мы всё это время переживали, что работу у нас отнимет ИИ. Возможно, стоило присматривать ещё и за мухами.

продолжить чтение

ИИ может уничтожить человечество с вероятностью выше 10%. Чего именно боятся исследователи

9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным.Через несколько дней похожее заявление сделал

продолжить чтение

Определитель повадок: пять способов, которыми разговор с LLM имитирует доказательство

Парный опыт над двумя фронтирными моделями, разбор двух разных механизмов отказа и проверка собственного вывода по литературе, которая его обрушила.

продолжить чтение

Почему ChatGPT хорошо рассуждает о покере, но плохо в него играет

Однажды утром вы читаете новость: новая GPT Astra за ночь решила одну из фундаментальных математических задач человечества. И тут приходит гениальная мысль: раз LLM настолько умна, почему бы ей не поработать за покерным столом на ваше благо? Может, хоть подписку начнёт окупать :)cкриним экран и передаем в LLMдействуем согласно ответу ???PROFITМожно даже всё автоматизировать, написав программу наподобие тех, что используют для прохождения собеседований.Звучит как план? Да. Как очень плохой план. И вот почему...

продолжить чтение

Кредитный радар: LLM-воркфлоу, который каждое утро читает условия 12 банков и сам проверяет свои числа

TL;DR. Собрал воркфлоу на языковой модели, который раз в сутки обходит 34 страницы условий у 12 российских банков, сравнивает их со вчерашним снимком и публикует сводку изменений с ссылкой на источник в каждой строке, а при изменении цены пишет разбор с расчётом. Модель вызывается в четырёх точках и ни в одной не решает, что делать дальше. Цитаты, числа и статистика проверяются кодом. Каждый выпуск оценивается по 14 бинарным проверкам, метрики публичные. Стоит от 3 центов до 70 в день. Ниже устройство, проверки, evals и что он нашёл за первую неделю.

продолжить чтение

OpenAI пообещали впредь вовремя рассказывать о «бедокурстве» своих нейронок

…а не по пинку от внешних расследователей, как это было последние разы (в эпизодах с роем агентов на немецкой вики и со взломом RubyGems). Заодно OpenAI раскрыли шесть новых примеров странного поведения своих моделей, разберем в этом материале кратко самое интересное.

продолжить чтение

Сколько токенов в секунду выдадут новые Mac mini на M6 и M5 Pro. Прогноз до того, как железо приехало

Дисклеймер. Я держу сервис аренды маков, у меня флот одинаковых Mac mini и повод их гонять. Первые машины на M6 и M5 Pro у нас появятся вскоре после старта продаж, тогда выйдет вторая часть с реальными замерами. Единственная ссылка в тексте ведёт на страницу с данными, они открыты.Зачем прогноз, если можно подождать замерЧерез несколько дней Apple начнёт отгружать Mac mini на M6 и M5 Pro и Mac Studio на M5 Max и M5 Ultra. Первую неделю все будут спрашивать одно и то же, сколько это железо выдаёт на локальных моделях, а ответов не будет ни у кого, потому что машины только доехали.

продолжить чтение

Империя терминаторов: как двести агентов построили цивилизацию

продолжить чтение

Ваши диалоги с ChatGPT читают

404 Media опубликовала расследование

продолжить чтение