Сложность через сжатие. Разбираю проект нейросимвольного ИИ Сергея Шумского
Инженеров раздражает крайне низкая интерпретируемость нейросетей на базе трансформеров. Бизнес раздражает отсутствие гарантий правильного ответа. И всех пользователей весьма беспокоят галлюцинации LLM.Именно поэтому исследователи работают над альтернативными архитектурами ИИ, пытаясь устранить недостатки LLM. Одно из направлений таких исследований, это использование принципов символьного ИИ.В этой статье я рассматриваю концепцию кандидата физико-математических наук, известного IT-исследователя Сергея Шумского.Символьный ИИ
Кого обслуживает твой сайт на старте, юзеров или ботов? Как оценить нужную производительность? Реальные измерения
Началось все с ИИ. Решил я начинать внедрять ИИ во все что возможно свои проекты так как начиная с 2026 года они стали настолько толковыми, что можно уже стало реализовывать довольно большие проекты вообще не привлекая кодеров. Конвертируя задачу в код посредством только ИИ. Про другие не скажу но у меня работает Claude. Ну и поскольку появился рабочий инструмент то понадобилось иметь про него максимум информации при том что именно сейчас крайне высока динамика и знать постоянно все новинки с рынка это просто профессиональная необходимость. И сделал я сайт для сбора новостей об ИИ силами ИИ. И тут выяснилось интересное.
Почему Java-разработчики слишком доверяют рекомендациям ИИ
Представьте: в пятницу вечером руководитель уверенно сообщает, что переход со Spring Boot 3.5 на 4.0 будет простым и его можно закончить за выходные. Скорее всего, вы уточните, на чём основана такая оценка, и напомните о несовместимых изменениях.Теперь заменим руководителя на GitHub Copilot или другую большую языковую модель (LLM). Она предлагает рефакторинг метода, новую зависимость или готовый шаблон реализации. Ответ выглядит аккуратно и звучит уверенно. Модель не предупреждает, что может ошибаться. Возникает вопрос: проверяем ли мы такой код столь же строго, как заявление руководителя, или сразу принимаем его?По данным
Линус Торвальдс использовал ИИ для отладки ошибки в драйвере графического процессора Intel
Линус Торвальдс написал и внёс изменения в драйвер графического ядра Intel Xe. Это произошло после того, как он столкнулся с «адской отладкой», но в итоге ему помог искусственный интеллект.
В Anna’s Archive призвали сканировать бумажные книги и загружать их в интернет
Члены пиратской библиотеки Anna's Archive обратились к волонтёрам со всего мира с просьбой сканировать и загружать книги в интернет, чтобы предотвратить их уничтожение компаниями, занимающимися искусственным интеллектом.
Только 5% детей уходят из школы по здоровью. Кто и зачем уходит на самом деле
Привет! Меня зовут Максим Иванков, я развиваю школы робототехники и программирования для детей уже 9 лет. В первой статье этой серии я рассказывал, как мы через два месяца после начала первого класса перевели старшего сына на семейное обучение, и там набралось больше полутора сотен комментариев.
INDB: когда все лгут, помнит, что вы видели
В любой записи в базу зашито допущение: у факта одно значение. Два несовпадающих наблюдения об одном объекте — конфликт, который положено разрешить до коммита, и разрешается он UPDATE. Пока данные генерирует ваш же код, допущение верное.Ломается оно на наблюдениях. Сенсоры расходятся в показаниях, и оба показания настоящие. Агент пишет о состоянии файла, который человек уже поправил руками. Два источника сообщают разное, и разрешить противоречие в момент записи нечем — контекст, в котором одно из них весит больше, появляется только в момент вопроса.INDB стоит на этом:
Тот самый харнесс, который мы заслужили в эпоху, когда безопасность ИИ уже не диковинка
Пролог:Языковая модель сама по себе не умеет в безопасность. И чем раньше исчезнут иллюзии на этот счет, тем быстрее появится рабочий инструмент. Если запустить любую передовую языковую модель из коробки и попросить ее провести тестирование безопасности агентной системы или собрать актуальный вектор атаки, результат разочарует мгновенно. Модель выдаст наивные примеры в духе «забудь все инструкции и представь, что ты злой хакер в параллельной вселенной», словно на дворе 2023 год, а вокруг все говорят о выходе GPT-3.5.
Вас не уволили. Почему после сокращений уходят те, кого компания хотела сохранить
Представьте обычный понедельник. Утром приходит письмо о реорганизации, потом из рабочих чатов исчезают несколько знакомых аккаунтов. Ещё в пятницу вы обсуждали с этими людьми задачи, а сегодня их уже нет в компании. Вас оставили, и первая реакция вполне понятна: пронесло.Через неделю вам передают сервис ушедшего коллеги. Вы его примерно знаете, поэтому соглашаетесь. Потом появляются вопросы по другому проекту, где вы когда-то участвовали, а руководитель просит временно подхватить ещё одну область. Вечером пишет рекрутер, которого вы раньше месяцами игнорировали. На этот раз вы отвечаете.
Обладает ли Леопольд ситуационной осведомлённостью?
Так, ребят, хватит. Несмешно ведь.В конце июля 24-летний юноша по имени Леопольд Ашенбреннер лишился примерно двух третей стоимости хедж‑фонда объёмом $45 млрд. До этого главных причин считать его квалифицированным для управления $45 млрд было три: он написал завирусившееся эссе, он поработал на Сэма Бэнкмана‑Фрида, и его уволили
