Рукопожатие нейронов и люстры против пирамид. На чем держится нормальная работа мозга?
Работу мозга можно описать через систему процессов «разгона» и «торможения». Главной в этом процессе будет способность договориться и синхронизировать контакт, между внешними стимулами, внутренними ощущениями и пониманием, когда и какую именно запускать реакцию. Впервые в истории, у нас есть понимание, как и почему эти нейроны вообще устанавливают контакт!
В Cisco поиском сотрудников на связанные с ИИ позиции занялся топ-менеджмент
По сообщению Business Insider, компания Cisco столкнулась с катастрофической нехваткой специалистов по AI и ML Ops. Теперь руководство помогает в их поиске.
Как Оценить Способность Искусственного Интеллекта Писать Код
Автор: Денис АветисянНовое исследование показывает, что существующие тесты для оценки генерации кода искусственным интеллектом часто упускают из виду базовые концепции программирования, и предлагает способ создания более надежных оценок.
NASA запускает ИИ-инициативу для Луны и Марса
NASA анонсировала Foundational Artificial Intelligence for the Moon and Mars (FAIMM) - программу, которая внедрит ИИ в процессы исследования дальнего космоса. Инициатива направлена на использование LLM и алгоритмов ML для обработки массивов данных, полученных в ходе лунных и марсианских миссий.
Облачный ИИ-стартап Runpod заработал $120 млн за год на размещении приложений
Платформа для размещения приложений с использованием ИИ Runpod, запущенная четыре года назад, достигла годового дохода в $120 млн. Пользовательская база стартапа выросла за счёт постов на Reddit и Discord, особенно после запуска ChatGPT.
История о том как «Очень хочется, но ты зеленый»
Акт 1. Сбор и анализНачало 2024 года. Я работаю сис.админом в группе тех. поддержке пользователей. В свободное время на работе сижу что-то читаю о сетях, и информационной безопасности. Параллельно развернул Zabbix, настроил дашборды и ничего не предвещало беды. Но тут меня посетила идея, что мне нужен какой-то проект связанный с искусственным интеллеком. Загорелся я этим очень сильно, и решил что я должен что-то сделать!
Почему ваша нейросеть всегда предаст вас ради вежливого хакера с плохими намерениями?
Дисклеймер: Эта статья — не руководство по взлому (How-to) и не сборник эксплойтов. Это попытка системного анализа архитектурных ограничений LLM, которые делают промпт-инъекции фундаментальной проблемой на текущем этапе развития технологий. Мы рассмотрим уязвимости через призму механики Attention, токенизации и RLHF, чтобы понять, почему классические детерминированные методы защиты (Black Box) здесь перестают работать.Прошло уже больше 3 лет с момента появления первой промпт-инъекции. Кажется, что за это время было сделано всё возможное, были потрачены бюджеты небольших стран на Red Teaming
