У моделей ИИ может развиться «инстинкт самосохранения», считают исследователи
Компания Palisade Research, занимающаяся исследованиями в области безопасности ИИ, заявила, что у моделей ИИ может развиться собственный «инстинкт самосохранения». Недавно исследователи выпустили статью, в которой говорилось, что некоторые продвинутые модели искусственного интеллекта не поддаются отключению, а иногда даже саботируют механизмы отключения. Сейчас компания опубликовала обновление, пишет The Guardian.
Альтман считает часть современных профессий «ненастоящей работой»
Глава OpenAI Сэм Альтман в ходе конференции DevDay в начале этого месяца сделал категоричное заявление. По его словам, многие профессии, исчезающие в эпоху больших языковых моделей, возможно, изначально не были «настоящей работой».
Искусственный интеллект и интеллектуальная собственность
Искусственный интеллект делает так, что люди просто на просто перестают быть нужны (об этом вы можете почитать здесь). И казалось бы, новые технологии, они делают человеческую жизнь намного проще, но, оказывается, не во всех сферах. Например, право. Нейросеть — абсолютно новый объект, и пока не понятно, какие у него могут быть опасности для человека, обязанности перед ним, а, может, и вовсе права? И сегодня в этой статье очень хотелось бы разобраться с гражданской отраслью права, а именно: с понятиями интеллектуальной собственности.
ИИ-пузырь. Боимся?
Салют! Меня зовут Григорий, и я CIO в команде AllSee.Искусственный интеллект за последние два года стремительно ворвался в бизнес‑процессы компаний по всему миру: по данным Stanford HAI, в 2024 году об использовании ИИ заявили 78%
Обзор проблем и решений в ризонинговых LLM. Часть 1
Как-то раз мы со студентами-переводчиками по ИТ задались вопросом: А реально ли LLM «думает»? Или она просто, подобно школьнику, подгоняет объяснения под ответ в конце учебника, не имея ни малейшего понятия, ни о том, правилен ли этот ответ или логичны ли ее рассуждения? Поиски ответов на этот вопрос привели нас к статье-исследованию "Empowering LLMs with Logical Reasoning: A Comprehensive Survey", адаптированный перевод которой мы и предоставляем вашему вниманию. Над переводом мы работали вместе с коллегой – Губановой Екатериной.
Галлюцинации в больших языковых моделях: анализируем и разбираемся
В этой статье рассматривается проблема галлюцинаций ИИ — их причины и возможные способы решения на архитектурном уровне. Это явление является одним из ключевых в работе современных языковых моделей. Создать надежную программу на базе ИИ невозможно без понимания причин возникновения галлюцинаций, которые нарушают работу систем и подрывают доверие к таким помощникам. Помимо технических сложностей, важную роль играет и человеческий фактор. Но обо всем по порядку.Системная природа проблемы
2,5 года исследований: инсайты и выводы из создания «Альфа-Босса»
Меня зовут Ксюша Никульшина, и я исследователь B2B в Альфа-Банке в Alfa Research Center. Последние два с половиной года наблюдала, как из прототипа концепции рождается новый продукт — «Альфа-Босс». Это не просто приложение, а инструмент для топ-менеджеров среднего бизнеса, у которого до нас не было аналогов.За это время я провела множество исследований, проверила более 200 гипотез, выявила свыше 100 проблем и инсайтов.
Чему может научиться исследователь из проекта, что длится 2,5 года
Меня зовут Ксюша Никульшина, и я исследователь B2B в Альфа-Банке в Alfa Research Center. Последние два с половиной года наблюдала, как из прототипа концепции рождается новый продукт — «Альфа-Босс». Это не просто приложение, а инструмент для топ-менеджеров среднего бизнеса, у которого до нас не было аналогов.За это время я провела множество исследований, проверила более 200 гипотез, выявила свыше 100 проблем и инсайтов.
Что «под капотом» у DeepSeek-V3.2-Exp? Китайцы нашли способ удешевить нейросети
У китайцев вышла новинка — DeepSeek-V3.2-Exp, экспериментальная версия последней модели DeepSeek-V3.1-Terminus. Цели и задачи у них вполне определенные: сделать архитектуру трансформеров еще более эффективной. Причем на сайте Hugging Face говорится, что особый акцент стартап делает на повышение вычислительной эффективности при обработке длинных текстовых последовательностей. Привет, Хабр! Китай снова выпустил кое-что интересное, так что давайте разбираться. Что там интересного
Исследование: ИИ-планы уроков не вдохновляют учеников и не развивают критическое мышление
Исследователи Массачусетского университета обнаружили, что использование учителями чат-ботов для разработки планов уроков не делает учебный процесс более увлекательным, захватывающим или эффективным. Более того, выяснилось, что такие планы уроков не позволяют ученикам развивать критическое мышление.
