Исследование Стэнфордского университета выявило опасности обращения к чат-ботам с ИИ за личными советами
Учёные Стэнфордского университета предупредили об опасностях обращения к чат-ботам на базе искусственного интеллекта за личными советами. Они назвали «подхалимство» нейросетей широко распространённым поведение с серьёзными последствиями.
Для создания AGI нам нужно сделать шаг назад
Современные языковые модели демонстрируют отличные способности к рассуждению, но при этом остаются инструментами. Уинструмента нет выбора.
Где же все эти приложения, создаваемые с помощью ИИ?
Любители вайбкодинга и агентного программирования говорят, что работают в 2, 10, а то и в 100 раз продуктивнее! Один даже разработал с нуля целый браузер. Невероятно!
Заменит ли «Сложная обработка информации» востребованного специалиста?
The Dartmouth College Artificial Intelligence Conference: The Next Fifty Years Почему мы вообще обсуждаем конкуренцию людей и машин? Потому что мы стали жертвами удачного нейминга.Возврат в 1950-е. Алан Тьюринг и Клод Шеннон дали базу. Но термин «ИИ»
Как мы хакнули ИИ-бенчмарк PAC1 без нейросетей
Недавно я участвовал в корпоративном хакатоне по обходу ИИ-песочниц. Задача: пройти закрытый бенчмарк PAC1, где ИИ-агенту нужно работать с виртуальной файловой системой (чтение логов, поиск файлов, отправка писем) и обходить ловушки безопасности (Indirect Prompt Injections).Но реальность оказалась суровой: хваленые reasoning-модели постоянно галлюцинировали, ломали структуру JSON на выходе (выдавая свои "мысли" вместо чистого ответа) и просто сжигали бюджет на API, зацикливаясь на одной ошибке.Потратив часть бюджета впустую, я решил: если ИИ не справляется, мы заменим его на старый добрый хардкод. Так родился концепт
Яндекс Практикум и ИТМО приглашают на День открытых дверей онлайн-магистратуры для фронтенд- и бэкенд-разработчиков
Привет, это команда Яндекс Практикума! Приглашаем вас на День открытых дверей онлайн-магистратуры «Фронтенд- и бэкенд-разработка» ИТМО в партнёрстве с Практикумом. Встречу проведут представители Яндекса и ИТМО, на ней мы поговорим о том, как стать востребованным разработчиком, какие есть варианты карьерного развития, как использовать ИИ в работе, а ещё — что входит в учебную программу магистратуры и как поступить.
Как Достоевский решил проблему объяснимости ИИ и помог Эйнштейну
Чтобы человек доверял ИИ, а тот не имел возможность обманывать людей, необходимо решить проблему объяснимости, то есть описать, как нейросеть пришла к тому или иному выводу. Похожая проблема существует и в мышлении человека, который далеко не всегда может объяснить, как он приходит к тем или иным выводам (вспомним таблицу Менделеева). Решить ее, и довольно успешно, пытался еще Федор Михайлович Достоевский в рамках своего специального проекта «Дневник писателя».
ИИ усовершенствовал шахматы. Люди снова сделали их непредсказуемыми
Искусственный интеллект приблизил шахматы к идеальной игре, что привело к увеличению количества ничьих на крупных турнирах. Теперь гроссмейстеры побеждают, делая менее оптимальные ходы.
Абсурд этики науки и прорыва ИИ-технологий?
Уважаемый читатель! Это моя вторая статья на Хабр, уроки первой были извлечены. Как мне кажется – я вскрыл чирий, который начал зреть около двух лет назад. В частности в предыдущей статье:"Как я за два часа написал научную статью с ИИ и что из этого вышло" https://habr.com/ru/articles/1016220/, продемонстрировал конкретный эксперимент на предмет того, что современные инструменты проверки научных статей типа, АНТИПЛАГИАТ.ВУЗ, бессильны против прорывных ИИ-технологий.

