искусственный интеллект. - страница 617

Исследование Стэнфордского университета выявило опасности обращения к чат-ботам с ИИ за личными советами

Учёные Стэнфордского университета предупредили об опасностях обращения к чат-ботам на базе искусственного интеллекта за личными советами. Они назвали «подхалимство» нейросетей широко распространённым поведение с серьёзными последствиями.

продолжить чтение

Для создания AGI нам нужно сделать шаг назад

Современные языковые модели демонстрируют отличные способности к рассуждению, но при этом остаются инструментами. Уинструмента нет выбора.

продолжить чтение

Где же все эти приложения, создаваемые с помощью ИИ?

Любители вайбкодинга и агентного программирования говорят, что работают в 2, 10, а то и в 100 раз продуктивнее! Один даже разработал с нуля целый браузер. Невероятно!

продолжить чтение

Пентагон против Anthropic: почему этот конфликт касается каждого

продолжить чтение

Заменит ли «Сложная обработка информации» востребованного специалиста?

The Dartmouth College Artificial Intelligence Conference: The Next Fifty Years Почему мы вообще обсуждаем конкуренцию людей и машин? Потому что мы стали жертвами удачного нейминга.Возврат в 1950-е. Алан Тьюринг и Клод Шеннон дали базу. Но термин «ИИ»

продолжить чтение

Как мы хакнули ИИ-бенчмарк PAC1 без нейросетей

Недавно я участвовал в корпоративном хакатоне по обходу ИИ-песочниц. Задача: пройти закрытый бенчмарк PAC1, где ИИ-агенту нужно работать с виртуальной файловой системой (чтение логов, поиск файлов, отправка писем) и обходить ловушки безопасности (Indirect Prompt Injections).Но реальность оказалась суровой: хваленые reasoning-модели постоянно галлюцинировали, ломали структуру JSON на выходе (выдавая свои "мысли" вместо чистого ответа) и просто сжигали бюджет на API, зацикливаясь на одной ошибке.Потратив часть бюджета впустую, я решил: если ИИ не справляется, мы заменим его на старый добрый хардкод. Так родился концепт

продолжить чтение

Яндекс Практикум и ИТМО приглашают на День открытых дверей онлайн-магистратуры для фронтенд- и бэкенд-разработчиков

Привет, это команда Яндекс Практикума! Приглашаем вас на День открытых дверей онлайн-магистратуры «Фронтенд- и бэкенд-разработка» ИТМО в партнёрстве с Практикумом. Встречу проведут представители Яндекса и ИТМО, на ней мы поговорим о том, как стать востребованным разработчиком, какие есть варианты карьерного развития, как использовать ИИ в работе, а ещё — что входит в учебную программу магистратуры и как поступить.

продолжить чтение

Как Достоевский решил проблему объяснимости ИИ и помог Эйнштейну

Чтобы человек доверял ИИ, а тот не имел возможность обманывать людей, необходимо решить проблему объяснимости, то есть описать, как нейросеть пришла к тому или иному выводу. Похожая проблема существует и в мышлении человека, который далеко не всегда может объяснить, как он приходит к тем или иным выводам (вспомним таблицу Менделеева). Решить ее, и довольно успешно, пытался еще Федор Михайлович Достоевский в рамках своего специального проекта «Дневник писателя».

продолжить чтение

ИИ усовершенствовал шахматы. Люди снова сделали их непредсказуемыми

Искусственный интеллект приблизил шахматы к идеальной игре, что привело к увеличению количества ничьих на крупных турнирах. Теперь гроссмейстеры побеждают, делая менее оптимальные ходы.

продолжить чтение

Абсурд этики науки и прорыва ИИ-технологий?

Уважаемый читатель! Это моя вторая статья на Хабр, уроки первой были извлечены. Как мне кажется – я вскрыл чирий, который начал зреть около двух лет назад. В частности в предыдущей статье:"Как я за два часа написал научную статью с ИИ и что из этого вышло" https://habr.com/ru/articles/1016220/,  продемонстрировал конкретный эксперимент на предмет того, что современные инструменты проверки научных статей типа, АНТИПЛАГИАТ.ВУЗ, бессильны против прорывных ИИ-технологий.

продолжить чтение