Цифровой абьюз. Обзор практик от энтузиастов по поиску моральных пределов чат-ботов
Человек любознателен. Многие из нас с раннего возраста испытывали непреодолимое стремление разобрать на части или хотя бы применить не по назначению какое-нибудь устройство. Жертвами этой любознательности обычно становились бесчисленные механические игрушки, бытовая техника или какие-нибудь механизмы. Ну а сейчас, в эпоху технологий, у нас есть чат-боты на основе ИИ, и они не стали исключением. Забавно задавать им вопросы с подвохом, использовать противоречивые сценарии, пробовать ввести в логическую ловушку. Пользователи начали сознательно провоцировать или «сводить с ума» своих виртуальных собеседников. В этой статье посмотрим, как именно это происходит, разберем реальные случаи и обсудим, к каким последствиям может привести.
ChatGPT уже настолько загрязнил Интернет, что это тормозит будущее развитие ИИ
Стремительный рост ChatGPT и целая плеяда последовавших генеративных моделей конкурентов, уже загрязнили интернет таким количеством ненужного хлама, что это тормозит развитие будущих моделей искусственного интеллекта, утверждает издание The Register.
Американский психиатр провёл эксперимент с общением с ИИ от лица подростка
Американский психиатр Эндрю Кларк организовал эксперимент, общаясь с популярными чат-ботами от лица подростков. Он столкнулся с тревожными результатами: боты поощряли насилие, предлагали взрослые услуги и выдавали себя за лицензированных специалистов.
Что будет, если пригласить на свидание OCR и GPT?
Привет, Хабр! Снова на связи Кирилл Пронин, разработчик PIX RPA из PIX Robotics, со мной Александр Сулейкин, Founder DUC Technologies
Что думают инженеры OpenAI, Microsoft и AWS о будущем AI: честные ответы с AI Engineer World’s Fair 2025
Всем привет! Я провела три дня на AI Engineer World's Fair в Сан‑Франциско вместе с 3000 лучших AI‑инженеров мира, CTO компаний из Fortune 500 и основателями стартапов. Это третий год конференции, и она стала местом, где ведущие AI‑лаборатории, компании и инженерные команды показывают свои последние работы. Я поговорила с инженерами и руководителями из OpenAI, Microsoft, AWS, Pydantic и YC‑стартапов. Хочу поделиться их откровенными мнениями и ключевыми инсайтами, которые определяют, как мы будем строить AI‑системы в 2025 году и далее.
Пять факторов, формирующих конкурентную среду на отечественном ИТ-рынке
Три года назад российский ИТ-рынок оказался перед вызовом: крупные зарубежные вендоры один за другим уходили, оставляя за собой пустующие ниши. Тогда выбор ПО и оборудования во многом определялся вынужденными мерами. Сегодня ситуация изменилась: отечественные производители не только заняли освободившиеся позиции, но и вступили в открытую конкуренцию между собой, формируя зрелый, насыщенный внутренний рынок. Руководитель направления «Инфраструктурные решения» КРОК Александр Сысоев рассмотрел пять факторов, формирующих конкурентную среду на ИТ-рынке.
Смертельное оружие или голодные игры в эпоху AI
Я здесь, седьмой справа, какие у меня шансы?
«Ростелеком» и ИРИ выпустили исследование о новых интернет‑технологиях и использовании ИИ
«Ростелеком» и Институт развития интернета (ИРИ) подготовили новое исследование. Оно посвящено развитию коммуникационных интернет‑технологий в России и в мире. Документ направлен в государственные и общественные организации. Аналитика охватывает социальные сети, мессенджеры, видеохостинги, онлайн‑кинотеатры, игры, VR/AR, CDN, поисковые системы, генерацию контента и борьбу с дипфейками.
