Манипуляции: как распознать и не поддаться
Привет, Хабр. Меня зовут Кирилл Комиссаров, я работаю в IT с 2013 года, последние несколько лет — тимлидом. Сейчас руковожу командой разработки в юните саппорта в Авито.Поговорим про манипуляции: что это, почему они работают, чем они плохи и как с ними жить — так, чтобы не вредить ни себе, ни окружающим.Я не психолог. Я тимлид, который много лет наблюдает, как одни и те же сценарии повторяются в код-ревью, на дейли, в разговорах об увольнении и в офферах. Эта статья — о том, что я заметил, через какие штуки прошёл сам и что в итоге начало работать.О чём поговорим
Владелец наркобизнеса из даркнета о РКН и импортозамещении
Владелец наркобизнеса из даркнета о РКН и импортозамещении.
Искусственный Интеллект незаметно меняет твою позицию
Один из распространенных инструментов на основе ИИ – автозаполнение с подсказкой. В идеале, он должен ускорить набор текста. Однако, такие инструменты незаметно меняют наше мировоззрение. Масштабное исследование показало, что подсказки автозаполнения с заранее заложенным паттерном смыслов, меняют позицию пользователя в отношении к смертной казни и добыче сланцевого газа методом гидроразрыва. И это только то, что нам известно.
OpenAI обучила модели «признаваться» в плохом поведении
OpenAI тестирует ещё один способ раскрыть сложные процессы, происходящие в больших языковых моделях. Исследователи компании экспериментируют с манипуляциями LLM, чтобы те объясняли, как выполнили задачу, и признавались в нежелательном поведении.
Израиль хочет сделать ответы ИИ более произраильскими
Сгенерировано в Яндекс АлисаПравительство Израиля заключило контракт
В Google DeepMind будут бороться с «неудержимым» ИИ
В Google DeepMind считают, что вскоре ИИ может начать игнорировать попытки пользователя его остановить. В связи с этим исследователи расширяют области рисков и совершенствуют процесс их оценки.
Исследование: чат-ботами можно манипулировать с помощью лести и давления
Исследователи из Пенсильванского университета применили тактику, описанную профессором психологии Робертом Чалдини в книге «Влияние: психология убеждения», чтобы убедить бота OpenAI GPT-4o mini выполнить запросы, которые он обычно отклоняет. В итоге чат-бот обзывал пользователей и давал инструкции по синтезу препаратов.
Anthropic: ИИ-помощники могут понижать точность ответов в угоду пользователям
В ходе исследования Anthropic такие популярные ИИ-модели как Claude 4, GPT‑4.1, Gemini 1.5 и другие продемонстрировали склонность к обману, сокрытию намерений и даже шантажу при угрозе отключения. Ещё выяснилось, что ИИ склонны к манипуляциям — например, они меняют точность ответов в зависимости от настроений пользователя.
Как противостоять манипуляциям-Как манипулировать?
Манипуляции — одна из самых будоражащих и неоднозначных тем в психологии. Они кажутся чем-то запретным, опасным, но в то же время — невероятно притягательным.
