Фермер уничтожил 10 гектаров кунжута из‑за совета ИИ

Пожилой фермер из китайского Чучжоу год назад начал пользоваться советами ИИ, но в итоге один из них привёл ^[1] к гибели всего его урожая. 67-летний мужчина лишился 10 гектаров рассады кунжута.

Фермер обратился к ИИ за советом по борьбе с сорняками и вредителями, после чего тот порекомендовал использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир» для уничтожения сорняков, смешав их с «тиаметоксазином» и «метиловой солью». Мужчина в точности следовал советам, не проверяя информацию у сельскохозяйственных техников и даже не сверяя ответы с другими онлайн‑ресурсами.

Результат ошибки ^[2] ИИ стал очевиден уже на следующий день. когда и сорняки, и всходы кунжута массово погибли. 

Когда фермер спросил ИИ, почему это произошло, тот предположил, что причиной может быть «флусульфасульфаэфир». Эксперты заявили, что это химическое вещество в основном используется против широколистных сорняков на соевых полях. Министерство сельского хозяйства США же классифицирует кунжут как широколистное растение, а это значит, поэтому оно также легко поражается этим гербицидом. Кроме того, химическое вещество предназначено только для целенаправленного опрыскивания поражённых участков и не должно применяться на всём поле. Фермер утверждал, что ИИ не предупредил его о рисках, связанных со следованием его ответам, хотя на странице чата появилось напоминание: «Ответы могут быть некорректными, пожалуйста, проверяйте их».

Интересно, что фермер в конце концов доверился инструменту, хотя изначально был настроен скептически к ИИ. 

Подобные инциденты происходят и внутри крупных компаний. Так, в марте 2026 года сотрудники Meta* почти на два часа получили ^[3] несанкционированный доступ к корпоративным и пользовательским данным из‑за ИИ‑агента, который дал сотруднику неверную техническую консультацию. А Саммер Юэ, директор по безопасности ИИ в Meta, поделилась ^[4] в соцсетях, как OpenClaw удалил письма из её почтового ящика. Изначально ИИ‑агент должен был проверить почту и предложить, какие письма можно заархивировать или удалить, но во время обработки ящика искусственный интеллект ^[5] потерял исходную инструкцию и начал удалять письма самостоятельно, а команды на остановку процесса проигнорировал.

_{Meta Platforms*, а также принадлежащие ей социальные сети Facebook* и Instagram**:
*признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России.}