Китайский фермер уничтожил 25 акров урожая, следуя советам ИИ по борьбе с сорняками и вредителями

Фермер из китайского городского округа Чучжоу начал пользоваться советами искусственного интеллекта ^[1] год назад, но после нескольких месяцев взаимодействия приложение предложило 67-летнему мужчине совет, который привёл к гибели ^[2] всего урожая.

Изначально фермер Ву не доверял ИИ‑приложению, но в итоге изменил своё мнение, когда оно показалось ему полезным. Однако эта ошибка ^[3] привела к гибели более чем 24 акров урожая.

Ву обратился к нейросети за советом по борьбе с сорняками и вредителями. Для борьбы с сорняками на десятках акров кунжутной травы ИИ предложил использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир», смешав их с «тиаметоксазином» и «метиловой солью». Мужчина в точности следовал советам ИИ, не проверяя полученную информацию ни у специалистов по сельскому хозяйству, ни самостоятельно в интернете.

Уже на следующий день после выполнения рекомендаций сорняки и всходы кунжута массово погибли. Когда фермер поинтересовался у нейросети, почему это произошло, ИИ предположил, что причиной может быть «флусульфасульфаэфир».

Портал Tom’s Hardware приводит слова экспертов в области сельского хозяйства, которые заявили, что это химическое вещество в основном применяют против широколистных сорняков на соевых полях. Министерство сельского хозяйства США классифицирует ^[4] кунжут как широколистное растение, поэтому он также легко поражается этим гербицидом. Более того, это химическое вещество предназначено для целенаправленного опрыскивания проблемных участков, а не всего поля.

Фермер утверждал, что ИИ не предупредил его о рисках, связанных с рекомендациями. Однако на странице чата отображалось напоминание, что результаты генерации нейросети могут быть неверными, поэтому их следует проверять.