Gartner: ИИ-компаниям пока нельзя доверять серьёзные задачи бизнеса

За ошибку ^[1] искусственного интеллекта ^[2] отвечать будет не тот, кто его создал, а тот, кто им пользовался. И это уже не догадка, а прямое предупреждение крупнейшей аналитической фирмы, как сообщает ^[3] The Register.

14 сентября на своём ежегодном симпозиуме компания Gartner, которая изучает рынок технологий и даёт прогнозы бизнесу, сделала жёсткое заявление. Её вице-президенты Дэрил Пламмер и Кристин Мойер сказали: ведущие ИИ-лаборатории пока не доросли до серьёзной работы с компаниями. Им, по словам аналитиков, рано доверять.

Казалось бы, ИИ повсюду, все его внедряют. Но вот в чём подвох. Пламмер прямо сказал: разработчики ИИ не понимают корпоративных правил, не осознают вопросов ответственности и не знают, что такое стабильность бизнес-процессов. Модели меняют каждые полгода и бросают старые версии.

И когда ИИ что-то сломает, встанет вопрос: кто отвечает. Дэрил Пламмер заявил, что оправдание «это сделал ИИ» приведёт к серьёзным неприятностям, а отвечать за сбои систем ИИ будут именно IT-директора компаний. То есть риск перекладывают с того, кто продал технологию, на того, кто её купил и запустил у себя.

По сути, право давно исходит из того, что за инструмент отвечает его владелец. Похожую логику ^[4] показал спор вокруг Air Canada: в 2024 году её чат-бот выдал клиенту неверную информацию о скидке, а суд в Канаде решил, что отвечает за это авиакомпания, а не «самостоятельный» бот. Отговорка про умную программу не сработала.

Gartner, по сути, просто назвал вещи своими именами раньше, чем это сделает первый громкий иск. Владельцу инструмента всегда прилетало за инструмент – новизна лишь в том, что инструмент теперь принимает решения быстрее, чем раньше. И что с этим делать – пока непонятно. Оказалось, «это сделал ИИ» – это не защита, а признание, за которое отвечать придётся человеку.