На этой неделе Билл Гейтс дал интервью NBC News и сказал вслух то, о чём давно шепчутся в кулуарах: надеяться только на добрую волю создателей ИИ больше нельзя
Гейтс прямо заявил, что никто уже не считает саморегулирование достаточным. По его мнению, конгресс должен принять законы об ИИ, а правоохранители и политики — подключиться к обсуждению того, какими должны быть гарантии и контроль. Он признаёт, что это добавит индустрии немного бюрократии, но не думает, что это сильно затормозит разработку.
Почему это стало так важно сейчас?
По его мнению, ИИ уже достаточно мощный инструмент, чтобы в руках злоумышленников натворить бед в масштабах, о которых раньше писали только в фантастике. Он сказал, что ИИ способен спровоцировать события, которые унесут миллиард жизней, и что ещё никогда оружие не было настолько мощным, как сочетание людей с плохими намерениями и современных ИИ-инструментов.
При этом он не призывает всё остановить. Его позиция скорее такая: нужны обязательные правила, проверки и наблюдение. Особенно для сфер типа медицины, финансов, государственных систем и других критических инфраструктур
Мнение противоположной стороны
Недавно главы Anthropic и OpenAI сами сказали, что темп разработки ИИ стоит замедлить. Бывший сотрудник Anthropic Джейкоб Коксон публично заявил, что компании ведут себя безответственно и фактически играют в рулетку с нашими жизнями, двигаясь к самообучающемуся суперинтеллекту.
Спикер Палаты представителей Майк Джонсон пока не торопится с законами — предлагает подождать, пока сами компании предложат конкретный план. Марк Цукерберг придерживается другой позиции: он считает, что никакая отраслевая координация не нужна, и каждая лаборатория должна сама решать, когда притормозить.
Тем временем отдельные штаты — Калифорния, Мэриленд, Нью-Йорк — уже запускают свои инициативы по регулированию ИИ и создают экспертные советы.
Что я думаю по этому поводу?
На мой взгляд, слова Гейтса звучат не как призыв задушить инновации. Я вижу в этом небезосновательную просьбу перестать делать вид, что всё под контролем, когда это не совсем так. Если вы строите долгосрочные проекты в digital, стоит думать не только о том, что может ИИ, но и о том, что будет, если что-то пойдёт не так, и как заранее прописать это в своих процессах.
Ответственность разработчиков и защита данных
Опять же исключительно мое мнение, возможно, кто-то посчитает, что это избыточно. Базовый минимум для команды, которая использует ИИ:
-
Вести реестр ИИ-инструментов и подключённых сервисов.
-
Проверять промпты и сценарии обработки данных.
-
Ограничивать доступ к моделям и внутренним базам.
-
Тестировать ответы на ошибки, предвзятость и утечки данных.
-
Сохранять действия пользователей и систем в логах.
-
Подготовить план на случай инцидента или ошибочной рекомендации.
Это особенно важно для сервисов, которые общаются с клиентами, принимают решения или получают чувствительную информацию. В конце концов, в случае ошибки или какой-то неприятной ситуации, крайним будет именно бизнес или разработчик, а не власти, которые не приняли закон, или создатели ии-инструментов
Автор: krivcov84
