Билл Гейтс призвал усилить внешний контроль над ИИ

На этой неделе Билл Гейтс дал интервью NBC News ^[1] и сказал вслух то, о чём давно шепчутся в кулуарах: надеяться только на добрую волю создателей ИИ больше нельзя

Гейтс прямо заявил, что никто уже не считает саморегулирование достаточным. По его мнению, конгресс должен принять законы об ИИ, а правоохранители и политики — подключиться к обсуждению того, какими должны быть гарантии и контроль. Он признаёт, что это добавит индустрии немного бюрократии, но не думает, что это сильно затормозит разработку.

Почему это стало так важно сейчас?

По его мнению, ИИ уже достаточно мощный инструмент, чтобы в руках злоумышленников натворить бед в масштабах, о которых раньше писали только в фантастике. Он сказал, что ИИ способен спровоцировать события, которые унесут миллиард жизней, и что ещё никогда оружие не было настолько мощным, как сочетание людей с плохими намерениями и современных ИИ-инструментов.

При этом он не призывает всё остановить. Его позиция скорее такая: нужны обязательные правила, проверки и наблюдение. Особенно для сфер типа медицины, финансов, государственных систем и других критических инфраструктур

Мнение противоположной стороны

Недавно главы Anthropic и OpenAI сами сказали, что темп разработки ИИ стоит замедлить. Бывший сотрудник Anthropic Джейкоб Коксон публично заявил, что компании ведут себя безответственно и фактически играют в рулетку с нашими жизнями, двигаясь к самообучающемуся суперинтеллекту.

Спикер Палаты представителей Майк Джонсон пока не торопится с законами — предлагает подождать, пока сами компании предложат конкретный план. Марк Цукерберг придерживается другой позиции: он считает, что никакая отраслевая координация не нужна, и каждая лаборатория должна сама решать, когда притормозить.

Тем временем отдельные штаты — Калифорния, Мэриленд, Нью-Йорк — уже запускают свои инициативы по регулированию ИИ и создают экспертные советы.

Что я думаю по этому поводу?

На мой взгляд, слова Гейтса звучат не как призыв задушить инновации. Я вижу в этом небезосновательную просьбу перестать делать вид, что всё под контролем, когда это не совсем так. Если вы строите долгосрочные проекты в digital, стоит думать не только о том, что может ИИ, но и о том, что будет, если что-то пойдёт не так, и как заранее прописать это в своих процессах.

Ответственность разработчиков и защита данных

Опять же исключительно мое мнение, возможно, кто-то посчитает, что это избыточно. Базовый минимум для команды, которая использует ИИ:

1. Вести реестр ИИ-инструментов и подключённых сервисов.

2. Проверять промпты и сценарии обработки данных.

3. Ограничивать доступ к моделям и внутренним базам.

4. Тестировать ответы на ошибки ^[2], предвзятость и утечки данных.

5. Сохранять действия пользователей и систем в логах.

6. Подготовить план на случай инцидента или ошибочной рекомендации.

Это особенно важно для сервисов, которые общаются с клиентами, принимают решения или получают чувствительную информацию. В конце концов, в случае ошибки или какой-то неприятной ситуации, крайним будет именно бизнес или разработчик, а не власти, которые не приняли закон, или создатели ии-инструментов