Служба здравоохранения Великобритании закроет репозитории из-за активности ИИ в ИБ

Теренс Иден, участвовавший в продвижения открытых стандартов и открытого ПО в госучреждениях Великобритании, сообщил ^[1], что Национальная служба здравоохранения страны (NHS) готовится закрыть почти все свои репозитории ^[2] с открытым исходным кодом в ответ на то, что инструменты LLM, такие как Mythos от Anthropic, всё активнее и успешнее находят уязвимости безопасности. 

Иден раскритиковал это решение:

Большинство репозиториев кода, опубликованных NHS, не подвержены существенному влиянию каких-либо достижений в области сканирования безопасности. В основном это наборы данных, внутренние инструменты, руководства, исследовательские инструменты, дизайн интерфейса и тому подобное. В них нет ничего, что могло бы реально привести к инциденту безопасности.

Когда я работал в NHS во время пандемии, мы были настолько уверены в безопасности и необходимости открытого исходного кода, что позаботились о том, чтобы приложение для отслеживания контактов с больными COVID-19 было открыто для публичного доступа, как только оно стало доступно. Это было приложение, утверждённое на национальном уровне, установленное на миллионах телефонов, подвергавшееся пристальному вниманию ^[3] со стороны враждебных сил — и тем не менее, несмотря на публикацию кода, архитектуры и документации, открытый исходный код не вызвал ни одного инцидента безопасности.

Иден напомнил также, что новые рекомендации прямо противоречат пункту 3 Кодекса практики технологического сектора Великобритании «Будьте открыты и используйте открытый исходный код», который настаивает на опенсорсном подходе.

Ранее сообщалось, что компании, разрабатывающие ИИ-сервисы, нашли ^[4] новый источник данных для обучения ^[5] своих моделей. Они начали скупать у закрывающихся стартапов рабочие переписки в мессенджерах, тикеты в Jira, письма в электронной почте и другие внутренние материалы.