Чего действительно стоит бояться в ИИ: пять экспертов о безопасности и будущем технологий
Разговор о безопасности искусственного интеллекта всё чаще превращается в спор о конце света. Одни предупреждают о потере контроля над сверхразумными системами, другие считают такие прогнозы отвлечением от конкретных проблем. Но за разногласиями о будущем остаются вопросы, требующие решений уже сейчас: кому можно доверять управление критической инфраструктурой, как предотвратить опасные эксперименты и кто должен устанавливать допустимый уровень риска.WIRED
В Делавэре ИИ‑агентам разрешат создавать и управлять компаниями
Губернатор штата Делавэр Мэтт Мейер публично поддержал идею регистрации компаний с помощью ИИ‑агентов. Однако это решение вызвало критику и спровоцировало дискуссию о регулировании.Член Палаты представителей США Джеймс Комер заявил, что предложение Делавэра разрешить управлять компаниями с помощью ИИ‑агентов позволит их владельцам‑людям избежать юридической ответственности за безрассудные или вредоносные действия, совершенные искусственным интеллектом.
Президент Microsoft: регулирование ИИ слабее, чем молока и стиральных машин
Президент Microsoft Брэд Смит призывает к срочному регулированию сферы искусственного интеллекта, аргументируя это тем, что контроль над такими потребительскими товарами, как молоко или стиральные машины, осуществляется строже, чем над компаниями, создающими ИИ.
Исследование К2Тех: 79% промышленных компаний сообщили о разрыве между ожиданиями от ИИ и готовностью к его внедрению
Ожидания руководства от искусственного интеллекта превышают реальные возможности компаний — об этом сообщили 79% участников исследования К2Тех среди промышленных предприятий. Респонденты оценивали, насколько их организации готовы обеспечить результаты, которых топ-менеджмент ждёт от ИИ, и какие барьеры стоят перед их достижением. В исследовании приняли участие 150 представителей руководящего состава крупных промышленных компаний.
Сэм Альтман: Миру стоит смириться с негативными последствиями ради преимуществ ИИ
Генеральный директор OpenAI Сэм Альтман заявил о сохраняющихся фундаментальных различиях в подходах его компании и конкурирующей фирмы Anthropic к вопросу регулирования искусственного интеллекта. В интервью Politico он отметил, что преимущества этой технологии оправдывают определённые риски, а сам ИИ должен оставаться широко доступным для общественности.
FTC начала расследование против OpenAI, Anthropic и METR из‑за рисков ИИ‑агентов
Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков ИИ. Регулятор хочет выяснить, какие риски их технологии могут создавать для потребителей. Особое внимание регулятор уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления самих лабораторий о поведении их систем во время тестов.Наиболее заметный пример — июльский инцидент
Гейтс: развитие ИИ без регулирования может привести к гибели миллиарда человек
Соучредитель Microsoft Билл Гейтс призвал законодателей в Вашингтоне заняться регулированием разработки искусственного интеллекта. Это произошло спустя несколько недель после того, как руководители крупнейших американских лабораторий ИИ согласились с необходимостью замедлить темпы развития этой технологии.
ИИ усиливает цифровое неравенство
Новый разрыв проходит между теми, кто создаёт ИИ и управляет им, и теми, кто лишь пользуется готовым.Искусственный интеллект стремительно становится частью повседневной инфраструктуры — но не везде.За последние десять лет я работала над проектами цифровой инклюзии и грамотности — от Европы до Африки южнее Сахары и Юго-Восточной Азии — и везде видела одну и ту же картину: каждая новая «прорывная» технология приходит туда, где неравенство уже есть — в доступе к интернету, навыках, возможностях институтов. ИИ не исключение — он эти разломы только углубляет.
Замедлить нельзя продолжать: почему лидеры ИИ призывают остановиться и кто против
В субботу, 12 сентября, Дарио Амодеи, глава Anthropic, одной из крупнейших компаний в сфере искусственного интеллекта, опубликовал пост, в котором призвал американских и мировых ИИ-лидеров замедлить развитие технологии из-за серьёзных рисков. Амодеи также предложил трёхэтапный план по замедлению прогресса передовых ИИ-моделей. Его уже поддержали главы других корпораций — Сэм Альтман из OpenAI и Илон Маск, владеющий стартапом xAI.
Глава Anthropic призвал замедлить развитие ИИ
Глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier, в котором предложил замедлить рост возможностей передовых ИИ-моделей. По его мнению, исследования безопасности перестают успевать за прогрессом. Anthropic обязуется начать с постоянного доступа внешних проверяющих к внутренней работе компании.Амодеи объясняет изменение позиции двумя причинами: ИИ всё активнее участвует в создании следующих поколений моделей, а инцидент с агентами OpenAI и инфраструктурой Hugging Face показал опасность их несогласованного с разработчиками поведения.В
