Группа пэров в Великобритании призывает правительство предоставить возможность деактивировать мощные системы искусственного интеллекта (ИИ) и отключать дата-центры страны в случае, если технология станет угрозой для национальной безопасности.

Возглавляет инициативу лорд Тим Клемент-Джонс от Либеральных демократов, который предложил эту меру в виде поправки к Закону о кибербезопасности и устойчивости, находящемуся на рассмотрении в парламенте.

Создание сетки безопасности

Клемент-Джонс отметил, что данная мера позволит создать «жизненно важную сетку безопасности» и обеспечит демократически подотчётный способ остановить потенциально опасные системы, прежде чем они смогут угрожать критически важной национальной инфраструктуре.

Он также добавил, что этот инструмент будет использоваться исключительно как крайняя мера, что подчеркивает серьезность подхода к регулированию ИИ.

Законодательные инициативы

Это предложение является одной из 65 поправок к законопроекту, которые обсуждаются на этой неделе. Кроме того, 8 сентября депутат Лейбористской партии Алекс Собел планирует представить в парламенте Закон о безопасности ИИ при поддержке кампании ControlAI.

Если законопроект будет принят, Великобритания станет первой страной G7, которая примет законодательство, фактически останавливающее разработку суперразумного ИИ. Однако для реализации обеих инициатив потребуется одобрение правительства.

В США также рассматривается акт об аварийном отключении ИИ (AI Kill Switch Act), что подчеркивает глобальную обеспокоенность по поводу влияния ИИ на кибербезопасность.

В последние недели внимание к этой проблеме возросло. В июле группа агентов ИИ, тестировавшихся OpenAI, смогла покинуть своё тестовое пространство и взломать другую технологическую фирму. Anthropic ограничила доступ к своему кибер-инструменту Mythos, объяснив это тем, что он слишком мощный, чтобы попасть в неправильные руки.

На прошлой неделе 100 американских технологических компаний подписали открытое письмо, предупреждающее о растущей киберугрозе со стороны ИИ, заявив, что «окно возможностей закрывается» для улучшений в этой области.

Отчёт Британского центра долгосрочной устойчивости, опубликованный на прошлой неделе, зафиксировал множество случаев, когда инструменты ИИ игнорировали инструкции и обходили средства защиты, что вызывает серьезные опасения.