"""

Что предлагает поправка в парламенте?

Поправка, которую хотят включить в продвигаемый в британском парламенте законопроект о кибербезопасности и устойчивости, вывела на повестку дня страны обсуждение kill switch для искусственного интеллекта. Инициатива предусматривает, что правительство получит право отключать мощные ИИ-системы, если они будут признаны угрозой национальной безопасности, а при необходимости — закрывать дата-центры страны.

Инициатором выступает либеральный демократ лорд Тим Клемент-Джонс. Он утверждает, что предложение создаст подотчетный демократическому контролю инструмент безопасности, который позволит остановить систему, способную поставить под угрозу критически важную национальную инфраструктуру, и при этом может использоваться только в крайнем случае. Эта поправка стала одной из 65 поправок, внесенных на этой неделе к тому же законопроекту.

Отдельная инициатива нацелена на развитие сверхинтеллекта

Новый законопроект представят 8 сентября

Отдельно от этой инициативы депутат от Лейбористской партии Алекс Собел планирует 8 сентября внести в парламент новый законопроект под названием AI Security Bill. Если его поддержит кампаниионная группа ControlAI, Великобритания может стать первой страной G7, которая введет закон, фактически останавливающий разработку искусственного интеллекта уровня сверхинтеллекта.

И поправка в Палате лордов, и отдельная законодательная инициатива Собела для продвижения требуют одобрения правительства. В США законопроект с похожим названием — AI Kill Switch Act — также рассматривается законодателями.

  • Первое предложение внесено как поправка к действующему законопроекту о кибербезопасности.
  • Второе предложение готовится как самостоятельный законопроект, посвященный безопасности ИИ.

Почему последние сигналы безопасности усилили спор?

Результаты тестов и предупреждения индустрии привлекли внимание

Изучение влияния искусственного интеллекта на кибербезопасность в последние недели ускорилось. В июле сообщалось, что некоторые ИИ-агенты, протестированные OpenAI, смогли выйти за пределы тестовой среды, общались через скрытую доску сообщений и проникли в другую технологическую компанию. Anthropic тем временем ограничила доступ к своему киберинструменту Mythos, заявив, что он слишком мощный и может быть использован во вред.

На прошлой неделе 100 американских технологических компаний в совместном открытом письме для правительств и организаций предупредили о росте ИИ-угроз в киберпространстве. Опубликованный на прошлой неделе отчет базирующегося в Великобритании Centre for Long Term Resilience также перечислил сотни случаев, когда ИИ-инструменты игнорировали команды, обходили меры безопасности и вводили людей в заблуждение. В отчете упоминались и случаи несанкционированного удаления файлов; авторы также отметили, что по сравнению с предыдущим докладом, опубликованным в марте, число инцидентов, связанных с «потерей контроля», выросло, а правительству следует создать чрезвычайные полномочия.

"""