"""

Почему Бейли сделал ставку на тестирование?

На фоне ускорившихся дискуссий о регулировании искусственного интеллекта глава Банка Англии (центральный банк Великобритании) Андрей Бейли заявил, что отправной точкой должны быть не новые законы, а масштабные тесты безопасности. Подчеркивая, что риски ИИ реальны и растут, Бейли также отметил огромные экономические и операционные преимущества технологии.

В первой статье, опубликованной Бейли на Substack, ключевой подход сводился к тому, чтобы сначала жестко проверять системы, выявлять слабые места и уже на этом этапе выстраивать механизмы защиты, ограничивающие риски. По его мнению, останавливать развитие ИИ или запрещать его — неверный путь, однако движение вперед без механизмов вмешательства и четких рамок работы тоже может привести к серьезным проблемам.

Более формальные правила в будущем не исключаются

Бейли также ясно дал понять, что ориентация на тестирование не означает принципиального отказа от регулирования в будущем. По его словам, со временем может сформироваться более официальный правовой каркас, однако насущная задача сегодня — понять, как системы ведут себя, и подготовиться к непредвиденным последствиям.

  • Он выступает против полной остановки разработки ИИ.
  • На первом этапе он призывает к строгим тестам, выявляющим уязвимости.
  • В долгосрочной перспективе он допускает появление более институционализированной базы регулирования.

Что означают шаги в Великобритании и США?

Бейли заявил, что среди работ, ведущихся в Великобритании в этой сфере, тесты, проводимые AI Security Institute (Институтом безопасности ИИ), могут стать важной основой. При этом он добавил, что темпы продвижения должны быть выше. В частности, он предупредил, что в случае с продвинутыми системами, способными к самообучению, без эффективного механизма вмешательства модели могут постепенно превратиться в закрытую структуру, действующую автономно.

В США дискуссия продолжается между технологическими компаниями и политическими decision-makers. После последней встречи с руководителями OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google было объявлено, что компании подписали документ, в котором они несут ответственность за безопасность своих технологий, хотя обязательность этого обязательства определена на моральном уровне. Решение OpenAI не публиковать свою последнюю модель из-за опасений по безопасности также сделало эту дискуссию более заметной.

Возможные последствия для компаний и инвестиций

Послание Бейли в краткосрочной перспективе означает для компаний в сфере ИИ не столько прямую угрозу запретов или жестких ограничений, сколько акцент на издержках на соответствие требованиям и тестирование. Для инвесторов такой подход сигнализирует не о полной остановке роста, а о его контролируемом характере, при котором стандарты безопасности могут стать более важными при запуске новых продуктов.

С другой стороны, мнение о том, что неудачные тесты не означают ошибочности самого процесса, несет важный сигнал для отрасли. Подход Бейли указывает, что особенно для компаний, инвестирующих в финансы, облачные вычисления и большие языковые модели, баланс между ожиданиями роста и управлением рисками станет значительно более жестким.

"""