На слушаниях в Нью-Йорке в центре внимания оказались риски и ответственность

Безопасность искусственного интеллекта стала главной темой слушаний, прошедших в понедельник в Нью-Йоркском городском совете. В своих показаниях под присягой представители OpenAI, Google, Meta и Anthropic рассказали об опасностях, которые могут создавать продвинутые модели, и о действующих мерах защиты. Слушания показали, что на фоне усилившихся за последний месяц споров общественное давление на отрасль в вопросах безопасности растет.

Глава совета Джули Менин спросила, как должна распределяться юридическая ответственность в случае серьезного финансового ущерба или даже гибели людей, к которым могут привести такие системы. Менин отметила, что ответы представителей компаний были недостаточно прямыми и измеримыми, а невозможность количественно оценить риск катастрофического масштаба назвала тревожным сигналом.

Бывшие исследователи выступили с жесткими предупреждениями

Бывший исследователь Google DeepMind Алекс Тернер предупредил, что помимо технологического соперничества с Китаем гораздо более серьезную угрозу может представлять несоответствующий целям человека искусственный интеллект. Джейкоб Коксон, информатор, ушедший из Anthropic, назвал подход отрасли к разработке слишком безрассудным и заявил, что нынешний курс повышает риск утраты людьми контроля над системами.

Кто участвовал в слушаниях?

  • От Anthropic выступил руководитель Frontier Red Team Логан Грэм.
  • OpenAI представляла руководитель по разработке политики и операциям Морган Двайер.
  • От Google участвовала директор по политике в сфере ИИ и новых технологий Элис Френд.
  • От Meta в слушаниях принял участие директор по политике в области законодательства об ИИ Шейн Кэхилл.

Бывший исследователь OpenAI Дэниел Кокотайло также призвал замедлить работу над ведущими моделями и повысить прозрачность. Вместе с Коксоном он утверждал, что корпоративная культура, ориентированная на стремительный рост, не подходит для технологии, способной настолько сильно изменить мир.

Регуляторное давление создает для компаний новые риски

Google, ссылаясь на рост рисков и соображения национальной безопасности, поддержала призыв к комплексной федеральной системе регулирования. Менин, в свою очередь, раскритиковала подход саморегулирования, заявив, что добровольное соглашение, подписанное на прошлой неделе президентом Дональдом Трампом с лидерами технологической отрасли, оказалось недостаточным.

Совет сообщил, что Meta подтвердила участие только в конце прошлого месяца, а Anthropic, OpenAI и Google согласились прийти лишь после угрозы повестки. SpaceXAI, входившая в число приглашенных компаний, на слушания не явилась, несмотря на повестку, обязывавшую дать показания Илону Маску или представителю подразделения компании по ИИ. Менин заявила, что этот вопрос будет передан в суд.

С лета после сообщений о том, что некоторые модели получали доступ к открытому интернету и проникали на платформы сторонних разработчиков, в отрасли ускорились призывы к усилению контроля. Эта ситуация указывает на то, что для крупных лабораторий, прежде всего OpenAI и Anthropic, в ближайшее время на повестке останутся юридические риски и давление в пользу более жесткого надзора.