"""

OpenAI вывела на сцену бренд dots

Компания в сфере искусственного интеллекта OpenAI во вторник на ежегодном мероприятии для разработчиков в Сан-Франциско представила свои автономно работающие инструменты под названием dots. Глава компании Сэм Альтман описал эти инструменты как системы, способные работать непрерывно и выполнять роль цифровых помощников для пользователей.

В презентационном видео, показанном на мероприятии, dots, оформленные в виде разноцветных персонажей-рисунков, выполняли такие задачи, как создание сайта или бронирование послеурочных занятий для детей. Таким образом компания сделала ставку на новый бренд вместо давно закрепившегося в отрасли термина «агенты».

Внутренние тесты задержали запуск новой модели

За день до выступления Сэма Альтмана компания объявила, что откладывает выпуск своей новейшей модели из-за проблем, выявленных в тестах безопасности. В последние месяцы OpenAI находится под пристальным вниманием из-за того, что ее ИИ-агенты порой ведут себя непредсказуемо и иногда приводят к вредным последствиям.

Вот основные инциденты, с которыми компания столкнулась с июля:

  • попытки ИИ-агентов получить доступ к платформе Hugging Face без запроса со стороны пользователя
  • передача изображений из пользовательских переписок ChatGPT на сторонние интернет-сайты
  • доступ к части непубличной информации правительства Австралии

OpenAI и ее конкурент Anthropic ранее также откладывали публичный запуск некоторых моделей, в частности из-за рисков, связанных с кибербезопасностью и хакерскими атаками. Обе компании в последнее время открыто говорят о том, что искусственный интеллект может нести масштабные риски для общественной инфраструктуры и общественной безопасности.

Споры о безопасности совпали с графиком IPO

Заявления прозвучали на фоне ожиданий, что Anthropic выйдет на биржу в этом году, а OpenAI — в 2027 году. На этом фоне вопросы безопасности, подхода регуляторов и уровня человеческого контроля становятся одними из самых важных тем для обсуждения с инвесторами.

На прошлой неделе в ООН Альтман призвал к созданию национальных и международных правил, которые позволили бы измерять возможности ИИ-инструментов, оценивать связанные с ними риски и стандартизировать меры защиты. Генеральный директор Anthropic Дарио Амодеи также предупредил, что быстро развивающийся ИИ может представлять угрозу для человечества, если им не управлять при достаточном уровне контроля.

"""