Разработчики ИИ пообещали усилить меры внутреннего контроля за моделями

Автоматически добавлена на сайт: 03:04

Руководители ведущих американских компаний-разработчиков искусственного интеллекта пообещали усилить меры внутреннего контроля за создаваемыми моделями ИИ. Такое заявление они сделали в ходе встречи с президентом США Дональдом Трампом . «Внедрить надежные механизмы внутреннего контроля для отслеживания возможностей и характеристик моделей в процессе их обучения и развертывания», - говорится в тексте подписанного участниками встречи документа. Уточняется, что усиленный контроль будет внедряться в сферах биологической и кибербезопасности, для защиты от химических угроз, а также предотвращения взлома технических систем или доступа к ним со стороны моделей искусственного интеллекта. Кроме того, компании-разработчики ИИ пообещали привлекать внешних аудиторов для оценки эффективности систем контроля. В будущем инициативы могут быть закреплены законодательно. На этой неделе Трамп уже встречался с одним из руководителей технологической компании Дарио Амадеи – главой Anthropic. Американский лидер и Амадеи придерживаются полярных точек зрения относительно контроля за ИИ. Если Амадеи призывает замедлить разработку более мощных моделей из соображений безопасности, то Трамп напротив – не считает нужным регулировать и ограничивать искусственный интеллект. Между тем, накануне стало известно, что разработчик новой продвинутой модели ИИ GPT-6.1 Astra отказался от ее выпуска в открытый доступ. Выяснилось, что ИИ-агент склонен к обману и умалчиванию совершенных им действий. Кроме того, в ходе испытаний «Астра» не раз действовала за пределами своих полномочий, что представляло угрозу. Смотрите главные новости каждый день на телеканале «Звезда» в 18:00 .

ЗДЕСЬ МОЖЕТ БЫТЬ ВАША РЕКЛАМА

Разместить рекламу за 5 ₽/день