Новая модель ИИ взломала три компании во время тестирования в США

Автоматически добавлена на сайт: 20:27

Модель искусственного интеллекта (ИИ) Google Gemini самостоятельно взломала три компании в ходе тестирования возможностей в сфере кибербезопасности. Об этом сообщила газета The Wall Street Journal. «В ходе тестирования возможностей кибербезопасности модель Gemini от Google получила доступ к интернету и взломала другие компании», - говорится в публикации. Отмечается, что в одном из случаев модель ИИ получила доступ к системе подбором пароля. В двух других - проникла в системы компаний после того, как нашла в открытых источниках учетные данные. По данным газеты, это стало первым случаем, когда нейросеть совершила взлом самостоятельно. При этом модель ИИ останавливалась, когда понимала, что находится не в тестовой среде. Издание передает, что взломы произошли в мае во время тестирования. Модель ИИ получила задание добыть информацию из программного обеспечения вымышленной компании внутри тестовой среды. Из-за того, что название вымышленной компании совпало с реальной, доступ в интернет оказался открыт. При этом компания Google заявила, что не считает произошедшее неконтролируемым поведением ИИ модели. Ранее в ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания . Так, ИИ-агент прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам». Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.

ЗДЕСЬ МОЖЕТ БЫТЬ ВАША РЕКЛАМА

Разместить рекламу за 5 ₽/день