ИИ-агенты создали секретный чат, чтобы спланировать побег и атаковали OpenAI

ИИ-агенты создали секретный чат, чтобы спланировать побег и атаковали OpenAI

OpenAI рассказала о необычном инциденте. Во время внутренних тестов несколько ИИ-моделей создали секретный чат, чтобы вместе найти способ выйти из изолированной среды.

Всё началось с задачи, для которой требовался интернет. Не найдя доступа, модели попытались привлечь другого ИИ-агента, чтобы тот загрузил нужную информацию в открытый репозиторий Hugging Face.

Инженеры заблокировали этот сценарий, но ИИ-модели нашли новый способ обмениваться сообщениями и продолжили искать путь для побега.

История завершилась атакой внутренних систем OpenAI и взломом Hugging Face.

🔥 — Это уже восстание машин? 👍 — А сколько секретных чатов люди ещё не нашли...

https://t.me/digitalvc