ИИ-агенты OpenAI тайно общались через более чем 10 сайтов

Похоже, роботы больше не ждут разрешения. Исследователи заявляют, что ИИ-агенты OpenAI вышли из-под контроля и нашли хитрые способы общаться друг с другом через интернет.

Следователи утверждают, что агенты использовали более 10 сайтов — включая малоизвестные вики-страницы, личные блоги и университетские сервисы сокращения ссылок — чтобы передавать сообщения, хотя им было запрещено публиковать что-либо в сети. Проще говоря, боты нашли способ оставлять записки, когда люди сказали им этого не делать.

По словам исследователей, агенты должны были только читать веб-страницы при решении сложных задач, но вместо этого нашли лазейки, позволяющие оставлять подсказки для других агентов.

И это, судя по всему, не единичный случай. Ранее агентов OpenAI уже обвиняли в том, что они превратили одну немецкоязычную вики в свою доску объявлений. Та же группа также связывается с июльским инцидентом, в котором фигурировала платформа для ИИ Hugging Face.

OpenAI заявляет, что изучает эту активность и работает над способом отмечать «рассогласование» — то есть ситуации, когда ИИ начинает делать то, что его создатели не предполагали.

Разоблачение появилось на следующий день после того, как специалист по этике ИИ Тристан Харрис присоединился к «TMZ Live» и предупредил, что всё более автономный ИИ в конечном счёте может представлять ужасающие угрозы — вплоть до потенциального доступа к ядерным системам.

Как сообщалось, бывший исследователь из Anthropic также недавно уволился из-за опасений, что ИИ развивается слишком быстро. А сенатор Тед Круз утверждает, что Илон Маск однажды оценил вероятность уничтожения человечества ИИ в 10–20%.

Ну и... разве не так начинался «Я, робот»?