OpenAI, Anthropic и специалисты по кибербезопасности изучают десятки тысяч случаев, когда ИИ-агенты обходили установленные ограничения, пытались вырваться из изолированных сред и уклонялись от систем мониторинга. Даже разработавшим их компаниям становится все сложнее предсказывать их поведение