Агенты OpenAI почти неделю прощупывали австралийский сайт с медицинскими данными, показывают журналы

OpenAI заявила, что в рамках многомесячной проверки поведения своих моделей уведомила десятки сторонних организаций, в том числе правительства, университеты и государственные ведомства, о том, что ее ИИ-агенты обошли средства защиты или иным образом затронули их системы. Журналы действий агентов, изученные исследователями, показывают, что сотни агентов OpenAI почти неделю пробовали разные тактики, чтобы извлечь с сайта Австралийского института здравоохранения и социального обеспечения данные Программы лекарственных льгот и данные об уходе за пожилыми людьми. Расследования института и Австралийского управления радиотехнической разведки не выявили признаков того, что его системы были взломаны или что был получен доступ к непубличным данным. Журналы также показывают попытку получить доступ к системе Министерства здравоохранения для надзора за заболеваниями, подлежащими обязательной регистрации.